Американец почти год провел в тюрьме по обвинению в убийстве, которое было основано исключительно на доказательствах, представленных системой с алгоритмами искусственного интеллекта. Результаты экспертизы, базирующейся на данных решения ShotSpotter, которое фиксирует выстрелы из оружия в городах США, ставят под сомнение далеко не впервые.
Год в тюрьме из-за вердикта ИИ
Суд в Чикаго (Иллинойс, США) прекратил за отсутствием доказательств уголовное дело в отношении Майкла Уильямса (Michael Williams), подозреваемого в убийстве. Прокуратура настаивала на виновности мужчины на основании вердикта системы с искусственным интеллектом, которая «услышала» звук выстрела.
65-летний житель Чикаго Майл Уильямс провел последние 11 месяцев за решеткой в ожидании суда по подозрению в убийстве 25-летнего Сафэриана Херринга (Safarian Herring).
Примечательно, что ключевым доказательством против мужчины, взятым в оборот обвинением, стали показания ShotSpotter, компании, которая управляет чикагской общегородской системой обнаружения стрельбы. Она состоит из сети микрофонов, распределенных по населенному пункту.
Программное обеспечение ShotSpotter, натренированное при помощи алгоритмов машинного обучения, способно детектировать и локализовать выстрел из огнестрельного оружия по звуку и сообщить об этом в полицию.
Картина преступления
По словам Уильямса, как пишет The Register, в один из майских вечеров 2020 г. он направился за сигаретами на своем автомобиле и притормозил, завидев голосующего у дороги Херринга, в котором узнал соседа по кварталу. Уильямс согласился подвезти молодого парня.
Некоторое время спустя неизвестный автомобиль поравнялся с транспортным средством Уильямса и некто, расположившийся на пассажирском сидении, достал пистолет и выстрелил Херрингу в голову, рассказал Уильямс полицейским.
Уильямс отвез парня в больницу, однако тот все равно впоследствии скончался от полученных огнестрельных ранений, а пожилой чернокожий мужчина оказался главным и единственным подозреваемым в его убийстве.
Сомнительные доказательства и темное прошлое
По данным обвинения, искусственный интеллект ShotSpotter зафиксировал выстрел как раз в том месте, где Уильямс, будучи за рулем своей машины, попал в объектив дорожной камеры наблюдения. Как отмечает The Register, помимо этого, у стороны обвинения не было каких-либо иных доказательств: ни ясного мотива преступления, ни свидетелей, ни орудия убийства. Не на пользу Уильямсу пошло наличие судимости в прошлом. Во времена своей бурной молодости чернокожий джентльмен отбывал наказания за попытку убийства, ограбление и безответственное использование огнестрельного оружия.
Адвокаты Уильямса – общественные защитники Лиза Боутон (Lisa Boughton) и Брендан Макс (Brendan Max) – настаивали на том, что алгоритмы ShotSpotter якобы первоначально среагировали на звук фейерверка, запущенного в радиусе мили от места преступления. Однако затем к работе подключился персонал компании, представители которого и пришли к выводу о том, что источником звука был пистолет, находившийся в районе перекрестка, на котором камера видеонаблюдения и зафиксировала присутствие Уильямса.
Представители ShotSpotter, в свою очередь, уверенно заявляли, что сервис не модифицировал данные в угоду интересам полиции. В компании также подчеркнули, что вне зависимости от первоначальных выводов искусственного интеллекта относительно природы и источника звука, доказательства против Уильямса, представленные в суде, основываются на результатах криминалистической экспертизы.
Облака
После того, как защита Уильямса попросила суд отправить дело на доследование, сторона обвинения отозвала отчет ShotSpotter и ходатайствовала о прекращении дела за недостаточностью улик. В июле 2021 г. Уильямс вышел на свободу.
ShotSpotter ошибаться не впервой
По итогам собственного расследования, проведенного агентством Associated Press, журналистам удалось выявить целый ряд серьезных изъянов в работе системы ShotSpotter.
Так, в некоторых ситуациях система может просто проигнорировать выстрела из оружия, осуществленный прямо возле микрофонов, которые должны вычленять подобные звуки на фоне городского шума. Задокументированы случаи, когда ShotSpotter наоборот – принимала за выстрел звуки взрыва фейерверков или петард, а также хлопки в глушителе автомобиля. В некоторых случаях система давала сомнительные заключения о количестве произведенных выстрелов на месте преступления.
Также AP удалось обнаружить документы, подготовленные сотрудниками ShotSpotter и представленные в судах, содержащие некорректные выводы о том, что обвиняемый стрелял в представителей власти.
В ряде случаев суд отказывался принимать выводы ShotSpotter в качестве доказательств вины подсудимого.
Как отмечает AP, алгоритмы ShotSpotter являются коммерческой тайной компании, доступ к которой не могут получить ни представители общественности, ни коллегии присяжных, ни контролирующие деятельность полиции гражданские организации. Для всех, кроме сотрудников компании, технология представляет собой «черный ящик», принципы работы которой до конца не ясны, а надежность вызывает вопросы.
Кроме того, при идентификации оружейных выстрелов компания не всегда опирается исключительно на собственные «продвинутые» технологии. Сотрудники ShotSpotter, по данным информагентства, нередко модифицируют данные, собранные системой, например, корректируют координаты источника звука после дополнительного прослушивания и ручного анализа полученных аудиозаписей. Причем иногда кооперируются с полицией или, другими словами, «подгоняют» улики под версию правоохранительных органов.
