Инспекторы обнаружили, что некоторые офицеры действовали в отношении потенциальных совпадений в результате ретроспективных обысков, не проведя достаточных проверок.
В официальном отчете говорится, что полицейские рискуют арестовать невиновных людей, особенно представителей этнических меньшинств, если они будут рассматривать неточные данные распознавания лиц как доказательства.
Хотя эта технология может помочь в борьбе с преступностью, в отчете говорится, что она полна ошибок и предвзятости, и операторы не всегда осознают, что им необходимо проводить дополнительные расследования для проверки данных.
В докладе Инспекции полиции Его Величества, опубликованном в среду, рассматривается только ретроспективное распознавание лиц. Эта технология считается менее спорной и менее сложной в использовании, чем живое распознавание лиц, которое используется в режиме реального времени для поиска подозреваемых.
«Некоторые следователи не знали, что результаты RFR были разведывательными, а не доказательствами, и требовали дальнейшего расследования, прежде чем офицеры предпримут правоприменительные меры», — говорится в отчете.
«Это создает риск того, что люди могут быть неправильно идентифицированы или арестованы, что может подорвать доверие общества к технологии.
"Мы обнаружили, что некоторые следователи не всегда проводили достаточное количество подтверждающих запросов, прежде чем действовать в отношении потенциальных совпадений. В небольшом количестве случаев офицеры слишком сильно полагались на результаты RFR, что приводило к ненадлежащим следственным действиям".
В отчете говорится, что в алгоритме по-прежнему существуют проблемы с предвзятостью, в том числе с большей вероятностью ошибочно помечать людей из этнических меньшинств как подозреваемых.
В нем говорится: "Необходимо сделать больше, чтобы снизить риски ошибочного ареста людей... Аудиторы также выявили случаи, когда пользователи загружали некачественные или неподходящие пробные изображения, в том числе размытые изображения и изображения, содержащие несколько лиц. Эти факторы снижали способность системы выявлять достоверные совпадения".
Инспекторы также обнаружили риск подрыва общественного доверия, поскольку изображения содержания под стражей, которые должны были быть удалены, на самом деле были сохранены.
В отчете говорится: "Инспекторы обнаружили, что законодательство не поспевает за изменениями в технологии распознавания лиц, и не существует всеобъемлющей нормативной базы, регулирующей использование этой технологии. Это затрудняет для силовиков понимание законной основы для использования RFR и того, какие гарантии необходимы для защиты населения".
Инспектор полиции Его Величества Кэтрин Стоун заявила, что дальнейшая общественная поддержка зависит от демонстрации того, что технология используется должным образом: "Полицейские силы должны быть в состоянии продемонстрировать, что соответствующие меры защиты имеются, риски, связанные с предвзятостью и сохранением данных, эффективно управляются, а решения по-прежнему подлежат человеческому суждению. Более четкая законодательная база, более строгие национальные стандарты и улучшенные механизмы управления и надзора имеют важное значение для поддержания общественного доверия".
Распознавание лиц рассматривается начальниками полиции как следующий большой шаг вперед в борьбе с преступностью, а скептики — как очередная огромная угроза гражданским свободам.
Джаслин Чаггар из Big Brother Watch сказала: «Откровения о том, что офицеры рассматривают распознавание лиц как достоверное доказательство, а не как оценку вероятности, вызывают тревогу.
«Такой подход значительно увеличивает риск того, что к большему количеству невиновных людей полицейские постучатся в двери и арестуют их за преступления, совершенные в городах, которые они никогда не посещали, как мы видели раньше.
«Что еще хуже, полиция даже не регистрирует использование ретроспективного распознавания лиц, а это означает, что люди могут ошибочно стать подозреваемыми в уголовных расследованиях, даже не осознавая, почему их обвиняют.
«Нельзя позволить полиции продолжать использовать алгоритм с таким малым количеством гарантий и в предвзятых условиях, которые с большей вероятностью будут ошибочно идентифицировать женщин, азиатов и чернокожих людей и искать миллионы незаконно удерживаемых изображений».
Бен Рассел, руководитель отдела распознавания лиц в Национальном совете начальников полиции, сказал: «Полиция по-прежнему привержена этичному, пропорциональному и ответственному использованию ретроспективного распознавания лиц, чтобы помочь расследовать преступления, привлечь правонарушителей к ответственности и обеспечить безопасность сообществ, и мы рады, что HMICFRS признал захватывающие возможности этой технологии».
Профессор Пит Фасси из Университета Саутгемптона, бывший советник полиции по распознаванию лиц, сказал: «Значительная проверка человеком систем искусственного интеллекта является юридическим требованием, однако в отчете приводятся примеры того, как следователи принимают предложения компьютера за чистую монету без дальнейших проверок».
