Полиция США использовала Clearview AI почти миллион раз

Компания Clearview, занимающаяся распознаванием лиц, провела почти миллион запросов в полицию США, сообщил ее основатель Би-би-си.

Генеральный директор Хоан Тон-Тат также сообщил, что теперь у Clearview есть 30 миллиардов изображений, скопированных с таких платформ, как Facebook, без разрешения пользователей.

Компания была неоднократно оштрафована на миллионы долларов в Европе и Австралии за нарушение конфиденциальности.

Критики утверждают, что использование полицией Clearview ставит всех в «постоянную очередь полиции».

«Всякий раз, когда у них появляется фотография подозреваемого, они сравнивают ее с вашим лицом», — говорит Мэтью Гуарагилия из Electronic Frontier Foundation. «Это слишком агрессивно».

Система Clearview позволяет заказчику из правоохранительных органов загружать фотографию лица и находить совпадения в базе данных из миллиардов изображений, которые она собрала.

Затем он предоставляет ссылки на то, где в Интернете появляются совпадающие изображения. Она считается одной из самых мощных и точных компаний по распознаванию лиц в мире.

Компании запрещено продавать свои услуги большинству американских компаний после того, как Американский союз гражданских свобод (ACLU) подал на Clearview AI в суд в Иллинойсе за нарушение закона о конфиденциальности.

Но есть исключение для полиции, и Тон-Тат говорит, что его программное обеспечение используется сотнями полицейских сил по всей территории США.

Полиция в США обычно не раскрывает, используют ли они это программное обеспечение, и оно запрещено в нескольких городах США, включая Портленд, Сан-Франциско и Сиэтл.

Использование распознавания лиц полицией часто преподносится общественности как средство, используемое только для совершения серьезных или насильственных преступлений.

В редком интервью правоохранительным органам об эффективности Clearview полиция Майами заявила, что они использовали программное обеспечение для всех видов преступлений, от убийств до магазинных краж.

Помощник начальника полиции Армандо Агилар сказал, что его команда использовала систему примерно 450 раз в год и что она помогла раскрыть несколько убийств.

Однако критики говорят, что почти нет законов, касающихся использования полицией системы распознавания лиц.

Агилар говорит, что полиция Майами относится к распознаванию лиц как к подсказке. «Мы не производим арест, потому что нам об этом говорит алгоритм», — говорит он. «Мы либо поместим это имя в фотографический ряд, либо решим дело традиционными способами».

Ошибочная личность

Есть несколько задокументированных случаев ошибочной идентификации полицией с помощью системы распознавания лиц. Однако отсутствие данных и прозрачности в отношении использования полицией означает, что истинная цифра, вероятно, намного выше.

Тон-Тат говорит, что ему неизвестно ни о каких случаях ошибочной идентификации с помощью Clearview. Он признает, что полиция производила неправомерные аресты с использованием технологии распознавания лиц, но приписывает это «плохой работе полиции».

Clearview часто указывает на исследования, которые показывают, что его точность составляет почти 100%. Но эти цифры часто основаны на фотографиях.

На самом деле точность Clearview зависит от качества изображения, которое в него подается, — то, что принимает Ton-That.

Борцы за гражданские права хотят, чтобы полицейские, использующие Clearview, открыто сообщали, когда они используются, и чтобы их точность открыто проверялась в суде. Они хотят, чтобы алгоритм был тщательно изучен независимыми экспертами, и скептически относятся к заявлениям компании.

Кейтлин Джексон — адвокат по уголовным делам из Нью-Йорка, выступающий против использования полицией системы распознавания лиц.

«Я думаю, что правда в том, что идея о том, что это невероятно точно, — это принятие желаемого за действительное», — говорит она. «Нет никакого способа узнать это, когда вы используете изображения в дикой природе, такие как скриншоты с камер видеонаблюдения».

Однако Тон-Тот сказал Би-би-си, что не хочет свидетельствовать в суде о ее достоверности.

«На самом деле мы не хотим свидетельствовать в суде о точности алгоритма… потому что следователи используют и другие методы, чтобы проверить его», — говорит он.

Тон-Тат говорит, что недавно он передал систему Clearview адвокатам защиты по конкретным делам. Он считает, что и прокуроры, и защитники должны иметь одинаковый доступ к технологии.

В прошлом году с Эндрю Конлина из Форт-Майерса, штат Флорида, были сняты обвинения против него после того, как Clearview использовали для поиска важного свидетеля.

Конлин был пассажиром в машине друга в марте 2017 года, когда она на большой скорости врезалась в пальмы.

Водитель выбросился из машины и погиб. Прохожий вытащил Конлина из-под обломков, но ушел, не сделав никаких заявлений.

Хотя Конлин сказал, что он был пассажиром, полиция подозревала, что он был за рулем, и ему было предъявлено обвинение в автомобильном убийстве.

У его адвокатов был образ прохожего с камеры наблюдения полиции. Незадолго до суда Тон-Тэт разрешил использовать Clearview в деле.

«Этот ИИ выдал его за три-пять секунд», — сказал BBC адвокат Конлина Кристофер О’Брайен. «Это было феноменально».

Свидетель, Винс Рамирес, заявил, что снял Конлина с пассажирского сиденья. Вскоре после этого обвинения были сняты.

Но даже несмотря на то, что были случаи, когда было доказано, что Clearview работает, некоторые считают, что цена за это слишком высока.

«Clearview — это частная компания, которая делает отпечатки лиц людей на основе их фотографий в Интернете без их согласия», — говорит Гуарагилия.

«Это огромная проблема для гражданских свобод и гражданских прав, и это абсолютно необходимо запретить».

Зрители в Великобритании могут посмотреть документальный фильм «Наш мир» в Clearview AI на BBC iPlayer.