Max Home IndustryВ прошлом месяце скандальная компания по распознаванию лиц Clearview AI объявила, что передала свою технологию правительству Украины.
BBC были предоставлены доказательства того, как он используется — более чем в тысяче случаев — для идентификации как живых, так и мертвых.
Эта история содержит графические описания, которые могут расстроить некоторых читателей.
Мужчина неподвижно лежит на полу, наклонив голову вниз. Его тело обнажено, если не считать пары боксеров Calvin Klein. Его глаза окружены тем, что похоже на синяки.
Тело нашли в Харькове, на востоке Украины — в развалинах войны. Би-би-си видела фотографии, сделанные на месте происшествия, но не знает обстоятельств его смерти. Имеются явные признаки черепно-мозговой травмы. У него также была татуировка на левом плече.
Украинские власти не знали, кто этот человек, поэтому решили обратиться к передовому методу: распознаванию лиц с помощью искусственного интеллекта.
Clearview, пожалуй, самая известная и противоречивая система распознавания лиц в мире.
Компания собрала миллиарды фотографий из социальных сетей, таких как Facebook и Twitter, чтобы создать огромную базу данных того, что ее генеральный директор и основатель Хоан Тон-Тат называет «поисковиком лиц».
«Это похоже на Google. Но вместо того, чтобы вводить строку слов или текста, пользователь вставляет фотографию лица», — объясняет г-н Тон-Тат.
Компания столкнулась с рядом юридических проблем. Facebook, YouTube, Google и Twitter отправили Clearview письма с требованием прекратить использование изображений с сайтов. Управление Комиссара по информации Великобритании даже оштрафовало компанию за то, что она не сообщила людям, что собирает их фотографии.
Теперь его использование украинским правительством подняло вопросы о последствиях внедрения этой мощной технологии в активную войну.
Clearview широко используется, хотя и с разногласиями, правоохранительными органами Америки. Ton-That говорит, что 3200 правительственных учреждений либо купили, либо опробовали эту технологию.
После вторжения Владимира Путина в Украину основатель Clearview увидел еще одно применение этой технологии.
«Мы видели изображения людей, которые были военнопленными и спасались бегством, и вы знаете, это заставило нас задуматься о том, что потенциально это может быть технология, которая может быть полезна для идентификации, а также для проверки», — говорит он.
Он быстро предложил украинскому правительству технологию, и предложение было принято.
Вернувшись в Харьков, власти сфотографировали лицо убитого – голова поднята, запавшие глаза направлены в камеру.
Они сделали снимок и прогнали его через базу данных Clearview. Поиск выдал несколько фотографий человека, очень похожего на убитого.
Одна фотография была сделана в жаркий день. Мужчина был без рубашки. У него была татуировка на левом плече.
Дизайн совпал. У них было имя.
Использование распознавания лиц для идентификации мертвых не ново, и Clearview — не единственная платформа, используемая для этого в Украине.
«Мы используем этот материал уже много лет, — говорит Арик Толер, директор по исследованиям Bellingcat, организации, специализирующейся на журналистских расследованиях.
В 2019 году команда Bellingcat использовала технологию распознавания лиц, чтобы идентифицировать россиянина, снимавшего пытки и убийство заключенного в Сирии. Это не первая война распознавания лиц.
Но его применение в Украине шире, чем в любом предыдущем конфликте. Г-н Толер говорит, что он использует платформу распознавания лиц FindClone в России, и что она особенно полезна для идентификации погибших российских солдат.
Как и в случае с Clearview, FindClone выполняет поиск по общедоступным изображениям в Интернете, включая российские страницы в социальных сетях.
Можно найти даже людей, у которых нет социальных аккаунтов.
«У них может не быть профиля в социальных сетях, но их жены или подруги могут… иногда у них есть профили, и они живут в маленьком городке с большой военной базой. Или у них может быть много друзей, которые сейчас служат в их части», Г-н Толер объясняет, описывая использование FindClone в качестве инструмента расследования.
Этот последний пункт имеет основополагающее значение для понимания возможностей технологии распознавания лиц.
Это означает, что даже если у человека никогда не было профиля в социальных сетях и он думает, что стер свое изображение из Интернета, его все равно можно найти. Появляясь на фотографии, загруженной другом, или просто находясь на фоне случайной картинки в Интернете, они заносятся в базу данных.
Это означает, что даже военных или сотрудников службы безопасности, которые почти не присутствуют в Интернете, все еще можно отследить.
Вопрос точности
Однако критики отмечают, что технология распознавания лиц далеко не всегда верна, а во время войны ошибки могут иметь потенциально катастрофические последствия.
Clearview используется не только для опознания трупов в Украине. Компания также подтвердила, что правительство Украины использовало ее на контрольно-пропускных пунктах для выявления подозреваемых врагов.
Clearview показала Би-би-си электронное письмо от украинского агентства, подтверждающее, что система использовалась для идентификации живых.
«Система дала нам возможность быстро подтвердить достоверность данных о задержанных подозреваемых», — говорится в электронном письме от украинского чиновника, который не пожелал назвать свое имя.
«Во время использования Clearview AI было выполнено более 1000 поисковых запросов для проведения соответствующей проверки и идентификации», — говорится в электронном письме.
Это беспокоит некоторых аналитиков.
Конор Хили — эксперт по распознаванию лиц в IPVM, организации, занимающейся анализом технологий безопасности.
«Украинским силам важно осознать, что это не 100% точный способ определить, кто вам друг, а кто враг», — говорит Хили.
«Это не должна быть технология жизни или смерти, когда вы либо проходите, либо терпите неудачу, где вас могут посадить в тюрьму или, не дай бог, даже убить. Это вообще не должно использоваться так».
Другие выпустили более страшные предупреждения. Альберт Фокс Кан из надзорной группы Surveillance Technology Oversight Project назвал это «надвигающейся катастрофой в области прав человека».
«Когда распознавание лиц делает ошибки в мирное время, людей арестовывают по ошибке. Когда распознавание лиц дает ошибки в зоне боевых действий, невинных людей расстреливают», — сказал он Forbes.
BBC обратилась к украинскому правительству за комментариями по поводу использования Clearview, но не получила ответа.
Тон-Тат защищал точность технологии Clearview, говоря, что тесты показали ее точность более чем на 99%.
Однако многое зависит от качества изображения, положения головы или того, закрыто ли лицо, например, маской.
Кроме того, есть проблема конфиденциальности, которая была проблематичной для Clearview в США и Европе. Компания извлекает общедоступные изображения из таких фирм, как Facebook и Instagram, для создания своей базы данных.
Но он не спрашивал социальные сети или вообще кого-либо, может ли он извлечь эти изображения. Если вы читаете это, вы почти наверняка находитесь в базе данных, хотя вы, вероятно, не давали Clearview разрешение на использование вашего изображения.
В прошлом году Управление Комиссара по информации Великобритании оштрафовало Clearview за то, что она не проинформировала людей о том, что собирает их фотографии с платформ социальных сетей.
Тон-Тат признает, что до сих пор ведутся споры о законности технологии распознавания лиц, но считает, что Clearview действует в рамках закона, заявив, что технология была «неправильно понята».
Однако технология распознавания лиц явно имеет антиутопическое применение. В ноябре прошлого года BBC сообщила, что в Китае разрабатываются планы использования технологии распознавания лиц для нацеливания на журналистов.
Тон-Тат говорит, что Clearview не допустила бы такого рода поиск, даже если бы их можно было использовать таким образом. Он говорит, что Clearview не работает с авторитарными правительствами и что компания не будет работать с Россией.
Однако технологии Clearview можно использовать в военном контексте. В прошлом году компания подписала контракт с Пентагоном, чтобы изучить возможность использования своих технологий, например, в очках дополненной реальности. Это одна из нескольких компаний, разрабатывающих ИИ для распознавания лиц по военным контрактам.
У защитников конфиденциальности есть и другое беспокойство. Технология распознавания лиц может пригодиться украинским властям в военное время. Но смогут ли они просто вернуть технологию Clearview в мирное время?
«Есть множество примеров технологий, которые внедрялись в военное время и сохранялись в мирное время, — говорит Хили.
«Я надеюсь, что это не тот подход, который они используют».