Max Home IndustryКак сообщили BBC, система камеры, использующая искусственный интеллект и распознавание лиц, предназначенная для выявления эмоциональных состояний, была протестирована на уйгурах в Синьцзяне.
Инженер-программист утверждал, что установил такие системы в полицейских участках провинции.
Правозащитник, которому показали доказательства, назвал их шокирующими.
Посольство Китая в Лондоне не ответило напрямую на претензии, но заявляет, что политические и социальные права всех этнических групп гарантированы.
Синьцзян является домом для 12 миллионов уйгуров, принадлежащих к этническим меньшинствам, большинство из которых являются мусульманами.
Жители провинции находятся под ежедневным наблюдением. В этом районе также находятся весьма неоднозначные «центры перевоспитания», которые правозащитные группы называют лагерями строгого режима, где, по оценкам, содержится более миллиона человек.
Пекин всегда утверждал, что наблюдение необходимо в регионе, потому что, по его словам, сепаратисты, которые хотят создать собственное государство, убили сотни людей в результате террористических атак.
Инженер-программист согласился поговорить с программой BBC Panorama на условиях анонимности, поскольку опасается за свою безопасность. Компания, в которой он работал, также не разглашается.
Но он показал «Панораме» пять фотографий заключенных-уйгуров, на которых, как он утверждал, была протестирована система распознавания эмоций.
«Китайское правительство использует уйгуров в качестве подопытных для различных экспериментов, точно так же, как крысы используются в лабораториях», — сказал он.
И он обрисовал свою роль в установке камер в полицейских участках провинции: «Мы разместили камеру обнаружения эмоций на расстоянии 3 м от объекта. Она похожа на детектор лжи, но с гораздо более продвинутой технологией».
Он сказал, что офицеры использовали «удерживающие стулья», которые широко устанавливаются в полицейских участках по всему Китаю.
«Ваши запястья зафиксированы металлическими ограничителями, и то же самое относится к вашим лодыжкам».
Он представил доказательства того, как система ИИ обучена обнаруживать и анализировать даже мельчайшие изменения в выражении лица и порах кожи.
По его словам, программа создает круговую диаграмму, в которой красный сегмент представляет собой негативное или тревожное состояние души.
Он утверждал, что программное обеспечение предназначалось для «предварительного судебного решения без каких-либо достоверных доказательств».
Посольство Китая в Лондоне не ответило на вопросы об использовании программного обеспечения для распознавания эмоций в провинции, но заявило: «Политические, экономические и социальные права и свобода вероисповедания для всех этнических групп в Синьцзяне полностью гарантированы.
«Люди живут в гармонии, независимо от своего этнического происхождения, и живут стабильной и мирной жизнью без ограничения личной свободы».
Доказательства были предъявлены Софи Ричардсон, китайскому директору Human Rights Watch.
«Это шокирующий материал. Дело не только в том, что людей сводят к круговой диаграмме, это люди, которые находятся в крайне принудительных обстоятельствах, под огромным давлением, которые по понятным причинам нервничают, и это воспринимается как признак вины, и я думаю, что это глубоко проблематично «.
Подозрительное поведение
По словам Даррена Байлера из Университета Колорадо, уйгуры обычно должны предоставлять образцы ДНК местным властям, проходить цифровое сканирование, и большинству из них приходится загружать правительственное телефонное приложение, которое собирает данные, включая списки контактов и текстовые сообщения.
«Уйгурская жизнь сейчас сводится к сбору данных», — сказал он.
«Все знают, что смартфон — это то, что вы должны носить с собой, и если вы не возьмете его с собой, вас могут задержать, они знают, что он отслеживает вас. И они чувствуют, что выхода нет», — сказал он. .
Большая часть данных вводится в компьютерную систему под названием Integrated Joint Operations Platform, которая, как утверждает Хьюман Райтс Вотч, выявляет предположительно подозрительное поведение.
«Система собирает информацию о десятках различных видов совершенно законного поведения, в том числе о том, выходят ли люди через черный ход, а не через парадный, заправляют ли они бензин в машине, которая им не принадлежит», — сказал Мисс Ричардсон.
«Власти теперь размещают QR-коды у дверей домов людей, чтобы они могли легко узнать, кто должен быть там, а кто нет».
Оруэлловский?
Уже давно ведутся споры о том, насколько тесно китайские технологические компании связаны с государством. Американская исследовательская группа IPVM утверждает, что обнаружила доказательства в патентах, поданных такими компаниями, которые предполагают, что продукты для распознавания лиц были специально разработаны для идентификации уйгуров.
Патент, поданный в июле 2018 года Huawei и Китайской академией наук, описывает продукт для распознавания лиц, который может идентифицировать людей на основе их этнической принадлежности.
Huawei заявила в ответ, что «не потворствует использованию технологий для дискриминации или притеснения членов какого-либо сообщества» и что она «независима от правительства», где бы она ни действовала.
Группа также нашла документ, который, по-видимому, предполагает, что компания разрабатывала технологию для так называемой системы «Один человек — один файл».
«Для каждого человека правительство будет хранить его личную информацию, его политическую деятельность, отношения … все, что может дать вам представление о том, как этот человек будет себя вести и какую угрозу он может представлять», — сказал Конор Хили из IPVM.
«Это делает любой вид инакомыслия потенциально невозможным и создает для правительства истинную предсказуемость в поведении их граждан. Я не думаю, что [Джордж] Оруэлл когда-либо мог представить себе, что правительство может быть способным к такому анализу».
Huawei конкретно не рассматривала вопросы о своем участии в разработке технологии для системы «Один человек, один файл», но повторила, что она не зависит от правительства, где бы она ни работала.
Посольство Китая в Лондоне заявило, что «ничего не знает» об этих программах.
IPVM также заявила, что нашла маркетинговые материалы от китайской фирмы Hikvision, рекламирующие камеру искусственного интеллекта, обнаруживающую уйгуров, и патент на программное обеспечение, разработанное Dahua, другим технологическим гигантом, который также может идентифицировать уйгуров.
Dahua заявила, что ее патент относится ко всем 56 признанным этническим группам в Китае и не преднамеренно нацелен ни на одну из них.
Он добавил, что предоставляет «продукты и услуги, которые направлены на обеспечение безопасности людей» и соблюдает «законы и правила всех рынков», на которых он работает, включая Великобританию.
Hikvision заявила, что информация на ее веб-сайте неверна и «загружена в Интернет без соответствующей проверки», добавив, что она не продает и не имеет в своем ассортименте «функцию распознавания меньшинства или аналитическую технологию».
Доктор Лан Сюэ, председатель Национального комитета Китая по управлению ИИ, сказал, что ему ничего не известно о патентах.
«За пределами Китая существует множество подобных обвинений. Многие из них не точны и не соответствуют действительности», — сказал он BBC.
«Я думаю, что местное правительство Синьцзяна несло ответственность за реальную защиту людей Синьцзяна … если в таких условиях используются технологии, это вполне понятно», — сказал он.
Посольство Китая в Великобритании выступило более решительно, заявив BBC: «Не существует так называемой технологии распознавания лиц с использованием уйгурской аналитики».
Ежедневное наблюдение
По оценкам, в Китае находится половина из почти 800 миллионов камер наблюдения в мире.
В нем также есть большое количество умных городов, таких как Чунцин, где искусственный интеллект встроен в основу городской среды.
Журналист-расследователь из Чунцина Ху Лю рассказал «Панораме» о своем собственном опыте: «Как только вы выйдете из дома и войдете в лифт, вас запечатлит камера. Камеры есть повсюду».
«Когда я ухожу из дома, чтобы куда-то поехать, я вызываю такси, таксопарная компания загружает данные в правительство. Затем я могу пойти в кафе, чтобы встретиться с несколькими друзьями, и власти узнают мое местоположение через камеру в кафе.
«Были случаи, когда я встречался с некоторыми друзьями, и вскоре после этого со мной связывался кто-то из правительства. Они предупреждали меня:« Не видь того человека, не делай того и этого ».
«С искусственным интеллектом нам негде спрятаться», — сказал он.
Узнайте больше об этом на Панораме. Ты еще боишься, человек? — доступно в iPlayer с 26 мая.