Max Home IndustryБи-би-си обнаружила, что педофилы используют технологию искусственного интеллекта (ИИ) для создания и продажи реалистичных материалов о сексуальном насилии над детьми.
Некоторые получают доступ к изображениям, оплачивая подписку на учетные записи на основных сайтах обмена контентом, таких как Patreon.
Patreon заявил, что придерживается политики «нулевой терпимости» к таким изображениям на своем сайте.
Совет начальника национальной полиции заявил, что «возмутительно», что некоторые платформы получают «огромную прибыль», но не берут на себя «моральную ответственность».
Создатели изображений злоупотреблений используют программное обеспечение искусственного интеллекта под названием Stable Diffusion, предназначенное для создания изображений для использования в искусстве или графическом дизайне.
ИИ позволяет компьютерам выполнять задачи, которые обычно требуют человеческого интеллекта.
Программное обеспечение Stable Diffusion позволяет пользователям описывать, используя словесные подсказки, любое изображение, которое они хотят, а затем программа создает изображение.
Но BBC обнаружила, что его используют для создания реалистичных изображений сексуального насилия над детьми, в том числе изнасилования младенцев и малышей.
Полиция Великобритании, занимающаяся онлайн-расследованием жестокого обращения с детьми, сообщает, что они уже сталкиваются с таким контентом.
Внештатный исследователь и журналист Октавия Шипшенкс занимается этим вопросом уже несколько месяцев. Она связалась с BBC через детскую благотворительную организацию NSPCC, чтобы рассказать о своих выводах.
«С тех пор, как стало возможным создавать изображения, созданные ИИ, произошел огромный поток… это не просто очень маленькие девочки, они [педофилы] говорят о малышах», — сказала она.
«Псевдоизображение», созданное компьютером и изображающее сексуальное насилие над детьми, рассматривается так же, как и настоящее изображение, и его владение, публикация или передача в Великобритании являются незаконными.
Руководитель Национального совета начальников полиции (NPCC) по защите детей Ян Кричли сказал, что было бы неправильно утверждать, что, поскольку на таких «синтетических» изображениях не изображены настоящие дети, никто не пострадал.
Он предупредил, что педофил может «перейти по этой шкале правонарушений от мысли к синтетическому и к фактическому жестокому обращению с живым ребенком».
Изображения со злоупотреблениями передаются через трехэтапный процесс:
- Педофилы делают изображения с помощью программного обеспечения ИИ
- Они продвигают изображения на таких платформах, как японский веб-сайт для обмена фотографиями под названием Pixiv.
- Эти учетные записи имеют ссылки, которые направляют клиентов к их более откровенным изображениям, за просмотр которых люди могут платить в учетных записях на таких сайтах, как Patreon.
Некоторые из создателей изображений публикуют свои работы в популярной японской социальной сети Pixiv, которая в основном используется художниками, делящимися мангой и аниме.
Но поскольку сайт размещен в Японии, где распространение сексуализированных карикатур и детских рисунков не является незаконным, создатели используют его для продвижения своей работы в группах и с помощью хэштегов, которые индексируют темы по ключевым словам.
Представитель Pixiv заявил, что компания уделяет огромное внимание решению этой проблемы. 31 мая он заявил, что запретил все фотореалистичные изображения сексуального содержания с участием несовершеннолетних.
Компания заявила, что активно усилила свою систему мониторинга и выделяет значительные ресурсы для противодействия проблемам, связанным с разработками в области ИИ.
Шипшенкс рассказала Би-би-си, что ее исследование показало, что пользователи, по-видимому, делают изображения жестокого обращения с детьми в промышленных масштабах.
«Объем просто огромен, поэтому люди [создатели] говорят: «Мы стремимся делать не менее 1000 изображений в месяц», — сказала она.
Комментарии пользователей к отдельным изображениям в Pixiv дают понять, что у них есть сексуальный интерес к детям, а некоторые пользователи даже предлагают предоставить изображения и видео жестокого обращения, которые не были созданы искусственным интеллектом.
Sheepshanks следит за некоторыми группами на платформе.
«В этих группах, в которых будет 100 участников, люди будут делиться: «О, вот ссылка на реальные вещи», — говорит она.
«Самая ужасная вещь, я даже не знал, что такие слова [описания] существуют».
Различные уровни цен
Многие учетные записи на Pixiv включают в свои биографии ссылки, направляющие людей к тому, что они называют своим «контентом без цензуры» на американском сайте обмена контентом Patreon для того, что они называют «контентом без цензуры».
Patreon оценивается примерно в 4 миллиарда долларов (3,1 миллиарда фунтов стерлингов), а у claito более 250 000 создателей, большинство из которых являются законными аккаунтами, принадлежащими известным знаменитостям, журналистам и писателям.
Поклонники могут поддерживать создателей, оформляя ежемесячные подписки на доступ к блогам, подкастам, видео и изображениям — всего за 3,85 доллара США (3 фунта стерлингов) в месяц.
Но наше расследование обнаружило учетные записи Patreon, предлагающие на продажу сгенерированные искусственным интеллектом фотореалистичные непристойные изображения детей с разным уровнем цен в зависимости от типа запрашиваемого материала.
Один написал в своем аккаунте: «Я тренирую своих девочек на своем ПК», добавив, что они показывают «подчинение». За 8,30 доллара (6,50 фунта стерлингов) в месяц другой пользователь предлагал «эксклюзивное искусство без цензуры».
BBC отправила Патреону один пример, который, как подтвердила платформа, был «полуреалистичным и нарушает наши правила». Сказали, что учетная запись была немедленно удалена.
Патреон заявил, что проводит политику «нулевой терпимости», настаивая на том, что «создатели не могут финансировать контент, посвященный сексуальным темам с участием несовершеннолетних».
Компания заявила, что увеличение вредоносного контента, созданного ИИ, в Интернете было «реальным и тревожным», добавив, что она «выявляла и удаляла все больше таких материалов».
«Мы уже запрещаем синтетические материалы для эксплуатации детей, созданные искусственным интеллектом», — говорится в сообщении, описывающем себя как «очень активное», с выделенными командами, технологиями и партнерскими отношениями для «обеспечения безопасности подростков».
Генератор изображений с искусственным интеллектом Stable Diffusion был создан в результате глобального сотрудничества между учеными и рядом компаний во главе с британской компанией Stability AI.
Было выпущено несколько версий с ограничениями, прописанными в коде, которые контролируют тип создаваемого контента.
Но в прошлом году для публики была выпущена более ранняя версия с открытым исходным кодом, которая позволяла пользователям удалять любые фильтры и обучать ее создавать любые изображения, в том числе нелегальные.
Stability AI заявил BBC, что «запрещает любое неправомерное использование в незаконных или аморальных целях на наших платформах, и наша политика ясно указывает на то, что это включает CSAM (материалы о сексуальном насилии над детьми).
«Мы решительно поддерживаем усилия правоохранительных органов против тех, кто злоупотребляет нашими продуктами в незаконных или гнусных целях».
Поскольку ИИ продолжает быстро развиваться, возникают вопросы о будущих рисках, которые он может представлять для конфиденциальности людей, их прав человека или их безопасности.
Ян Кричли из NPCC сказал, что он также обеспокоен тем, что поток реалистичных ИИ или «синтетических» изображений может замедлить процесс выявления реальных жертв жестокого обращения.
Он поясняет: «Это создает дополнительную потребность в полиции и правоохранительных органах, чтобы определить, где настоящий ребенок, где бы он ни находился в мире, подвергается насилию, а не искусственный или синтетический ребенок».
Кричли сказал, что, по его мнению, это был поворотный момент для общества.
«Мы можем гарантировать, что Интернет и технологии открывают фантастические возможности, которые они создают для молодых людей, или они могут стать гораздо более вредным местом», — сказал он.