Max Home IndustryРазработка нового приложения, предназначенного для сокращения онлайн-просмотра материалов о сексуальном насилии над детьми, получила финансирование в размере 1,8 млн фунтов стерлингов от ЕС.
Он будет протестирован на добровольцах, которые обратились за помощью, потому что их привлекают незаконные изображения, и они хотят убедиться, что не могут действовать по своему желанию.
Установленное на таких устройствах, как телефоны, приложение будет определять и блокировать отображение вредоносных изображений и видео.
Есть надежда, что это поможет бороться с «растущим спросом» на изображения жестокого обращения с детьми.
Проект Protech представляет собой сотрудничество с участием организаций из ЕС и Великобритании.
Приложение проекта под названием Salus предназначено для работы в режиме реального времени с использованием искусственного интеллекта для выявления потенциальных материалов о сексуальном насилии над детьми и предотвращения их просмотра пользователями. Он также будет использовать другие более традиционные методы для блокировки контента.
Internet Watch Foundation, организация, которая занимается поиском, пометкой и удалением материалов о жестоком обращении с детьми, поможет обучить технологию искусственного интеллекта, разработанную британской компанией SafeToNet.
Том Фаррелл из SafeToNet, проработавший 19 лет в правоохранительных органах, сказал Би-би-си, что приложение не предназначено для того, чтобы сообщать о пользователях в полицию: «Люди, которые добровольно хотят перестать смотреть материалы о сексуальном насилии над детьми, явно не использовать такое решение, если они считают, что оно собиралось сообщить о них в правоохранительные органы».
«Практическая помощь»
Добровольцы, которые загрузят приложение, будут набраны через организации, работающие с людьми, ищущими помощи, потому что их привлекают онлайн-изображения жестокого обращения с детьми.
Одной из таких организаций является британская благотворительная организация Lucy Faithfull Foundation, у которой есть телефон доверия для тех, кто опасается загрузки нелегальных изображений и желает прекратить это. В том числе значительное количество людей, признающих себя педофилами, некоторые из которых уже осуждены.
Дональд Финдлейтер из фонда сказал, что такие инструменты, как новое приложение, могут помочь людям контролировать свое поведение, добавив: «Это практическая помощь людям, которые осознают свою уязвимость».
Члены проекта Protech надеются, что это сможет остановить «растущий спрос на материалы о сексуальном насилии над детьми в Интернете».
По данным NSPCC, в 2021/2022 году был совершен новый рекорд в 30 925 преступлений, связанных с хранением и распространением непристойных изображений детей.
В прошлом году в отчете аналитического центра Police Foundation говорилось, что количество преступлений, связанных с сексуальным насилием над детьми в Интернете, «просто превзошло возможности международных правоохранительных органов реагировать».
Участники проекта, которые говорили с Би-би-си, предположили, что одна только полиция не остановит людей, загружающих изображения.
Фаррелл утверждает, что с 2014 года в Великобритании было арестовано больше людей за хранение материалов о сексуальном насилии над детьми, чем в любой другой стране мира, и в процессе были выявлены несколько очень серьезных преступников.
Но миллионы людей по-прежнему просматривают изображения
«Поэтому арест не будет решением. Мы думаем, что можем работать над профилактикой и снижать спрос и доступность».
«Экспериментальный этап»
Многие детали работы приложения еще предстоит проработать. Ни один искусственный интеллект не идеален, и необходимо будет найти баланс между чрезмерной блокировкой, которая затруднит законное использование устройства, и недостаточной блокировкой, которая не может обнаружить многие изображения злоупотреблений.
Фаррелл говорит, что приложение будет тестироваться на «пилотном этапе» в пяти странах — Германии, Нидерландах, Бельгии, Ирландии и Великобритании с участием не менее 180 пользователей в течение 11 месяцев.
И эксперты, не участвующие в проекте, считают идею перспективной.
Профессор Белинда Уиндер из Университета Ноттингем Трент сказала, что это долгожданное событие, которое может поддержать людей, которые «хотят, чтобы им помогали сопротивляться их нездоровым побуждениям, и которые выиграют от этой системы безопасности».
Как и в случае со всеми новыми техническими инструментами, дьявол кроется в деталях, и у профессора Уиндера были вопросы о том, как это будет работать на практике, но он сказал: «Это положительный шаг в правильном направлении».