Max Home IndustryGoogle тестирует цифровой водяной знак для обнаружения изображений, созданных искусственным интеллектом (ИИ), в попытке бороться с дезинформацией.
SynthID, разработанный Deepmind, подразделением Google по искусственному интеллекту, будет идентифицировать изображения, созданные машинами.
Он работает путем внедрения изменений в отдельные пиксели изображений, поэтому водяные знаки невидимы для человеческого глаза, но обнаруживаются компьютерами.
Но DeepMind заявила, что она не «защищена от экстремальных манипуляций с изображениями».
По мере развития технологий становится все сложнее отличить реальные изображения от искусственно созданных, как показывает викторина BBC Bitesize AI или Real.
Генераторы изображений с использованием искусственного интеллекта стали мейнстримом: популярный инструмент Midjourney насчитывает более 14,5 миллионов пользователей.
Они позволяют людям создавать изображения за считанные секунды, вводя простые текстовые инструкции, что приводит к вопросам об авторских правах и правах собственности во всем мире.
У Google есть собственный генератор изображений под названием Imagen, и его система создания и проверки водяных знаков будет применяться только к изображениям, созданным с помощью этого инструмента.
Невидимый
Водяные знаки обычно представляют собой логотип или текст, добавляемый к изображению, чтобы показать право собственности, а также частично для того, чтобы затруднить копирование и использование изображения без разрешения.
Он присутствует на изображениях, используемых на веб-сайте BBC News, которые обычно содержат водяной знак авторских прав в левом нижнем углу.
Но такие водяные знаки не подходят для идентификации изображений, созданных AI, поскольку их можно легко отредактировать или обрезать.
Технологические компании используют технику, называемую хешированием, для создания цифровых «отпечатков пальцев» известных видеороликов о насилии, чтобы они могли обнаружить их и быстро удалить, если они начнут распространяться в Интернете. Но они тоже могут быть повреждены, если видео обрезано или отредактировано.
Система Google создает практически невидимый водяной знак, который позволит людям использовать ее программное обеспечение, чтобы мгновенно узнать, настоящее ли изображение или оно сделано машиной.
Пушмит Кохли, руководитель исследовательского отдела DeepMind, рассказал BBC, что его система настолько тонко изменяет изображения, «что для нас с вами, для человека, это не меняется».
По его словам, в отличие от хеширования, даже после того, как изображение впоследствии будет обрезано или отредактировано, программное обеспечение фирмы все равно сможет определить наличие водяного знака.
«Вы можете изменить цвет, контрастность, даже изменить размер… [и DeepMind] все равно сможет увидеть, что оно сгенерировано искусственным интеллектом», — сказал он.
Но он предупредил, что это «экспериментальный запуск» системы, и компании нужны люди, которые будут ее использовать, чтобы узнать больше о ее надежности.
Стандартизация
В июле Google была одной из семи ведущих компаний в области искусственного интеллекта, подписавших в США добровольное соглашение, обеспечивающее безопасную разработку и использование ИИ, которое включало в себя обеспечение того, чтобы люди могли распознавать компьютерные изображения путем внедрения водяных знаков.
Кохли сказал, что этот шаг отражает эти обязательства, но Клэр Лейбович из предвыборной группы «Партнерство в области ИИ» заявила, что между предприятиями необходимо усилить координацию.
«Я думаю, что стандартизация будет полезна для этой области», — сказала она.
«Существуют различные методы, нам необходимо отслеживать их влияние – как мы можем получить более качественную отчетность о том, какие из них работают и с какой целью?
«Многие учреждения изучают разные методы, что добавляет две степени сложности, поскольку наша информационная экосистема опирается на разные методы интерпретации и отказа от того, что контент создан искусственным интеллектом», — сказала она.
Microsoft и Amazon входят в число крупных технологических компаний, которые, как и Google, обязались ставить водяные знаки на некоторый контент, созданный искусственным интеллектом.
Помимо изображений, Meta опубликовала исследовательскую работу для своего неизданного видеогенератора Make-A-Video, в которой говорится, что к сгенерированным видео будут добавляться водяные знаки, чтобы удовлетворить аналогичные требования к прозрачности по сравнению с работами, созданными ИИ.
В начале этого года Китай полностью запретил сгенерированные искусственным интеллектом изображения без водяных знаков, а компания Alibaba начала применять их к творениям, созданным с помощью инструмента преобразования текста в изображения своего облачного подразделения Tongyi Wanxiang.