Max Home IndustryНезависимая организация, которая проверяет, как владелец Facebook модерирует онлайн-контент, заявила, что фирме следует маркировать фейковые публикации, а не удалять их.
Наблюдательный совет заявил, что Meta была права, не удаляя фейковое видео с президентом США Джо Байденом, поскольку оно не нарушает политику манипулирования СМИ.
Но в нем заявили, что эта политика «беспоследовательна» и ее следует расширить за пределы ее рамок в преддверии напряженного года выборов.
Представитель Meta сообщил BBC, что компания «пересматривает» руководство.
«[Мы] публично ответим на их рекомендации в течение 60 дней в соответствии с уставом», — заявила Мета.
Надзорный совет призвал к большему количеству маркировки фейковых материалов на Facebook, особенно если их нельзя удалить из-за определенного нарушения политики.
В компании заявили, что это может уменьшить зависимость от сторонних средств проверки фактов, предложить «более масштабируемый способ» обеспечить соблюдение манипулируемой медиа-политики и информировать пользователей о фальшивом или измененном контенте.
Компания добавила, что обеспокоена тем, что пользователи могут быть не проинформированы о том, почему контент был понижен в должности или удален, а также о том, как обжаловать такие решения.
В 2021 году — в первый год приема апелляций — правление Meta рассмотрело более миллиона апелляций по поводу публикаций, удаленных из Facebook и Instagram.
«Не имеет смысла»
В рассматриваемом видео были отредактированы существующие кадры президента США с внучкой, чтобы создать впечатление, будто он неуместно прикасался к ней.
Поскольку им не манипулировали с помощью искусственного интеллекта и изображали Байдена, который вел себя не так, как он, а не говорили то, чего он не говорил, он не нарушал политику Манипулирования СМИ Меты — и не был удален.
Майкл МакКоннелл, сопредседатель Наблюдательного совета, заявил, что политика в ее нынешнем виде «не имеет особого смысла».
«Он запрещает измененные видео, на которых люди говорят то, чего они не говорят, но не запрещает публикации, изображающие человека, делающего то, чего он не делал», — сказал он.
Он добавил, что его внимание сосредоточено исключительно на видео, и только на тех, которые созданы или изменены с использованием ИИ, «позволяет другому фейковому контенту уйти от ответственности», — идентифицируя фальшивый звук как «одну из самых мощных форм» электоральной дезинформации.
Звуковые подделки, часто создаваемые с помощью генеративных инструментов искусственного интеллекта, которые могут клонировать или манипулировать чьим-либо голосом, чтобы создать впечатление, что он сказал то, чего на самом деле не говорил, становится все более популярным.
В январе фальшивый звонок от робота, якобы от президента Байдена, предположительно созданный искусственно, призвал избирателей пропустить первичные выборы в Нью-Гэмпшире.
«Объем вводящего в заблуждение контента растет, а качество инструментов для его создания быстро растет», — сказал МакКоннелл.
«В то же время политические высказывания должны быть неукоснительно защищены. Иногда это включает утверждения, которые являются спорными и даже ложными, но не являются явно вредными», — добавил он.
«Дешевые подделки»
Сэм Грегори, исполнительный директор правозащитной организации Witness, заявил, что платформа должна иметь адаптивную политику, направленную на борьбу с так называемыми «дешевыми фейками», а также с созданными с помощью ИИ или измененными материалами, но она не должна быть чрезмерно ограничительной и рискованной. удаление сатирического или измененного с помощью ИИ контента, который не вводит в заблуждение.
«Одной из сильных сторон существующей манипулируемой медиа-политики Меты была ее оценка, основанная на том, может ли она «ввести в заблуждение обычного человека», — сказал он.
Наблюдательный совет заявил, что «очевидно», что клип с президентом Байденом был изменен, и поэтому он вряд ли введет в заблуждение обычных пользователей.
«Поскольку качество обмана с помощью ИИ и способы его осуществления постоянно улучшаются и изменяются, это важный элемент для поддержания динамики политики, поскольку ИИ и его использование становятся все более распространенными или более обманчивыми, или люди все больше к нему привыкают. «Сказал Григорий.
Он добавил, что маркировка фейковых публикаций будет эффективным решением для некоторого контента, например видео, которые были переработаны или повторно распространены с предыдущего мероприятия, но он скептически относится к эффективности автоматической маркировки контента, манипулируемого с помощью новых инструментов искусственного интеллекта.
«Для объяснения манипуляций необходимы контекстуальные знания», — сказал он.
«Страны глобального большинства окажутся в невыгодном положении как из-за некачественной автоматической маркировки контента, так и из-за отсутствия ресурсов для обеспечения доверия и безопасности, а также из-за модерации контента, а также независимой журналистики и проверки фактов».