Max Home IndustryКрупнейший в мире YouTube-блогер MrBeast и два ведущих BBC использовались в дипфейковых видеороликах, чтобы обманывать ничего не подозревающих людей в Интернете.
Дипфейки используют искусственный интеллект (ИИ), чтобы снимать видео с кем-либо, манипулируя его лицом или телом.
На этой неделе в TikTok появилось одно такое видео, в котором утверждается, что MrBeast предлагает людям новые iPhone за 2 доллара (1,65 фунта стерлингов).
Между тем, изображения звезд BBC Мэтью Амроливалы и Салли Бандок были использованы для продвижения известной аферы.
На видео в Facebook журналисты «представляют» Илона Маска, миллиардера, владельца X, бывшего Twitter, якобы продвигающего инвестиционные возможности.
В похожих исторических видеороликах утверждается, что он раздает деньги и криптовалюту.
BBC обратилась к владельцу Facebook Meta, который еще не удалил контент.
Вместо этого видео закрывается изображением, предупреждающим потенциальных зрителей о том, что они содержат ложную информацию, проверенную независимыми специалистами по проверке фактов FullFact, которые первыми сообщили о проблеме.
Между тем, представитель TikTok заявил, что компания удалила рекламу MrBeast в течение нескольких часов после ее загрузки, а аккаунт, в котором она была размещена, был удален за нарушение ее политики.
TikTok специально запрещает «синтетические медиа», которые «содержат изображение (визуальное или аудио) реального человека».
В сообщении на X, просмотренном более 28 миллионов раз, ютубер поделился фейковым видео и спросил, готовы ли платформы социальных сетей справиться с ростом количества этих дипфейков.
Как распознать дипфейк
За последние недели произошла серия громких дипфейков, а в понедельник Том Хэнкс предупредил, что в рекламе, которую, по-видимому, он рекламирует, шиллинг стоматологический план не был реальным.
По мере того, как системы искусственного интеллекта становятся все более мощными и совершенными, возникают опасения по поводу их способности создавать еще более реалистичные виртуальные версии реальных людей.
Вообще говоря, первый признак того, что видео может быть не тем, что он видит, — это просто то, что оно предлагает что-то бесплатно.
Но видео MrBeast все усложняет.
Ютубер сделал себе имя, раздавая автомобили, дома и деньги — в прошлом году на Хэллоуин он даже раздавал айфоны для трюков и угощений — так что легко понять, как люди могли поверить, что он дарил эти устройства в Интернете.
Но зоркие зрители и слушатели смогут заметить явные признаки того, что что-то не так.
Мошенники попытались выглядеть законопослушными, встроив в видео имя MrBeast в левом нижнем углу, а также синий знак подтверждения, используемый на многих различных платформах социальных сетей.
Но видео TikTok автоматически встраивают фактическое имя пользователя, загрузившего видео, под логотип TikTok.
Аккаунт, разместивший видео, не подтвержден и больше не существует.
Между тем, в видеороликах с участием ведущих BBC ошибки выражены сильнее.
Например, в видео Салли Бандок «ведущая» неправильно произносит число 15 как «пятнадцать подростков», а также странно произносит проект как «проект».
Она также говорит, что «более 3 миллиардов долларов «было» инвестировано в новый проект», а не «было инвестировано».
Эти ошибки могут быть небольшими, но по мере развития технологий и визуальных подсказок становится все менее очевидными, словесные ошибки, очень похожие на орфографические ошибки, которые вы часто встречаете в мошеннических электронных письмах, могут быть полезным способом определить, что что-то не так. является подделкой.
Мошенники использовали законное видео выступления Салли Бандок, в то время рассказывающей о том, что Маск взял на себя управление X, но создали впечатление, будто она говорит об инвестиционных возможностях с его участием.
В видео Мэтью Амроливаны есть похожие звуковые сигналы с искаженными звуками в начале некоторых предложений.
В этом видео есть множество индикаторов того, что все не так, как кажется. Текст отличается от текста, использованного BBC News, с орфографическими ошибками и странными формулировками.
Но есть, по крайней мере, одна показательная визуальная ошибка: кажется, что у «Илона Маска» глаз поверх левого глаза.
Этот тип сбоя часто встречается в дипфейках и возникает из-за проблем с технологией.
Но если вы когда-нибудь сомневаетесь, настоящее видео или нет, есть одно золотое правило, которому следует следовать: если в реальной жизни перед вами не стоит MrBeast или Илон Маск, не существует такой вещи, как бесплатный айфон.