Max Home IndustryИскусственный интеллект (ИИ) угрожает «перегрузить» дезинформацию и спровоцировать насилие на выборах, предупредил заместитель генерального прокурора США.
В эксклюзивном интервью BBC Лиза Монако назвала искусственный интеллект «палкой о двух концах».
Это может принести «глубокую пользу» обществу, но также может быть использовано «злоумышленниками» для «сеяния хаоса», добавила она.
И она рассказала о планах сделать использование ИИ преступниками отягчающим обстоятельством при вынесении приговоров в судах США.
Бывший федеральный прокурор, который находится в Великобритании, чтобы прочитать лекцию об искусственном интеллекте в Оксфордском университете, сказал, что жестокие преступники, применявшие оружие, были приговорены к более длительным срокам заключения.
«Поэтому мы собираемся применять тот же принцип и добиваться ужесточения приговоров и ужесточения приговоров для тех, кто злонамеренно использует ИИ для совершения своих преступлений», — сказала она BBC.
Она также рассказала об усилиях по защите ноябрьских выборов в США от срыва дезинформации с помощью искусственного интеллекта, такой как дипфейки (убедительные аудио- и видеозаписи политиков, говорящих то, чего они никогда не говорили) и фальшивые звонки, сгенерированные системой А, или звонки роботов.
На прошлой неделе Федеральная комиссия по связи США (FCC) признала незаконными звонки от роботов во время выборов.
Это произошло после того, как тысячам избирателей в Нью-Гэмпшире позвонил президент США Джо Байден и призвал их не голосовать на первичных выборах в январе.
Монако заявило: «Я думаю, именно такие действия вы увидите со стороны регулирующих органов, чтобы попытаться поставить некоторые барьеры вокруг использования этих технологий, особенно когда речь идет о выборах».
Она сказала, что правительство США работает с технологическими компаниями и другими странами, включая Великобританию, над борьбой с угрозой, исходящей от ИИ.
Но она добавила: «Я думаю, что мы еще увидим это, я думаю, что мы только начинаем видеть, как злоумышленники могут использовать эту технологию».
Учитывая, что в этом году более четырех миллиардов человек имеют право принять участие в выборах по всему миру, в том числе в США, Великобритании и Индии, Монако выразила обеспокоенность тем, что ИИ может оказать «фундаментальное влияние» на демократию.
На этой неделе мэр Лондона Садик Хан рассказал Би-би-си фальшивую аудиозапись того, как он якобы делал подстрекательские высказывания перед Днем перемирия, едва не вызвав «серьезные беспорядки».
Заместитель генерального прокурора США заявила, что она тоже обеспокоена насилием, возникающим в результате дезинформации с помощью искусственного интеллекта.
«Я очень обеспокоен… попытками злонамеренных субъектов, национальных государств или других лиц, использующих контент, созданный ИИ, для распространения и усиления ложной информации и дезинформации.
«Таким образом, это может иметь ряд последствий. Это может заставить людей не доверять источникам информации, которые они получают, отговорить их или сбить с толку, чтобы они не могли реализовать свое право голоса. Подстрекательство к насилию — это, конечно, то, что мы делаем. беспокоятся и просто сеют недоверие и потенциально хаос».
Монако также стремилось подчеркнуть потенциальные преимущества ИИ как инструмента борьбы с преступностью и того, что может помочь в расследованиях и судебных преследованиях.
ФБР использовало технологию искусственного интеллекта, чтобы «отсеивать информацию, которую мы получаем от общественности», а также анализировать данные и изображения в «некоторые из наших наиболее важных расследований», включая беспорядки в Капитолии США 6 января 2021 года, рассказала она изданию. Би-би-си.
В конечном итоге, по ее словам, потребуется сочетание действий со стороны технологических компаний и законодательства, чтобы установить соответствующие «ограждения» для ИИ и защитить демократию.