Max Home IndustryРегулирующие органы США проверяют компанию OpenAI, занимающуюся искусственным интеллектом, на предмет рисков для потребителей, связанных с созданием Chat GPT ложной информации.
Федеральная торговая комиссия (FTC) направила письмо компании, поддерживаемой Microsoft, с запросом информации о том, как она устраняет риски для репутации людей.
Запрос является признаком растущего контроля над технологией со стороны регулирующих органов.
OpenAI вызвал фурор с момента запуска своего чат-бота в прошлом году.
ChatGPT генерирует убедительные человеческие ответы на запросы пользователей за считанные секунды вместо серии ссылок, генерируемых традиционным поиском в Интернете. Ожидается, что он и аналогичные продукты ИИ кардинально изменят способ получения людьми информации, которую они ищут в Интернете.
Технические конкуренты стремятся предложить свои собственные версии технологии, даже несмотря на то, что она вызывает ожесточенные споры, в том числе по поводу используемых данных, точности ответов и того, нарушала ли компания права авторов при обучении технологии.
В письме FTC спрашивается, какие шаги предприняла OpenAI, чтобы реализовать потенциал своих продуктов для «генерирования заявлений о реальных людях, которые являются ложными, вводящими в заблуждение, пренебрежительными или вредными».
FTC также изучает подход OpenAI к конфиденциальности данных и то, как он получает данные для обучения и информирования ИИ.
Весной этого года Конгресс провел слушания по делу исполнительного директора OpenAI Сэма Альтмана, на которых он признал, что технология может быть источником ошибок. Он призвал разработать правила для развивающейся отрасли и рекомендовал создать новое агентство для решения этой проблемы. Он сказал, что ожидает, что технология окажет значительное влияние, поскольку ее использование станет очевидным, в том числе на рабочих местах.
«Я думаю, что если эта технология пойдет не так, она может пойти совсем не так… мы хотим заявить об этом», — сказал тогда Альтман. «Мы хотим работать с правительством, чтобы этого не произошло».
О расследовании Федеральной торговой комиссии впервые сообщило издание Washington Post, опубликовавшее копию письма. OpenAI не ответил на запрос о комментариях.
В FTC также отказались от комментариев. Организация по надзору за потребителями взяла на себя важную роль в надзоре за технологическими гигантами под своим нынешним председателем Линой Хан.
Хан приобрела известность как студентка юридического факультета Йельского университета, когда она раскритиковала действия Америки в отношении антимонопольного законодательства, связанного с Amazon.
Назначенная президентом Джо Байденом, она является неоднозначной фигурой, и критики утверждают, что она выталкивает FTC за пределы ее полномочий.
Некоторые из ее самых громких проблем, связанных с технической активностью, в том числе попытка заблокировать слияние Microsoft с игровым гигантом Activision Blizzard, столкнулись с неудачами в суде.
Во время пятичасовых слушаний в Конгрессе в четверг она столкнулась с жесткой критикой со стороны республиканцев по поводу ее руководства агентством.
Она не упомянула расследование FTC в отношении OpenAI, которое находится на предварительной стадии. Но она сказала, что у нее есть опасения по поводу выхода продукта.
«Мы слышали о сообщениях о том, что конфиденциальная информация людей появляется в ответ на запрос от кого-то еще», — сказал Хан.
«Мы слышали о клевете, клеветнических заявлениях, откровенно ложных вещах, которые появляются. Это тип мошенничества и обмана, который нас беспокоит», — добавила она.
Расследование Федеральной торговой комиссии — не первый вызов компании по подобным вопросам. Италия запретила ChatGPT в апреле, сославшись на соображения конфиденциальности. Служба была восстановлена после того, как добавила инструмент для проверки возраста пользователей и предоставила дополнительную информацию о своей политике конфиденциальности.