Max Home IndustryБелый дом заявил, что семь ведущих компаний в области искусственного интеллекта взяли на себя обязательство управлять рисками, связанными с этой технологией.
Это будет включать тестирование безопасности ИИ и обнародование результатов этих тестов.
Представители Amazon, Anthropic, Google, Inflection, Meta, Microsoft и OpenAI присоединились к президенту США Джо Байдену, чтобы сделать объявление.
Далее следует ряд предупреждений о возможностях технологии.
Темпы, с которыми компании разрабатывают свои инструменты, вызвали опасения по поводу распространения дезинформации, особенно в преддверии президентских выборов в США в 2024 году.
В среду Meta, материнская компания Facebook, анонсировала собственный инструмент искусственного интеллекта под названием Llama 2.
Сэр Ник Клегг, президент по глобальным связям в Meta, сказал Би-би-си, что «ажиотаж несколько опережает технологии».
В рамках соглашения, подписанного в пятницу, компании договорились:
- Тестирование безопасности их систем искусственного интеллекта внутренними и внешними экспертами перед их выпуском.
- Обеспечение того, чтобы люди могли распознавать ИИ, внедряя водяные знаки.
- Публично сообщать о возможностях и ограничениях ИИ на регулярной основе.
- Изучение рисков, таких как предвзятость, дискриминация и вторжение в частную жизнь.
Цель состоит в том, чтобы людям было легко определить, когда онлайн-контент создается с помощью ИИ, добавил Белый дом.
Водяные знаки для контента, созданного ИИ, были среди тем, которые комиссар ЕС Тьерри Бретон обсуждал с исполнительным директором OpenAI Сэмом Альтманом во время июньского визита в Сан-Франциско.
«С нетерпением жду продолжения наших дискуссий, особенно о водяных знаках», — написал Бретон в твите, в котором был фрагмент видео о нем и Альтмане.
В видеоклипе Альтман сказал, что «хотел бы показать», что OpenAI делает с водяными знаками «очень скоро».
Добровольные меры безопасности, подписанные в пятницу, являются шагом к более жесткому регулированию ИИ в США.
Администрация также работает над исполнительным распоряжением, говорится в сообщении.
Белый дом заявил, что он также будет работать с союзниками над созданием международной структуры для управления разработкой и использованием ИИ.
Предупреждения о технологии включают в себя то, что она может быть использована для создания дезинформации и дестабилизации общества, и даже то, что она может представлять экзистенциальный риск для человечества, хотя некоторые новаторские ученые-компьютерщики говорят, что апокалиптические предупреждения преувеличены.