Max Home IndustryБывший китайский чиновник высмеял крупный международный отчет по безопасности ИИ, подготовленный профессором «крестным отцом ИИ» Йошуа Бенджио и соавторами которого выступили 96 мировых экспертов — перед ним.
Фу Ин, бывший заместитель министра иностранных дел и бывший посол Китая в Великобритании, теперь является преподавателем в Университете Цинхуа в Пекине.
Пара выступила на панельной дискуссии перед двухдневным всемирным саммитом по ИИ, который начнется в Париже в понедельник.
Цель саммита — объединить мировых лидеров, руководителей технологических компаний и ученых для изучения влияния ИИ на общество, управление и окружающую среду.
Фу Ин начала с благодарности профессору Бенджио из Канады за «очень, очень длинный» документ, добавив, что китайский перевод растянулся примерно на 400 страниц, и она не дочитала его до конца.
Она также посмеялась над названием Института безопасности ИИ, членом которого является профессор Бенджио.
В Китае теперь есть свой эквивалент; но они решили назвать его Сетью развития и безопасности ИИ, сказала она, потому что уже есть много институтов, но эта формулировка подчеркивает важность сотрудничества.
На саммите действий в области ИИ будут присутствовать гости из 80 стран, среди которых генеральный директор OpenAI Сэм Альтман, президент Microsoft Брэд Смит и генеральный директор Google Сундар Пичаи среди крупных имен в сфере технологий США.
Илона Маска нет в списке приглашенных, но в настоящее время неизвестно, решит ли он присоединиться к ним.
Ключевое внимание уделяется регулированию ИИ в условиях все более раздробленного мира. Саммит проходит через несколько недель после сейсмического сдвига в отрасли, когда китайская компания DeepSeek представила мощную и недорогую модель ИИ, бросая вызов доминированию США.
Жаркие обмены мнениями между сторонами стали символом глобальной политической борьбы в мощной гонке ИИ, но Фу Ин также выразила сожаление по поводу негативного влияния текущих военных действий между США и Китаем на прогресс в области безопасности ИИ.
«В то время, когда наука движется по восходящей траектории, отношения падают в неправильном направлении, и это влияет на единство и сотрудничество в управлении рисками», — сказала она.
«Это очень прискорбно».
Она дала тщательно продуманный взгляд за кулисы китайской сцены ИИ, описав «взрывной период» инноваций с тех пор, как страна впервые опубликовала свой план развития ИИ в 2017 году, за пять лет до того, как ChatGPT стал вирусной сенсацией на Западе.
Она добавила, что «когда темпы [развития] быстрые, происходят рискованные вещи», но не стала подробно рассказывать о том, что могло произойти.
«Китайцы движутся быстрее [запада], но это полно проблем», — сказала она.
Фу Ин утверждала, что создание инструментов ИИ на основе открытого исходного кода, то есть каждый может видеть, как они работают, и, следовательно, вносить вклад в их улучшение, является наиболее эффективным способом убедиться, что технология не причиняет вреда.
Большинство американских технологических гигантов не делятся технологиями, которые лежат в основе их продуктов.
Открытый исходный код предлагает людям «лучшие возможности для обнаружения и решения проблем», сказала она, добавив, что «отсутствие прозрачности среди гигантов заставляет людей нервничать».
Но профессор Бенджио не согласился.
Он считал, что открытый исходный код также оставил технологию открытой для злоупотреблений со стороны преступников.
Однако он признал, что «с точки зрения безопасности» было легче обнаружить проблемы с вирусным китайским помощником на основе искусственного интеллекта DeepSeek, который был создан с использованием архитектуры с открытым исходным кодом, чем с ChatGPT, код которого не был предоставлен его создателем OpenAI.
Во вторник наступит очередь мировых лидеров, включая президента Франции Эммануэля Макрона, премьер-министра Индии Нарендру Моди и вице-президента США Дж. Д. Вэнса, провести переговоры на саммите.
Обсуждения будут включать в себя то, как ИИ повлияет на сферу труда и будет использоваться в общественных интересах, а также как снизить его риски.
Также было объявлено о новом партнерстве стоимостью 400 млн долларов между несколькими странами, направленном на поддержку инициатив в области ИИ, которые служат общественным интересам, таким как здравоохранение.
В интервью BBC министр технологий Великобритании Питер Кайл сказал, что, по его мнению, для Великобритании было бы опасно отставать в принятии этой технологии.
Доктор Лора Гилберт, которая консультирует правительство по вопросам ИИ, сказала, что, по ее мнению, важно поддерживать NHS из-за эффективности, которую она обещает. «Как вы собираетесь финансировать NHS, не захватив ИИ?» — спросила она.
Мэтт Клиффорд, который написал План действий Великобритании по ИИ, который правительство полностью приняло, предупредил, что эта технология будет «более радикальной», чем когда набор текста был заменен текстовым редактором, когда компьютеры впервые появились на рабочих местах.
«Промышленная революция — это автоматизация физического труда; ИИ — это автоматизация когнитивного труда», — сказал Марк Уорнер, руководитель компании Faculty, занимающейся ИИ. Он добавил, что не верит, что его двухлетний ребенок «будет иметь работу, которую мы знаем сегодня».