Max Home IndustryОткрытое письмо, подписанное десятками ученых со всего мира, призывает разработчиков искусственного интеллекта узнать больше о сознании по мере того, как система ИИ становится все более продвинутой.
«Воображать систему ИИ, обладающую чувствами и даже сознанием человеческого уровня, больше не из области научной фантастики», — говорится в нем.
Большинство экспертов сходятся во мнении, что ИИ далеко не такой уровень сложности.
Но он быстро развивается, и некоторые говорят, что развитие должно быть приостановлено.
Повышать осведомленность
Термин ИИ охватывает компьютерную систему, способную выполнять задачи, которые обычно требуют человеческого интеллекта. Сюда входят чат-боты, способные понимать вопросы и давать ответы, подобные человеческим, а также системы, способные распознавать объекты на изображениях.
Generative Pre-trained Transformer 4 (GPT-4), система искусственного интеллекта, разработанная OpenAI, создателем чат-бота ChatGPT, теперь может успешно сдать экзамен на адвоката, профессиональную квалификацию для юристов, хотя она все еще допускает ошибки и может делиться дезинформацией.
Но это только одна функция ИИ. Продукты искусственного интеллекта внедряются во многих секторах, включая исследования в области здравоохранения, маркетинг и финансы.
Технологический миллиардер Илон Маск подписал недавнее письмо, в котором говорится, что дальнейшие разработки ИИ должны быть приостановлены до тех пор, пока не будут разработаны и реализованы эффективные меры безопасности.
А во вторник его бывшая жена Таллула Райли написала в Твиттере, что искусственный общий интеллект (AGI) — ИИ, способный решать интеллектуальные задачи на уровне человека, — нуждается в «эквиваленте [активиста-эколога] Греты Тунберг» для повышения осведомленности и поощрения общественных дебатов.
Ассоциация науки о математическом сознании (AMCS), составившая открытое письмо под названием «Ответственное развитие повестки дня в области ИИ должно включать исследования сознания», заявила, что у нее нет мнения о том, следует ли приостановить развитие ИИ в целом.
Но это подтолкнуло к более глубокому научному пониманию сознания, того, как оно может применяться к ИИ и как общество может сосуществовать с ним.
«Быстрое развитие ИИ обнажает острую необходимость ускорить исследования в области науки о сознании», — говорится в письме.
Его подписали доктор Сьюзан Шнайдер, возглавлявшая американское космическое агентство НАСА, а также ученые из университетов Великобритании, США и Европы.
Выраженные чувства
В прошлом году инженер Google был уволен после того, как заявил, что система искусственного интеллекта разумна.
Блейк Лемуан написал большую языковую модель Google Lamda, которая лежит в основе его конкурента ChatGPT, Bard, выразил чувства.
Google утверждает, что Lamda делала именно то, для чего была запрограммирована — общалась по-человечески.
Но босс Google Сундар Пичаи недавно сказал американской новостной платформе CBS, что он «не полностью понимает», как работает Бард.
Он добавил, что человеческий разум также не был полностью изучен, поэтому AMCS призывает к дополнительным исследованиям.
Но вокруг ИИ столько же волнения, сколько и нервозности. Это модное слово в больших технологиях, и инвестиционные деньги вливаются в проекты, связанные с ИИ.
Выпущенный в ноябре ChatGPT мгновенно стал вирусной сенсацией, популистским «лицом» ИИ, и миллионы людей попробовали его.
Используя Интернет в качестве базы данных, он может давать письменные ответы на вопросы естественным, человеческим образом.
Microsoft, которая вложила значительные средства в OpenAI, говорит, что ИИ может облегчить рутинную работу, такую как офисное администрирование.
Недавний отчет Goldman Sachs предполагает, что ИИ может заменить эквивалент 300 миллионов рабочих мест с полной занятостью.
И хотя индустрия искусственного интеллекта создаст новые рабочие места для людей, они, вероятно, потребуют новых навыков.
Подписывайтесь на Зои Клейнман в Твиттере @zsk