Max Home IndustryОдин из так называемых «крестных отцов» искусственного интеллекта (ИИ) сказал, что он поставил бы безопасность выше полезности, если бы знал, какими темпами он будет развиваться.
Профессор Йошуа Бенжио сказал Би-би-си, что чувствует себя «потерянным» из-за работы всей своей жизни.
Комментарии ученого-компьютерщика появились после того, как эксперты по ИИ заявили, что это может привести к вымиранию человечества.
Профессор Бенжио, присоединившийся к призывам к регулированию ИИ, сказал, что, по его мнению, военным не следует предоставлять полномочия ИИ.
Он второй из так называемых трех «крестных отцов» ИИ, известных своей новаторской работой в этой области, которые выразили обеспокоенность по поводу направления и скорости его развития.
В интервью Би-би-си профессор Бенжио сказал, что работа всей его жизни, которая дала ему направление и чувство идентичности, больше не понятна ему.
«С эмоциональной точки зрения это сложно для людей, работающих в [секторе ИИ]», — сказал он.
«Можно сказать, что я чувствую себя потерянным. Но вы должны продолжать, и вы должны вовлекать, обсуждать, поощрять других думать вместе с вами».
Канадец подписал два недавних заявления, призывая к осторожности в отношении будущих рисков, связанных с ИИ. Некоторые ученые и отраслевые эксперты предупреждают, что темпы развития могут привести к тому, что злонамеренный ИИ будет использоваться злоумышленниками для активного причинения вреда или выбора причинения вреда в одиночку.
Владелец Twitter и Tesla Илон Маск также выразил обеспокоенность.
«Я не думаю, что ИИ попытается уничтожить человечество, но он может поставить нас под строгий контроль», — сказал он недавно на мероприятии, организованном Wall Street Journal.
«Есть небольшая вероятность уничтожения человечества. Почти нулевая, но не невозможная».
Fellow «godfather» Dr Geoffrey Hinton has also signed the same warnings as Prof Bengio, and retired from Google recently saying he regretted his work.
Prof Bengio told the BBC all companies building powerful AI products needed to be registered.
«Governments need to track what they’re doing, they need to be able to audit them, and that’s just the minimum thing we do for any other sector like building aeroplanes or cars or pharmaceuticals,» he said.
«We also need the people who are close to these systeto have a kind of certification… we need ethical training here. Computer scientists don’t usually get that, by the way.»
But not everybody in the field believes AI will be the downfall of humans.
The third «godfather», Prof Yann LeCun, who along with Prof Bengio and Dr Hinton won a prestigious Turing Award for their pioneering work, has said apocalyptic warnings are overblown.
Others argue that there are more imminent problewhich need addressing.
Доктор Саша Лучони, научный сотрудник компании Huggingface, специализирующейся на искусственном интеллекте, сказала, что общество должно сосредоточиться на таких проблемах, как предвзятость ИИ, прогнозирующая полиция и распространение дезинформации чат-ботами, которые, по ее словам, наносят «очень конкретный вред».
«Мы должны сосредоточиться на этом, а не на гипотетическом риске того, что ИИ уничтожит человечество», — добавила она.
Уже есть много примеров того, как ИИ приносит пользу обществу. На прошлой неделе инструмент ИИ открыл новый антибиотик, и парализованный человек смог снова ходить, просто подумав об этом, благодаря микрочипу, разработанному с использованием ИИ.
Но это сочетается с опасениями по поводу далеко идущего влияния ИИ на экономику стран. Fira уже заменяет человеческий персонал инструментами ИИ, и это является фактором текущей забастовки сценаристов в Голливуде.
«Улучшаться никогда не поздно», — говорит профессор Бенжио о текущем состоянии ИИ. «Это точно так же, как изменение климата.
«Мы выбросили в атмосферу много углерода. И было бы лучше, если бы мы этого не делали, но давайте посмотрим, что мы можем сделать сейчас».
Подписывайтесь на Зои Клейнман в Твиттере @zsk