Max Home IndustryЧеловек, которого многие считают крестным отцом искусственного интеллекта (ИИ), уволился с работы, предупредив о растущих опасностях, связанных с разработками в этой области.
Джеффри Хинтон, 75 лет, объявил о своем уходе из Google в заявлении для New York Times, заявив, что теперь он сожалеет о своей работе.
Он сказал Би-би-си, что некоторые опасности чат-ботов с искусственным интеллектом «довольно страшны».
«Прямо сейчас они не умнее нас, насколько я могу судить. Но я думаю, что скоро они станут такими».
Новаторские исследования доктора Хинтона в области глубокого обучения и нейронных сетей проложили путь к современной системе искусственного интеллекта, подобной ChatGPT.
Но британско-канадский когнитивный психолог и компьютерный ученый сказал Би-би-си, что чат-бот может вскоре превзойти уровень информации, который хранится в человеческом мозгу.
«Прямо сейчас мы наблюдаем такие вещи, как GPT-4, затмевает человека по количеству общих знаний, которые у него есть, и затмевает их далеко. С точки зрения рассуждений, это не так хорошо, но уже делает простые вещи. рассуждения.
«А учитывая темпы прогресса, мы ожидаем, что ситуация улучшится довольно быстро. Так что нам нужно беспокоиться об этом».
В статье в New York Times доктор Хинтон упомянул «плохих актеров», которые попытаются использовать ИИ для «плохих дел».
На просьбу Би-би-си рассказать об этом подробнее, он ответил: «Это всего лишь своего рода сценарий наихудшего случая, своего рода кошмарный сценарий.
«Вы можете представить, например, что какой-нибудь плохой актер, такой как [президент россии Владимир] путин, решил дать роботам возможность создавать свои собственные подцели».
Ученый предупредил, что это в конечном итоге может «создать подцели, такие как «Мне нужно получить больше энергии»».
Он добавил: «Я пришел к выводу, что тот тип интеллекта, который мы развиваем, сильно отличается от того интеллекта, который у нас есть.
«Мы биологические системы, а это цифровые системы. И большая разница в том, что с цифровыми системами у вас есть много копий одного и того же набора весов, одной и той же модели мира.
«И все эти копии могут учиться по отдельности, но мгновенно делиться своими знаниями. Это как если бы у вас было 10 000 человек, и всякий раз, когда один человек что-то узнает, все автоматически это узнают. Вот почему эти чат-боты могут знать гораздо больше, чем любой другой человек».
Доктор Хинтон также сказал, что было несколько других причин уйти с работы.
«Во-первых, мне 75 лет. Так что пора уходить на пенсию. Во-вторых, я действительно хочу сказать несколько хороших слов о Google. И они вызывают больше доверия, если я не работаю в Google».
Он подчеркнул, что не хочет критиковать Google и что технический гигант вел себя «очень ответственно».
В своем заявлении главный научный сотрудник Google Джефф Дин сказал: «Мы по-прежнему привержены ответственному подходу к ИИ. Мы постоянно учимся понимать возникающие риски, а также смело внедряем инновации».