Max Home IndustryВ Великобритании создан новый исследовательский центр для изучения потенциальной угрозы, которую представляет развитие человеческих технологий, включая риски искусственного интеллекта.
Центр по изучению экзистенциального риска Кембриджского университета будет открыт в следующем году. Его основателями являются профессор философии Хью Прайс, Королевский астроном и профессор космологии лорд Мартин Рис и соучредитель Skype Янн Таллинн.
Риски искусственного интеллекта
Основатели проекта разделяют обеспокоенность тем, что:
развитие человеческих технологий в скором времени может создать новые риски, угрожающие вымиранию нашего вида в целом. Такие опасности предполагаются в связи с прогрессом в области искусственного интеллекта, развитием биотехнологий и искусственной жизни, нанотехнологий и возможных экстремальных последствий антропогенного изменения климата. Серьезность этих рисков трудно оценить, но это само по себе кажется поводом для беспокойства, учитывая, как много поставлено на карту.
Говоря с Ассошиэйтед Пресс о потенциальной угрозе, исходящей от достижений в области сверхразумных технологий, профессор философии из Кембриджа Хью Прайс объяснил:
В случае с искусственным интеллектом представляется разумным предсказание, что когда-нибудь в этом или следующем столетии интеллект вырвется из-под ограничений биологии,
Когда это произойдет, «мы перестанем быть самыми умными существами вокруг» и рискуем оказаться во власти «машин, которые не являются вредоносными, но машины, чьи интересы не включают нас».
Признавая, что многие люди считают его опасения надуманными и из области научной фантастики, ссылаясь на HAL в фильме «2001 год: Космическая одиссея«, Прайс настаивает на том, что потенциальные риски серьезны:
Это склонно рассматриваться как взбалмошная забота, но учитывая, что мы не знаем, насколько серьезны риски, что мы не знаем временной шкалы, отбрасывать опасения опасно. Мы пытаемся продвинуть эту тему в уважаемом научном сообществе.
Хотя Прайс сказал, что точный характер рисков трудно предсказать, он отметил, что передовые технологии могут представлять угрозу, когда компьютеры начнут направлять ресурсы на достижение собственных целей в ущерб человеческим интересам, таким как экологическая устойчивость, сравнив этот риск с тем, как люди угрожают выживанию других животных, распространяясь по планете и используя природные ресурсы, от которых зависят другие животные.
Новый многопрофильный исследовательский центр на базе Кембриджского университета будет заниматься изучением и смягчением рисков такого рода с целью обеспечения долгосрочного будущего человеческого вида и того, чтобы мы никогда не оказались в положении, когда услышим, как Хэл или любой другой робот скажет,
Извини, Дэйв. Боюсь, я не могу этого сделать.