Премия Тьюринга, которую часто называют Нобелевской премией в области вычислительной техники, на этот раз вручается трем пионерам нейронных сетей. Цитата называет троих «отцами революции глубокого обучения», но я вижу одного отца и двух потомков.
Эта награда, учрежденная в 1966 году и названная в честь Алана М. Тьюринга, является самой престижной из наград ACM (Association for Computing Machinery) и теперь стоит 1 миллион долларов, разделенных между лауреатами.
Он проводится ежегодно в знак признания заслуг компьютерных ученых и инженеров, которые:
создал системы и лежащие в основе теоретические основы, которые продвинули индустрию информационных технологий.
Нет никаких сомнений в том, что получатели этого года расширили границы глубокого обучения. Они ответственны за большую часть успешного ИИ, который мы начинаем воспринимать как должное.
«Работая независимо и вместе, Хинтон, ЛеКун и Бенжио разработали концептуальные основы для этой области, выявили удивительные явления с помощью экспериментов и внесли свой вклад в инженерные разработки, которые продемонстрировали практические преимущества глубоких нейронных сетей. прорывы в области компьютерного зрения, распознавания речи, обработки естественного языка и робототехники — среди других приложений ».
Все верно, и ЛеКун и Бенжио, безусловно, проделали революционную работу, но Джеффри Хинтон, возможно, единственный настоящий отец, на которого может рассчитывать эта область вычислений. Он применил метод обратного распространения в начале 1980-х, когда почти все считали, что сама идея нейронных сетей — это тупик и пустая трата времени.
Ян ЛеКун был докторантом Хинтона в конце 1980-х и наиболее известен созданием сверточных нейронных сетей. Йошуа Бенжио работал с Хинтоном над статьями по глубокому обучению, но он больше академический, публикуя обычно 20 статей в год. Возможно, его самая важная долгосрочная работа будет связана с биологически вдохновленными методами обучения. Объем работы Bengio следует учитывать, когда вы интерпретируете цифру из 131 цитирования в день, больше, чем у любого компьютерного ученого, за которым следует 127 Хинтона и 62 ссылки ЛеКуна.
Когда вы смотрите на работы Хинтона, вы получаете совершенно иную картину. Он на каждом шагу сосредоточился на «больших идеях», оставаясь верным многослойным нейронным сетям, когда большинство из них считало, что они никогда не смогут работать, о чем свидетельствует их низкая производительность. Затем он переключился на работу с машинами Больцмана, которые до сих пор являются теоретической головной болью. Чтобы добиться прогресса, он упростил их и создал ограниченную машину Больцмана, которая привела к автокодировщику и множеству методов предварительного обучения. В конце концов, мощность компьютеров соответствовала требованиям глубоких сетей, и с некоторой осторожностью стало возможным обучать гораздо более глубокие сети только для того, чтобы обнаружить, что это решение, которое он искал все время. С тех пор он был вовлечен в создание других, более сложных архитектур на основе нейронных сетей — капсульных сетей, которые в конечном итоге могут оказаться наиболее важными из всех.
Хотя я придерживаюсь мнения, что Янн ЛеКун и Йошуа Бенжио внесли огромный вклад в эту тему, Джеффри Хинтон работал над этим дольше и инициировал и поделился многими крупными идеями. Когда вы составляете список исследователей ИИ, в котором есть Янн ЛеКун или Йошуа Бенжио, в него нужно включить много других кандидатов, но если список начинается с Джеффри Хинтона, вы вошли в другую лигу.
ACM представит 2018 A.M. Премия Тьюринга на ежегодном банкете награждения 15 июня в Сан-Франциско, Калифорния.