Чрезвычайно энергоэффективный искусственный интеллект теперь стал ближе к реальности после того, как исследователи UCL нашли способ повысить точность вычислительной системы, вдохновленной мозгом.
Система, использующая мемристоры для создания искусственных нейронных сетей, по крайней мере в 1000 раз более энергоэффективна, чем обычное оборудование искусственного интеллекта на основе транзисторов, но до сих пор была более подвержена ошибкам.
Существующий ИИ чрезвычайно энергоемок — обучение одной модели ИИ может генерировать 284 тонны углекислого газа, что эквивалентно выбросам пяти автомобилей за весь срок службы. Замена транзисторов, из которых состоят все цифровые устройства, мемристорами, новым электронным устройством, впервые созданным в 2008 году, могла бы уменьшить это количество до доли тонны углекислого газа, что эквивалентно выбросам, возникающим при дневной поездке.
Поскольку мемристоры намного более энергоэффективны, чем существующие вычислительные системы, они потенциально могут объединить огромные объемы вычислительной мощности в портативные устройства, устраняя необходимость подключения к Интернету.
Это особенно важно, поскольку ожидается, что чрезмерное использование Интернета станет проблематичным в будущем из-за постоянно растущих требований к данным и трудностей с увеличением пропускной способности передачи данных после определенного момента.
В новом исследовании, опубликованном в Nature Communications , инженеры из UCL обнаружили, что точность можно значительно повысить, если заставить мемристоры работать вместе в нескольких подгруппах нейронных сетей и усреднить их вычисления, то есть что недостатки в каждой из сетей могут быть устранены.
Мемристоры, описываемые как «резисторы с памятью», поскольку они помнят количество электрического заряда, прошедшего через них даже после выключения, считались революционными, когда они были впервые построены более десяти лет назад. электроника в дополнение к резистору, конденсатору и катушке индуктивности. С тех пор они коммерчески производятся в устройствах памяти, но исследовательская группа считает, что они могут быть использованы для разработки систем искусственного интеллекта в течение следующих трех лет.
Мемристоры предлагают значительно повышенную эффективность, поскольку они работают не только в двоичном коде единиц и нулей, но и на нескольких уровнях от нуля до единицы одновременно, что означает, что в каждый бит можно поместить больше информации.
Более того, мемристоры часто описываются как нейроморфная (вдохновленная мозгом) форма вычислений, потому что, как и в мозге, обработка и память реализованы в одних и тех же адаптивных строительных блоках, в отличие от современных компьютерных систем, которые тратят много энергия в движении данных.
В ходе исследования доктор Аднан Мехонич, аспирант Довидас Йоксас (оба из UCL Electronic & amp; Electrical Engineering) и коллеги из Великобритании и США протестировали новый подход на нескольких различных типах мемристоров и обнаружили, что он повышает точность всех из них, независимо от материала или конкретной технологии мемристора. Это также помогло решить ряд различных проблем, которые могут повлиять на точность мемристоров.
Исследователи обнаружили, что их подход повысил точность нейронных сетей для типичных задач ИИ до уровня, сопоставимого с программными инструментами, работающими на обычном цифровом оборудовании.
Доктор Мехонич, руководитель исследования, сказал: «Мы надеялись, что могут быть более общие подходы, которые улучшат не на уровне устройства, а на уровне системы, и мы считаем, что нашли один из них. Наш подход показывает, что, Когда дело доходит до мемристоров, несколько головок лучше, чем одна. Организация нейронной сети на несколько меньших сетей, а не на одну большую, в целом позволила повысить точность ».
Довидас Йоксас далее пояснил: «Мы позаимствовали популярную технику из информатики и применили ее в контексте мемристоров. И это сработало! Используя предварительное моделирование, мы обнаружили, что даже простое усреднение может значительно повысить точность мемристивных нейронных сетей. «
Профессор Тони Кеньон (UCL Electronic & amp; Electrical Engineering), соавтор исследования, добавил: «Мы считаем, что сейчас настало время, чтобы мемристоры, над которыми мы работали в течение нескольких лет, должны занять ведущую роль. в эру более энергоэффективных устройств Интернета вещей и периферийных вычислений «.