Корпорация IBM преодолела очередную ступень в создании чипа будущих суперкомпьютеров — нейронного чипа, работающего по принципу функционирования человеческого мозга. Особенность такого чипа состоит в том, что он способен к самообучению, а также тратит в сотни тысяч раз меньше энергии, чем обычные микропроцессоры. Новый чип уже может анализировать визуальную информацию, что подтверждается результатами тестирования.
Большинство современных компьютеров устроены по принципу архитектуры фон Неймана. Она основана на совместном хранении данных и команд, при этом внешне они неразличимы: одна и та же информация может становиться данными, командой или адресом в зависимости от способов обращения к ней. Именно такой принцип работы архитектуры фон Неймана и создал ее существенный недостаток — так называемое узкое место (ограничение пропускной способности между процессором и памятью). Процессор постоянно вынужден ждать необходимых данных, потому что память программ и память данных не может быть доступна одновременно: ведь хранятся они на одной и той же шине.
Новый нейросинаптический процессор для архитектуры TrueNorth, состоящий из одного миллиона нейронов Фото: IBM Research
Эта проблема была решена американским программистом Говардом Эйкеном (Howard Aiken), автором гарвардской архитектуры. Она отличается от архитектуры фон Неймана тем, что линии передачи данных и команд в ней физически разделены, что позволяет процессору одновременно читать инструкции и выполнять доступ к данным, а быстродействие компьютера повышается. Несмотря на это, в конце 1930-х годов на конкурсе по разработке ЭВМ для военно-морской артиллерии, объявленном правительством США, из-за простоты реализации победила фон-неймановская архитектура.
Позднее стало возможным создание гибридных систем, сочетающих достоинства обеих архитектур. Однако с развитием программирования умы ученых стала занимать мысль о создании искусственных нейронных систем: соединенных и взаимодействующих между собой процессоров, действующих по принципу функционирования нервных клеток живого организма. Особенностью таких систем является то, что они не программируются, а обучаются.
Понятие искусственной нейронной сети возникло при изучении функционирования биологических нейронных сетей – совокупности связанных в нервной системе нейронов, выполняющих специфические физиологические функции. Каждый из нейронов связан с огромным количеством других, место контакта нейронов друг с другом называется синапсом, который служит для передачи нервного импульса между клетками.
Первопроходцами в создании искусственных нейронных сетей стали американцы Уоррен Маккалок (Warren McCulloch) и Уолтер Питтс (Walter Pitts). В начале 1940-х годов ученые изобрели модель мозга, в которой упрощенно рассматривали нейроны как устройства, оперирующие двоичными числами. Придуманная ими сеть из электронных «нейронов» теоретически могла выполнять числовые или логические операции любой сложности. Принципиально новые теоретические основания такой модели головного мозга заложили базу для последующего развития нейротехнологий, и следующий шаг не заставил себя ждать.
Уже в 1949 году Дональдом Хеббом (Donald Hebb) был предложен первый работающий алгоритм обучения искусственных нейронных систем, а в 1958 году Фрэнк Розенблатт (Frank Rosenblatt) создал первый нейрокомпьютер «Марк-1». Этот компьютер был построен на основе перцептрона – нейронной сети, разработанной Розенблаттом тремя годами ранее.
Перцептрон действует следующим образом: сенсоры воспринимают сигналы из окружающей среды, передают их ассоциативным элементам, а оттуда — реагирующим элементам. В жизни это соответствует тому, как двигательные нейроны дают реакцию в ответ на визуальную информацию. Несмотря на относительную простоту устройства перцептрона, «Марк-1» был способен к обучению и решал задачи, связанные с распознаванием визуальной информации, в частности букв английского алфавита.
В 1960-е годы советские ученые Александр Петров и Михаил Бонгард занялись изучением задач, которые перцептрон был не в состоянии решить, а в 1969 году Марвин Ли Мински (Marvin Lee Minsky) опубликовал формальное доказательство того, что возможности перцептрона существенно ограниченны и он не способен решать задачи, связанные с инвариантностью представлений. Из-за этого интерес к перцептрону и искусственным нейронным сетям несколько снизился: работы в этом направлении велись, предлагались новые типы нейронных сетей, однако это не привлекало большого внимания кибернетиков.
Многоядерный нейросинаптический чип от корпорации IBM Фото: IBM Research
Однако в середине 1980-х годов вновь наблюдается всплеск интереса к обучаемым нейронным сетям. В 1982 году Джон Хопфилд (John Hopfield) изобрел ассоциативную нейронную сеть (сеть Хопфилда), которая была способна решать задачи оптимизации, распознавать и восстанавливать визуальные образы, а также обладала автоассоциативной памятью: способностью завершать или исправлять образ, но неспособностью ассоциировать этот образ с другими. Двумя годами позже финский ученый Теуво Кохонен (Teuvo Kohonen) предложил вниманию научной общественности самоорганизующуюся карту Кохонена — нейронную сеть, способную обучаться самостоятельно, без вмешательства со стороны экспериментатора. Самоорганизующиеся карты Кохонена используются для моделирования, прогнозирования, выявления наборов независимых друг от друга признаков, а также поиска закономерностей в больших массивах данных. Эти открытия стали существенным прорывом, заложившем базу для дальнейших исследований.
Последующая работа моделирования биологических нейронных сетей привела к тому, что в 2005 году компания IBM и Швейцарский федеральный технологический институт Лозанны под руководством профессора Генри Маркрама (Henry Markram) начали совместную работу по компьютерному моделированию неокортекса (новой коры головного мозга), получившую название Blue Brain Project. В 2006 году было объявлено об успешном моделировании части неокортекса крысы. В настоящее время команда работает над «режимом реального времени», при котором одна секунда реального времени работы мозга должна моделироваться процессором также за одну секунду.
Одновременно с этим IBM ведет работу и над другим проектом — архитектурой TrueNorth, работающей на базе созданных IBM нейронных чипов, которые содержат кремниевые нейроны и синапсы — точно так же, как человеческий мозг. Журнал Science опубликовал отчет IBM о результатах длительной работы над созданием и испытаниями нового нейронного чипа, способного анализировать видеозапись и идентифицировать и различать «увиденные» на ней визуальные объекты.
Новый чип состоит из 4096 нейросинаптических ядер, которые задействуют в своей работе 1 миллион программируемых нейронов и 256 миллионов синапсов. Создатели чипа сообщают: каждый нейрон каждого из ядер может посылать сигнал к любому нейрону на другом ядре, после чего сигнал распадается на множество более коротких, распространяясь на остальные нейроны этого ядра. Структура этого чипа очень подвижна, есть возможность изменять количество задействованных ядер: каждый нейрон имеет индивидуальную конфигурацию, каждый синапс может быть активирован или дезактивирован вне зависимости от остальных, случайные сбои и дефекты той или иной части ядра не повлияют на работу остальной системы.
Схематичное изображение работы чипа: круги по периметру представляют собой нейросинаптические ядра (на рисунке – лишь 64 из 4096), линии между ними — нейронные связи. Изображение: Science
Для испытания чипа создатели поставили перед ним две задачи: находить на кадрах записи с камеры видеонаблюдения объекты типа людей, автомобилей, автобусов и верно идентифицировать каждый объект. Все нейроны получали информацию о положении того или иного объекта в пространстве и сравнивали их с объектами окружающей среды. Нейронный чип успешно справился с поставленными задачами.
Специалисты отмечают, что одной из особенностей нейронных чипов является их необычайно низкое энергопотребление. Представленный IBM чип использует в 176 тысяч раз меньше энергии, чем обычный универсальный микропроцессор и в 769 раз меньше энергии, чем современный нейронный мультипроцессор, состоящий из 48 чипов с 18 микропроцессорами каждый.
Профессор Поль Меролла (Paul Merolla), руководитель проекта, сообщает, что в дальнейшем планируется работа по созданию компьютеров-гибридов, сочетающих архитектуру фон Неймана и архитектуру TrueNorth. Количество нейросинаптических ядер и синапсов будет увеличиваться, а спектр задач, поддающихся решению, расширяться. Несмотря на то что до достижения главной цели ученых — создания искусственного аналога мозга высших млекопитающих — еще далеко, возможно, что последующие поколения нейронных чипов смогут стать чем-то вроде замены человеческих рефлексов и послужить помощниками в определенных жизненных ситуациях, например при вождении автомобиля.
