Компьютеры преобразовали труд и игру, транспорт и медицину, развлечения и спорт. Однако при всей их силе эти машины еще не могут выполнять такие простые задачи, которые может выполнять ребенок. Например, перемещение в неизвестную комнату или использование карандаша. Однако решение этих проблем предвидится довольно скоро. Оно будет на пересечении двух основных направлений: «обратная инженерия» (воспроизведение в компьютерном варианте) мозга и развивающееся область искусственного интеллекта. В течение следующих 20-ти лет эти два направления объединятся, чтобы вступить в новую эру интеллектуальных машин.
Почему необходимо знать, как работает мозг, чтобы создать интеллектуальные машины? Хотя методы машинного обучения, такие как глубокие нейронные сети, в последнее время добились впечатляющих успехов, они по-прежнему далеки от того, чтобы понимать и действовать так, как мы это делаем. Единственный пример интеллекта (способность учиться у мира, планировать и исполнять) — это мозг. Поэтому мы должны понимать принципы, лежащие в основе человеческого интеллекта, и руководствоваться ими в развитии действительно интеллектуальных машин.
Исследователи из компании Numenta, в г. Редвуд-Сити, штат Калифорния, США, изучают неокортекс (neocortex). Это — часть коры головного мозга, связанная у млекопитающих со зрением и слухом. Она считается самой новой и самой развитой частью коры головного мозга, компонентом мозга, самым ответственным за интеллект. Цель исследований — понять, как неокортекс функционирует, и определить основные принципы человеческого познания. В последние годы исследователи добились значительных успехов в работе, и определили несколько особенностей биологического интеллекта, которые, по их мнению, должны быть включены в будущие интеллектуальные машины.
Чтобы понять эти принципы, мы должны познакомиться с некоторой частью базовой биологии. Человеческий мозг похож на мозг рептилии. Каждый из них имеет спинной мозг, который управляет рефлекторным поведением; ствол мозга, который контролирует вегетативные функции, такие как дыхание и сердечный ритм; средний мозг, который контролирует эмоции и базовое поведение. Но у людей есть то, чего нет у рептилий и всех млекопитающих: неокортекса.
Неокортекс — это сложенный глубокими складками «лист» толщиной около 2-х миллиметров. Если его расправить, то он станет размером с большую обеденную салфетку. Это та часть мозга, которая делает нас умными.
При рождении неокортекс почти ничего не знает: он учится на опыте. Все, что мы узнаем о мире, например, как управлять автомобилем, кофемашиной и тысячами других устройств, с которыми мы взаимодействуем каждый день, хранится в неокортексе. Он узнает, что представляют собой эти объекты, где они находятся в мире, и как они себя ведут. Неокортекс также генерирует двигательные команды. Поэтому, когда вы готовите еду или пишете программное обеспечение, неокортекс контролирует эти действия. Язык тоже создается и понимается неокортексом.
Так же, как и весь мозг и нервная система, неокортекс, состоит из клеток, называемых нейронами. Таким образом, чтобы понять, как работает мозг, нужно начать с нейрона. У нашего неокортекса около 30 миллиардов нейронов. Типичный нейрон имеет один хвостовой аксон и несколько древовидных расширений, называемых дендритами. Если думать о нейроне как о системе связи, аксон — это передатчик, а дендриты — приемники. Вдоль ветвей дендритов лежат от 5000 до 10000 синапсов, каждый из которых соединяется с синапсами тысяч других нейронов. Таким образом, существует более 100 триллионов синаптических связей.
Наш опыт из окружающего мира (например, распознавание лиц, наслаждение музыкой, удерживание в руке скользкого куска мыла) — результат вводных данных (сигналов) от наших глаз, ушей и других органов чувств. Эти сигналы направляются в неокортекс и вызывают срабатывание групп нейронов. Когда нейрон срабатывает, электрохимический пик возбуждения перемещается вниз по аксону нейрона и пересекает синапсы к другим нейронам. Если принимающий нейрон получает достаточный входной сигнал, он может тогда сработать в ответ и активировать другие нейроны. Из 30 миллиардов нейронов в неокортексе, в любой момент времени срабатывают только 1 или 2 процента нейронов. Это значит, что многие миллионы нейронов будут активны в любой последующий момент времени. Набор активных нейронов всё время изменяется, когда мы двигаемся и взаимодействуем с миром. Наше восприятие мира, то, что мы можем считать своим сознательным опытом, определяется постоянно меняющимся шаблоном (или паттерном) из активных нейронов. Неокортекс хранит эти паттерны, главным образом, путем формирования новых синапсов. Это «хранилище» позволяет распознавать лица и места, которые мы видим, а также вызывать их из памяти. Например, когда вы думаете о лице вашего друга, в неокортексе возникает картина, которая похожа на ту, которая возникает, когда вы на самом деле видите лицо вашего друга.
Интересно то, что неокортекс одновременно и сложный и простой. Он сложный, потому что разделен на десятки областей, каждая из которых несет ответственность за различные познавательные функции. Внутри каждой области имеется несколько слоев нейронов (нейронов – более десятка разновидностей), а нейроны связаны сложными паттернами. Неокортекс прост, потому что «детали» в каждой области почти идентичны. Благодаря эволюции разработан один алгоритм, который можно применять ко всем функциям, которые выполняются в неокортексе. Существование такого универсального алгоритма замечательно. Потому что, если мы сможем выяснить, что это за алгоритм, мы сможем понять, что значит быть умным, и включить это знание в будущие машины.
Но разве это не то, что искусственный интеллект (ИИ) уже делает? Разве большинство систем ИИ не построено на «нейронных сетях», подобных тем, что в мозге? На самом деле, нет. Хотя это правда, что современные методы ИИ относятся к нейробиологии, они используют чрезмерно упрощенную модель нейронов, которая опускает существенные черты реальных нейронов. И искусственные нейроны связаны таким образом, что они не отражают реальность сложной архитектуры нашего мозга. Этих различий много, и они имеют большое значение. Именно поэтому ИИ сегодня может хорошо распознавать изображения или произносимые слова, но не способен рассуждать, планировать и действовать творчески.
Наши недавние достижения в понимании того, как работает неокортекс дают нам представление о том, как будущие мыслящие машины будут работать. В данной статье будут описаны три аспекта биологического интеллекта, которые необходимы (но в значительной степени отсутствуют) в сегодняшнем ИИ. Это – обучение путём перезаписи, разреженные представления и варианты осуществления. Эти аспекты относятся к использованию движения, чтобы изучать мир.
Обучение путем перезаписи: Мозг демонстрирует некоторые замечательные свойства обучения. Во-первых, мы учимся быстро. Несколько взглядов или нескольких касаний пальцами часто бывает достаточным, чтобы узнать что-то новое. Во-вторых, обучение является поэтапным. Мы можем научиться чему-то новому без переподготовки всего мозга или забыть то, что мы узнали раньше. В-третьих, мозг учится непрерывно. Когда мы движемся по миру, планируем и действуем, мы никогда не прекращаем учиться. Быстрое, поэтапное и непрерывное обучение являются важными компонентами, которые позволяют интеллектуальным системам адаптироваться к изменяющемуся миру. Нейрон отвечает за обучение. И сложность реальных нейронов делает его мощной обучающей машиной. В последние годы нейробиологии узнали некоторые замечательные вещи о дендрите. Во-первых, каждая из его ветвей действует как набор детекторов паттерна. Оказывается, достаточно всего 15-20 активных синапсов на ветке дендрита, чтобы распознать картину активности в большой популяции нейронов. Таким образом, один нейрон может распознать сотни различных паттернов. Некоторые из этих признанных закономерностей заставляют нейрон активироваться, но другие нейроны изменяют внутреннее состояние клетки и действуют как предсказание будущей деятельности.
Нейробиологи полагали, что обучение происходит исключительно путем изменения чувствительности синапсов. Когда входной сигнал достиг синапса, нейрон с той или иной вероятностью может стать активным. Однако теперь мы знаем, что большинство результатов обучения связано с возникновением новых синапсов между нейронами путем «переустройства» мозга. До 40 процентов синапсов на нейроне каждый день заменяются новыми. Новые синапсы приводят к появлению новых паттернов соединений между нейронами и, следовательно, новых воспоминаний. Поскольку ветви дендрита в основном независимы, когда нейрон учится распознавать новый паттерн на одном из своих дендритов, он не мешает тому, что нейрон уже изучил на других дендритах. Вот почему мы можем изучать новые вещи, не мешая старым воспоминаниям. И почему нам не нужно переучивать мозг каждый раз, когда мы узнаем что-то новое. Сегодняшние нейронные сети не обладают этими свойствами.
Интеллектуальным машинам не нужно моделировать всю сложность биологических нейронов. Но возможности, обеспечиваемые дендритами и обучение путем перезаписи, имеют важное значение. Эти возможности должны быть реализованы в будущих системах ИИ.
Разреженные представления: мозг и компьютер представляют информацию совершенно по-разному. В памяти компьютера все комбинации единиц и нулей потенциально однозначны. Поэтому, если вы измените один бит, это, как правило, приведет к совершенно другому значению. Поэтому такое представление является ненадёжным.
С другой стороны, мозг использует так называемые разреженные распределённые представления или SDR. Они называются разреженными, поскольку в любой момент времени полностью активны относительно небольшое количество нейронов. Какие конкретно нейроны активны: когда мы двигаемся и думаем, активные нейроны меняются с каждым моментом времени. Но их процент всегда мал. Если мы немного подумаем о каждом нейроне, то для представления этой информации мозг использует тысячи бит (гораздо больше, чем использует компьютер). Но в любое время только небольшой процент бит будет равен «1». Остальные биты будут равны «0». Предположим, мы хотим представить концепцию «кот» с помощью SDR. Можно использовать 10000 нейронов, из которых 100 являются активными. Каждый из активных нейронов представляет собой некоторый аспект кошки, такой как «домашнее животное» или «пушистый» или «когтистый». Если несколько нейронов погибают или активируются несколько дополнительных нейронов, новый SDR по-прежнему будет хорошим представлением «кот», потому что большинство активных нейронов остаются все теми же. Это похоже на голограмму, когда кусочек голограммы позволяет получить голографическое изображение, записанное на целой голограмме, пусть и худшего качества. Таким образом, SDR не являются «хрупким». Он по своей природе устойчив к ошибкам. Когда мы создаем кремниевые версии мозга, они будут по своей природе устойчивы к отказам.
Следует упомянуть два важных свойства SDR. Одно — свойство перекрытия -позволяет легко понять, как две вещи похожи или различаются по смыслу. Представьте, что у вас есть один SDR, представляющий «кота», а другой — «птицу». И SDR «кот» и «птица» будут иметь те же активные нейроны, что и «домашнее животное» и «когтистые», но они не будут владеть совместно нейроном «пушистый». Этот пример упрощен, но свойство перекрытия важно, потому что сразу становится ясно: два объекта похожи или разные. Это свойство дает возможность обобщить возможности, отсутствующие в компьютерах.
Второе — свойство объединения — позволяет мозгу одновременно представлять несколько образов. Представим, что мы видим, как какое-то животное двигается в кустах, но мы видим только его проблеск. Поэтому мы не можем быть уверены в том, кого мы видели. Это может быть и кошка, и собака, или обезьяна. Поскольку SDR являются разреженным, популяция нейронов может одновременно активировать все три SDR и не путаться, потому что SDR не будут мешать друг другу. Способность нейронов постоянно формировать объединения SDR делает их очень полезными при обработке неопределенностей. Такие свойства SDR имеют основополагающее значение для понимания, мышления и планирования. Мы не сможем создать интеллектуальные машины без использования SDR.
Варианты осуществления: Неокортекс получает входные данные от органов чувств. Каждый раз, когда мы двигаем глазами, конечностями или телом, сенсорные входы меняются. Этот постоянно меняющийся вход является основным механизмом, который мозг использует, чтобы узнать о мире. Представьте, что нам представляют объект, который мы никогда раньше не видели. Для обсуждения, предположим, что это, например, степлер. Как бы мы узнали информацию о новом объекте? Можно обойти степлер, глядя на него под разными углами. Можно взять его, провести пальцами по нему и повертеть его в руках. Затем вы можете нажать на него и раскрыть его, чтобы посмотреть, как он себя поведет. Благодаря этому интерактивному процессу мы узнаем форму степлер, получим представление, что это такое, как он выглядит, и как он себя ведет. Мы делаем движение и видим, как изменяются входные сигналы, делаем другое движение и видим, как входные сигналы снова изменяются, и так далее. Обучение через движение — это основное средство мозга для обучения. Это будет центральный компонент всех действительно интеллектуальных систем. Это не означает, что интеллектуальная машина нуждается в физическом теле, только для того чтобы она могла изменять то, что она ощущает, когда движется. Например, виртуальная машина ИИ может «перемещаться» по Интернету, следуя по ссылкам и открывая файлы. Она могла бы изучать структуру виртуального мира посредством виртуальных движений, аналогично тому, как мы это делаем при ходьбе через незнакомое здание. Это подводит нас к важному открытию. В неокортексе сенсорный вход обрабатывается в иерархии областей. Поскольку сенсорный ввод переходит от одного уровня иерархии к другому, из иерархии областей извлекаются более сложные функции, пока в какой-то момент времени объект не будет распознан. Сети глубокого обучения также используют иерархии. Но часто требуется порядка 100 уровней обработки для распознавания изображения, тогда как неокортекс достигает одного и того же результата всего с четырьмя уровнями. Сети глубокого обучения также требуют миллионов учебных шаблонов, в то время как неокортекс может изучать новые объекты всего несколькими движениями и ощущениями. Мозг делает что-то принципиально отличное от типичной искусственной нейронной сети, но что?
Герман фон Гельмгольц, немецкий ученый XIX века, был одним из первых, кто предложил ответ. Он заметил, что, хотя наши глаза двигаются три-четыре раза в секунду, наше зрительное восприятие стабильно. Он догадался, что мозг должен учитывать, как двигаются глаза. Иначе, казалось бы, что мир прыгает. Точно так же, когда мы прикасаетесь к чему-то, было бы странно, если бы мозг обрабатывал только тактильный вклад и не знал, как одновременно двигаются пальцы. Этот принцип объединения движения с меняющимися ощущениями называется сенсормоторной интеграцией. Как и где сенсомоторная интеграция происходит в мозгу, это пока что тайна. Исследователи полагают, что сенсомоторная интеграция происходит во всех областях неокортекса. Это не отдельный шаг, а неотъемлемая часть всей сенсорной обработки. Сенсормоторная интеграция является ключевой частью «алгоритма интеллекта» неокортекса. У авторов статьи есть теория и модель того, как именно это делают нейроны, которые хорошо согласуется со сложной анатомией, наблюдаемой в каждой области неокортикса. Каковы последствия эта теория для машинного интеллекта? Рассмотрим два типа файлов, которые можно найти на компьютере. Один из них — это файл изображения, созданный камерой, а другой — файл с автоматизированным дизайном, созданный программным обеспечением, таким как CAD. Файл изображения представляет собой двумерный массив визуальных функций. Файл CAD также представляет собой набор функций, но каждой функции назначается местоположение в трехмерном пространстве. С CAD-файлом можно предсказать, как будет выглядеть объект с любого направления, и определить, как объект будет взаимодействовать с другими 3D-объектами. Это невозможно сделать с файлом изображения. Теория состоит в том, что каждая область неокортекса изучает 3D-модели объектов, похожие на CAD-программу. Каждый раз, когда наше тело двигается, неокортекс берет текущую команду, преобразует её в место в системе отсчета объекта, а затем объединяет местоположение с сенсорным входом, чтобы изучать 3D модели мира.
Оглядываясь назад, эта теория имеет смысл. Интеллектуальные системы должны изучать многомерные модели мира. Сенсормоторная интеграция не происходит в нескольких местах мозга. Это — основной принцип функции мозга, часть алгоритма интеллекта. Интеллектуальные машины также должны работать таким же образом.
Эти три фундаментальных атрибута обучения неокортекса путем перезаписи, разреженных распределенных представлений и сенсомоторной интеграции станут краеугольными камнями машинного интеллекта. Будущие машины мышления могут игнорировать многие аспекты биологии, но не эти три. Несомненно, будут и другие открытия в нейробиологии, которые раскроют другие аспекты познания, которые необходимо будет включить в такие машины в будущем. Но мы можем начать с того, что мы знаем сегодня.
… С самых ранних дней критики ИИ отвергли идею попыток подражать человеческому мозгу. Часто с рефреном, что «самолеты не махают крыльями». В действительности, первопроходцы в области авиации братья Райт подробно изучали птиц. Чтобы создать подъемную силу, они изучили формы крыльев и испытывали их в аэродинамической трубе. Для обеспечения движения аэроплана они приняли новаторское решение: использовать пропеллер (аналог гребного винта) и мотор. Чтобы управлять полет, они заметили, что птицы отклоняют хвосты для изменения высоты полёта. Самолеты по-прежнему сегодня используют этот метод, хотя поворачивается только хвостовой край горизонтального оперения. Короче говоря, братья Райт изучали птиц, а затем выбирали, какие элементы полета птиц необходимы для полета самолёта, и какие можно игнорировать. Это то, что мы сделаем, чтобы построить интеллектуальные машины.
…Хотя сегодняшним компьютерам не очень сложно классифицировать изображения и распознавать разговорные запросы, мы далеки от создания действительно интеллектуальных машин. Но жизненно важно, что мы это делаем. Будущий успех и даже выживание человечества могут зависеть от интеллектуальных машин. Например, если мы когда-либо будем жить на других планетах, нам понадобятся интеллектуальные машины для того, чтобы действовать от нашего имени: путешествовать в космосе, строить на других планетах инфраструктуру, шахты, самостоятельно решать сложные проблемы в условиях, в которых люди не смогут выжить. Здесь, на Земле, мы сталкиваемся с проблемами, связанными с болезнями, климатом и недостатком энергии. Интеллектуальные машины могут помочь. Например, можно разработать интеллектуальные машины, которые чувствуют и действуют в молекулярном масштабе. Эти машины будут думать об экспрессии генов так же, как мы думаем о компьютерах и степлерах. Они могут думать и действовать в миллионы раз быстрее, чем человек. Такие машины могли бы вылечить болезни и сохранить наш мир в живых. В 1940-х годах пионеры в области вычислительной техники чувствовали, что вычисления будут нужными и полезными и что компьютеры изменят человеческое общество. Но они не могли точно предсказать, как компьютеры изменят нашу жизнь. Точно так же мы можем быть уверены, что действительно интеллектуальные машины преобразуют наш мир к лучшему, даже если сегодня мы не можем точно предсказать, как именно. Через 20 лет мы оглянемся назад и увидим наше время как время, когда успехи в теории мозга и машинного обучения положили начало эры истинного машинного интеллекта.
