Воспитание машин. Новая история разума - читать онлайн книгу. Автор: Сергей Шумский cтр.№ 25

Последний момент особенно важен: простые алгоритмы обучения способны порождать сколь угодно сложное поведение. Физика, в которой отсутствует понятие обучения, не способна объяснить появление таких сложных систем, как, скажем, жизнь или разум. Для этого нам приходится обращаться к машинному обучению. Соответственно устройство и принципы работы такой сложной системы, как мозг, тоже можно понять только в свете теории обучения, когда мозг рассматривается не как готовый механизм, но как результат длительного процесса обучения. Это нацеливает нас на выявление в мозге механизмов, реализующих алгоритмы его обучения.

Именно на это, к слову, нацелена теория функциональных систем П. К. Анохина, предлагающая, по существу, алгоритм обучения с подкреплением как системообразующий принцип организации мозга ^[87]. Именно такие алгоритмы наиболее актуальны в современном машинном обучении, связанном с роботами, агентами и сильным ИИ.

Машинное обучение предлагает нам практический путь к пониманию мозга и разума, основанный на принципе «понять – значит воссоздать». Мы никогда не поймем наше мышление, если не сможем воссоздать его в виде искусственной психики роботов. Искусственный интеллект – это новый экспериментальный полигон для наук о разуме, гораздо более удобный и прозрачный, чем традиционные опыты на животных и людях. На этом полигоне можно гораздо быстрее отлаживать и развивать наши модели мышления.

Так, например, в последние годы была практически решена проблема машинного зрения, причем настолько хорошо и надежно, что на дорогах уже появились автономные автомобили. Алгоритмы глубокого обучения формируют иерархию все более абстрактных признаков, помогающих распознавать ситуации и моделировать пространственные сцены, заодно помогая нам понять и общие принципы работы сенсорного интеллекта.

Вслед за умением ориентироваться в мире приходит черед управлению поведением роботов и освоению ими навыков абстрактного мышления ^[88]. Возникает масштабный платежеспособный спрос на создание искусственной психики роботов. Современное машинное обучение пока что не смогло найти решения этой задачи.

В нашем понимании именно науки о мозге способны помочь преодолеть этот важный технологический барьер. Надо только суметь взглянуть на мозг с точки зрения машинного обучения – отвлечься от субстрата мозга и сосредоточиться на алгоритмах его обучения. Особенно важна вычислительная архитектура мозга, скопировав которую мы как раз и сможем получить искусственную психику роботов.

Какова роль наук о мозге в предлагаемой общей исследовательской программе? Кратко ее можно сформулировать как обратную инженерию мозга, а именно – реконструкцию его вычислительной архитектуры.

Такая постановка задачи для нейрофизиологов не нова. Схожую исследовательскую программу предлагал, например, Дэвид Марр в 1970-х годах. Напомним в этой связи, что Марр различал три уровня описания сложных систем:

● вычислительная архитектура – функциональное назначение подсистем в системе;

● алгоритмический уровень – алгоритмы достижения целей подсистем;

● уровень реализации – механизмы, реализующие эти алгоритмы.

Нейрофизиологам непосредственно доступен лишь нижний уровень описания – как конкретные нейроны или нейронные ансамбли взаимодействуют друг с другом. Как правило, большинство исследований так и остается на этом описательном уровне.

Реже удается разгадать алгоритмы работы каких-то подсистем мозга и понять логику их конструкции. Например, работу мозжечка можно понять, представив его как гигантский персептрон Розенблатта ^[89], а гиппокамп неплохо описывается моделью ассоциативной памяти Хопфилда ^[90]. Наконец, сегодня мы в основном понимаем и принципы работы основной подсистемы нашего мозга – неокортекса, содержащего сотни тысяч самоорганизующихся карт признаков, в которых кортикальные колонки формируют и распознают различные категории ^[91].

Однако истинное понимание принципов работы мозга возможно лишь с выходом на более высокий архитектурный уровень его целостного описания. А именно: выявление назначения и способов взаимодействия основных подсистем мозга – коры, базальных ганглий, таламуса, мозжечка, стволовых структур и т. д. – с пониманием алгоритмов их работы и обучения. Недаром Дэвид Марр отмечал, что, «хотя верхний уровень по большей части игнорируется, именно он является наиболее важным» ^[92]. Обратный инжиниринг вычислительной архитектуры мозга является, с нашей точки зрения, центральной задачей нейрофизиологии в рамках предлагаемой исследовательской программы.

В этой связи особое значение, с точки зрения автора, имеет архитектура кортико-стриарной системы мозга приматов, управляющей нашим поведением ^[93]. Приматы интересны тем, что архитектура мозга у них отличается от остальных млекопитающих: количество нейронов в их мозге пропорционально его массе, тогда как у остальных млекопитающих – массе^2/3. Иначе говоря, у приматов число нейронов растет с ростом массы мозга гораздо быстрее, чем у остальных млекопитающих. В результате у больших приматов, включая людей, в мозге намного больше нейронов, чем у других млекопитающих с аналогичным по весу мозгом. Поэтому-то наш мозг и обладает такими уникальными вычислительными возможностями. Если бы мы не были приматами, чтобы иметь такое же, как у нас, число нейронов, наш мозг должен был бы весить 30 кг! ^[94]

В качестве примера на базе предложенной автором реконструкции архитектуры мозга приматов ^[95] в лаборатории когнитивных архитектур МФТИ в настоящее время разрабатывается модель искусственной психики ADAM (Adaptive Deep Autonomous Machine) «по образу и подобию» человеческой. Подчеркнем, что именно обратный инжиниринг кортико-стриарной системы помог нам преодолеть существенный технологический барьер и предложить схему обучения иерархическому управлению. До сих пор эта проблема не поддавалась решению ^[96].