Книга Метамышление. Как нейронауки помогают нам понять себя, страница 100 – Стивен М. Флеминг

Вышеописанное выглядит довольно абстрактно и теоретично. Но на самом деле процесс создания метарепрезентаций относительно прост. У нас есть нейронные сети, которые получают информацию из внешнего мира, преобразуют ее и выдают нам ответы – точно так же мы можем создавать и метакогнитивные сети, которые моделировали бы работу других нейронных сетей.

Одна из первых попыток создать искусственное метакогнитивное мышление была предпринята Николасом Юнгом, Джонатаном Коэном и Мэтью Ботвиником в их знаковой работе, которую в 2004 году опубликовал журнал Psychological Review. Они обучили нейронную сеть решать задачу Струпа (где нужно называть цвет слова, а не читать его само вслух), аналогичную той, с которой мы сталкивались при обсуждении экспериментов по набору текста. Затем исследователи добавили незамысловатую метакогнитивную сеть, которая мониторила происходящее в первой сети. Эта вторая сеть была настолько простой, что представляла собой всего лишь один блок, или нейрон, который получал входные данные от основной сети. Она оценивала уровень «конфликта» между двумя реакциями: если и слово, и цвет претендовали на контроль над реакцией, это указывало на сложность суждения и возможность ошибки, а значит, и на то, что разумно было бы не спешить с ответом. Просто добавив этот слой, ученым удалось собрать впечатляющий массив данных о том, как люди обнаруживают собственные ошибки при выполнении аналогичных задач^[258].

В другом исследовании ученые решили создать компьютерную симуляцию неврологических состояний, характеризующихся нарушенным метапознанием, но при этом сохранной низкоуровневой деятельностью, таких как слепое зрение. Команда Акселя Клиреманса попыталась воспроизвести этот феномен, обучив искусственную нейронную сеть различать расположение стимулов. Затем они создали вторую нейронную сеть, которая отслеживала как данные, поступающие в первую сеть, так и выходящие из нее. Эта метакогнитивная сеть была обучена предугадывать, сумеет ли первая сеть дать правильный ответ. Искусственно нарушая связи между двумя сетями, исследователи сумели сымитировать слепое зрение в рамках своей компьютерной симуляции. Первая сеть по-прежнему была способна правильно определять местоположение стимулов, но метакогнитивная чувствительность системы – соответствие между уверенностью и точностью – оказалась упразднена, как и у реальных пациентов. В ходе других экспериментов исследовалось появление метакогнитивных знаний в течение определенного периода времени, и команда Клиреманса обнаружила, что в рамках симуляции самосознание системы изначально не поспевало за ее действиями; как будто сначала она выполняла задачу интуитивно, не осознавая, что делает^[259].

Сейчас разрабатываются хитроумные решения для создания способных к «интроспекции» роботов, которые будут знать, правы ли они, еще до принятия решения. Один из многообещающих подходов, известный как исключение, или дропаут, подразумевает управление несколькими копиями сети, каждая из которых немного отличается по своей архитектуре. Диапазон предсказаний копий служит удобным показателем того, насколько не уверена должна быть сеть в своем решении. Вариант этих алгоритмов обучал автономные дроны ориентироваться в загроможденном пространстве – как это должен делать беспилотник, доставляющий посылки на улицах и среди небоскребов Манхэттена. Вторую нейронную сеть внутри беспилотника исследователи научили вычислять вероятность аварий во время тестовых полетов. Когда такой модернизированный, способный к интроспекции беспилотник запустили в густом лесу, он смог избежать навигационных решений, которые, по его прогнозам, могли привести к столкновениям. Напрямую встраивая такую архитектуру в машины, мы, возможно, сможем заложить в них те же метакогнитивные строительные кирпичики, что в изобилии наблюдаются у животных и человеческих младенцев. Пока рано утверждать, что беспилотник обладает самосознанием в прямом смысле этого слова. Однако способность уверенно предсказывать собственные ошибки дает ему одну из важнейших составляющих метапознания^[260].