Онлайн книга «Метамышление. Как нейронауки помогают нам понять себя»
|
Наделение машин метапознанием может вести и к другим дополнительным преимуществам, помимо устранения их склонности к сверхуверенности. Вспомните начало книги, где мы познакомились со студенткой Джейн, готовящейся к экзамену. Принимая решения о том, где и когда заниматься, Джейн, скорее всего, опиралась на абстрактное знание о самой себе, накопленное ею за многие годы и релевантное независимо от того, что именно ей нужно было учить. Нейронный механизм для создания абстрактного знания о себе похож на этот механизм, отвечающий за абстрактное знание о мире в целом. Например, отправляясь в другую страну, вы можете не знать, как работает местное метро, однако, основываясь на опыте посещения разных городов, предполагаете, что найдете там знакомые вещи: терминалы, билеты и турникеты. Эти общие знания позволяют вам гораздо быстрее освоить новую систему. Именно такие абстракции, по мнению Энди Кларка и Аннет Кармилофф-Смит, необходимо встроить в нейронные сети, чтобы они научились осознавать, что они знают и чего не знают[261]. Знание о самом себе – одно из самых универсальных и абстрактных. В конце концов, «я» – это константа во всех ситуациях, в которых мне приходится учиться. Убеждения о моей личности, навыках и способностях помогают мне понять, окажусь ли я человеком, способным выучить новый язык, справиться с незнакомой спортивной игрой или легко завести друзей. Эти абстрактные факты о себе располагаются на вершине наших метакогнитивных моделей и благодаря своей роли в работе остального сознания оказывают мощное влияние на нашу жизнь. Вполне вероятно, что подобные абстрактные метаубеждения окажутся полезными для направления автономных роботов на выполнение задач, соответствующих их области применения, – например, чтобы беспилотник осознавал, что ему следует доставлять больше посылок, а не пытаться пылесосить пол. Давайте представим, как может выглядеть будущее, в котором нас окружают метакогнитивные машины. Беспилотные автомобили можно спроектировать таким образом, чтобы они светились разными цветами в зависимости от того, насколько они уверены в своих дальнейших действиях, – например, голубое свечение для уверенности и желтое для неуверенности. Операторы-люди могут использовать эти сигналы, чтобы брать управление на себя в ситуациях высокой неопределенности и в целом повысить уверенность водителей в том, что во всех остальных случаях автомобиль действительно знает, что он делает. Еще более интригует идея, что эти машины могли бы обмениваться метакогнитивной информацией друг с другом, подобно тому как с возникновением самосознания начинают сотрудничать и взаимодействовать люди. Представьте себе два автономных автомобиля, которые приближаются к перекрестку и сигнализируют о намерении повернуть в разные стороны. Если оба автомобиля подсвечены голубым цветом, то они могут продолжать движение в уверенности, что другая машина хорошо понимает, что происходит. Но если один из них или оба начинают светиться желтым, разумнее будет снизить скорость и действовать осторожно, как поступили бы и мы, если бы нам показалось, что водитель на другой стороне перекрестка не знает о наших намерениях. Любопытно, что такой обмен информацией может быть интерактивным и динамичным: если одна машина начнет светиться желтым, это может привести к тому, что другие тоже потеряют уверенность. Каждый автомобиль на перекрестке начнет колебаться, пока продолжать движение не станет безопасно. Обмен метакогнитивной информацией между машинами еще далек от того, чтобы наделить их полноценной теорией разума [262]. Однако он может обеспечить минимально необходимый метакогнитивный механизм для управления взаимодействием между командами «человек – машина» и «машина – машина». Более сложные версии этих алгоритмов – например, такие, которые распознают, почему их уверенность низкая (изменение освещения? новый автомобиль, с которым они никогда раньше не сталкивались?), – могут, кроме всего прочего, начать двигаться в сторону нарративных объяснений причин допущенных ошибок. |