Как работает мозг - читать онлайн книгу. Автор: Стивен Пинкер cтр.№ 7

Впрочем, так же нелегко запрограммировать и более высокие и добрые побуждения. Как заставить робота подчиняться предписанию Азимова никогда не допускать бездействием, чтобы человеку был нанесен вред? Действие написанного в 1965 году романа Майкла Фрейна «Оловянные солдатики» разворачивается в робототехнической лаборатории, где работники отдела этики – Мак-Интош, Голдвассер и Синсон – проверяют своих роботов на альтруизм. Они восприняли слишком буквально гипотетическую моральную дилемму, приводимую в пример во всех учебниках по нравственной философии: два человека оказались в спасательной шлюпке, рассчитанной на одного, и оба погибнут, если один из них не прыгнет за борт. Мак-Интош и его сотрудники помещают каждого робота на плот вместе с еще одним пассажиром, опускают плот в резервуар и наблюдают за развитием событий.

Однако по мере того, как роботы модели «Самаритянин-2» начинают вести себя как описываемый в книгах по философии моральный агент, становится все менее и менее очевидным, что они вообще обладают моралью. Мак-Интош так объясняет, почему он не привязывает канат к готовому пожертвовать собой роботу, чтобы его было легче достать со дна: «Он не должен знать, что его спасут. Иначе решимости жертвовать собой грош цена Поэтому время от времени я кого-нибудь не выуживаю, оставляю на дне. Надо же показать остальным, что я не расположен шутки шутить. Двоих уже списал на этой неделе». Попытки разобраться, как запрограммировать робота быть хорошим, показывают не только, какой сложный для этого требуется механизм, но и как сложно вообще определить само понятие добродетели.

А как же мотив, который заботит людей больше всего остального? Поп-культура 1960-х подарила нам образ мягкосердечных компьютеров, которых привлекает отнюдь не тщеславие и жажда власти, как видно из шутливой песни Аллана Шермана «Автоматы» (Automation), исполнявшейся на мотив Fascination:

И все же, хотя порой любовь кажется нам безумием и наваждением, это не вирус и не сбой в программе. Наш разум никогда не достигает такой поразительной степени концентрации, как в то время, когда нами овладевает любовь. Подумать только, какие сложнейшие механизмы должны стоять за необъяснимой логикой любви во всех ее ипостасях, среди которых притяжение, влечение, ухаживание, флирт, привязанность, преданность, неудовлетворенность, измена, ревность, расставание, разочарование! И ведь, как говаривала моя бабушка, на каждый горшок найдется своя крышка: большинство людей – включая, что весьма важно, всех наших предков – умудряются состоять в отношениях достаточно долго, чтобы у них появились жизнеспособные дети. Только представьте, какая сложная программа потребуется для того, чтобы воспроизвести все эти процессы! ^[21]

* * *

Проектирование робототехники в определенном смысле расширяет самосознание. Мы по большей части воспринимаем свою психическую деятельность как должное. Едва открыв глаза, мы видим перед собой знакомые предметы; мы силой своей воли побуждаем свои конечности двигаться, и объекты перемещаются туда, куда нужно; пробуждаясь ото сна, мы возвращаемся в этот отрадно предсказуемый мир. Купидон натягивает тетиву и спускает стрелу. Но задумайтесь о том, чего будет стоить заставить кусок железа достичь таких невообразимых результатов, и вы поймете, что это лишь иллюзия. Зрение, движение, здравый смысл, насилие, нравственность, любовь – все это не случайно, это не неотъемлемые характеристики любого существа, наделенного интеллектом, не неизбежный результат обработки информации. Каждое из этих явлений – это «высший пилотаж», плод целенаправленной работы высочайшей сложности. За фасадом нашего сознания скрываются поразительно сложные механизмы: зрительные анализаторы, системы управления движением, симуляторы реального мира, базы данных о людях и предметах, органайзеры, системы разрешения конфликтов и многие другие. Любая попытка объяснить работу мозга, опираясь на идею о каком-нибудь дарующем разум волшебном эликсире или единой движущей силе вроде понятий «культура», «обучение», «самоорганизация», начинает звучать неубедительно на фоне того, в какой безжалостной вселенной нам удается столь успешно выживать.

Проблемы, связанные с созданием робота, прямо указывают на то, что наш разум оснащен огромным количеством оригинальных механизмов, но кому-то это может показаться кабинетным мышлением. Действительно ли мы увидим признаки этой сложности, если посмотрим непосредственно на элементы, составляющие разум, и на схемы его сборки? Я думаю, да, и то, что мы увидим, расширит наше восприятие не меньше, чем сама проблема создания робота.

Например, когда у человека повреждены зрительные зоны мозга, зрительная картина мира становится не просто размытой или наполненной белыми пятнами. Страдают отдельные аспекты визуального восприятия, в то время как другие аспекты остаются нетронутыми. Некоторые пациенты видят картину мира полностью, но обращают внимание только на одну ее половину. Они едят с правой стороны тарелки, бреют только правую щеку, рисуют часы, на которых все двенадцать цифр умещаются на правой половине циферблата. Другие пациенты утрачивают восприятие цвета, но мир перед ними предстает не в виде черно-белого кино. Просто все вокруг кажется им грязным, окрашенным в неприятный цвет, отчего у них пропадает аппетит и сексуальное влечение. Третьи видят, как объект оказывается на новом месте, но не видят самого перемещения (один философ как-то пытался убедить меня в том, что с точки зрения логики существование этого синдрома невозможно!). Пар из чайника не выходит струйкой, а выглядит как сосулька; чашка заполняется чаем не постепенно, а внезапно превращается из пустой в полную ^[22].