Homo Roboticus? Люди и машины в поисках взаимопонимания - читать онлайн книгу. Автор: Джон Маркофф cтр.№ 63

Такова политика крупных компаний, но Хорвиц не сдался. Сегодня посетителей его кабинета со стеклянными стенами на четвертом этаже приветствует живущий в мониторе персональный помощник. Монитор установлен на тележке перед офисом, и с него на зрителей смотрит карикатурный двойник Макса Хэдрума, звезды британского телесериала о запинающемся искусственном интеллекте, который содержит предсмертные воспоминания из мозга тележурналиста Эдисона Картера. Электронный секретарь Хорвица может сообщить посетителям, где тот находится, назначить встречу, сказать, когда хозяин кабинета будет на месте. Он отслеживает почти десяток аспектов работы Хорвица, включая его местоположение и загруженность в любой момент дня.

Хорвиц остается приверженцем систем, которые расширяют возможности людей. Исследователи под его руководством разрабатывают приложения, которые помогают во время разговора врача и пациента и в других ответственных ситуациях избегать потенциально опасного недопонимания. Одно из приложений позволяет вести журнал переговоров во время авиакатастроф для выявления ошибок в процессе взаимодействия авиадиспетчеров и пилотов. Классическим и трагическим примером недопонимания между пилотами и диспетчерами служит катастрофа в аэропорту Тенерифе в 1977 г., когда в густом тумане столкнулись два Boeing 747, один из которых выруливал на взлетно-посадочную полосу, а другой взлетал. Столкновение унесло жизни 583 человек ^{167}. В записи переговоров есть момент, когда двое пытаются говорить одновременно и речь становится неразборчивой. Одна из целей лаборатории Хорвица – разработка способов предотвращения трагедий такого рода. Хорвиц полагает, что добавление функционала машинного обучения и принятия решений позволит системам искусственного интеллекта анализировать переговоры людей и судить, что лучше оставить людям, а что следует передать машине. Доступность дешевых компьютеров и интернета увеличивает эффективность таких систем, и на рынке уже есть примеры подобного усиления интеллекта. Так, еще в 2005 г. два шахматиста-любителя с помощью шахматной программы смогли обыграть и первоклассных шахматистов, и самостоятельные шахматные программы.

Хорвиц продолжает углублять взаимодействие человека и машины, исследуя возможности сочетания машинного обучения и компьютерных технологий принятия решений с интеллектом человека. Например, его исследователи тесно сотрудничают с создателями научного инструмента Galaxy Zoo, позволяющего привлечь армию интернет-пользователей к классификации типов галактик по их изображениям. Участие широкого круга добровольцев становится существенным ресурсом в научном исследовании: профессиональные ученые могут привлекать любителей, от которых зачастую требуется немногим больше, чем в игре, построенной на использовании живого восприятия. Этот подход помогает ученым решать такие сложные проблемы, как фолдинг белка ^{168}. Известен целый ряд случаев, когда команды экспертов по своим возможностям превосходили самые мощные суперкомпьютеры.

Формируя коллективы людей и машин и поручая каждой группе свою исследовательскую задачу, ученые могут создать сильную гибридную команду. Компьютеры потрясающе распознают изображения и могут составлять таблицы из сотен визуальных и аналитических характеристик каждой галактики, видимой через телескопы на земле. Это очень недорого, но идеальных результатов не приносит. В следующей версии программы, названной Galaxy Zoo 2, компьютеры с моделями машинного обучения интерпретировали изображения галактик для представления точных исходных данных людям, которые классифицировали галактики со значительно меньшими усилиями, чем раньше. Кроме того, система стала идентифицировать способности конкретных участников. Galaxy Zoo 2 смогла автоматически классифицировать возникающие проблемы и определять, кто именно наиболее эффективно способствует решению данной проблемы.

Во время выступления на конференции TED в 2013 г. Хорвиц продемонстрировал реакцию молодой сотрудницы Microsoft при первом столкновении с его роботом-секретарем. Он показал ролик о взаимодействии с точки зрения системы, которая отслеживала выражение лица. Молодая женщина подошла к роботу, и, когда тот сказал, что Эрик разговаривает с кем-то в офисе, а потом предложил записать ее на прием, она запнулась и отказалась. «Ничего себе, – сказала она шепотом, а затем, чтобы закончить разговор, добавила: Рада была познакомиться!» Хорвиц видел в этом хороший знак, предвещавший появление мира, в котором люди и машины будут партнерами.

Диалоговые системы постепенно становятся неотъемлемой частью наших повседневных взаимодействий. Конечно, такое партнерство не всегда развивается так, как мы ожидаем. В декабре 2013 г. сенсацией стал фильм «Она», любовный роман с Хоакином Фениксом в главной роли и голосом Скарлетт Йоханссон. Этот научно-фантастический фильм показывает наше недалекое будущее, в котором одинокий человек из Южной Калифорнии влюбляется в операционную систему. Сюжет показался вполне правдоподобным многим зрителям. В конце 2013 г. миллионы людей по всему миру уже не первый год общались с Siri компании Apple и не сомневались в том, что «виртуальные агенты» постепенно превращаются из новинок в обычное дело.

В какой-то мере фильм «Она» посвящен и сингулярности – идее о том, что быстро развивающийся машинный интеллект в конечном итоге превзойдет человека и станет независимым. Фильмы «Она» и «Превосходство» (Transcendence) – другой пронизанный идеей сингулярности фильм, вышедший на экраны следующей весной – больше всего интересны тем, как они преподносят отношения между человеком и машиной. В «Превосходстве» взаимодействие человека с компьютером переходит из приятного в мрачное, и в конечном счете сверхинтеллектуальная машина уничтожает нашу цивилизацию. В фильме «Она» отношения между человеком и операционной системой распадаются, поскольку электронный интеллект развивается настолько быстро, что ему становится мало даже тысяч одновременных отношений, он превосходит человечество и… уходит.

Это, конечно, фантастика, но с чем-то подобным в реальном мире Лизл Каппер столкнулась почти на десятилетие раньше. Каппер, в то время генеральный директор занимавшейся разработкой виртуального собеседника австралийской компании My Cybertwin, просматривала регистрационный журнал созданного ею сервиса My Perfect Girlfriend с растущим ужасом. My Perfect Friend должен был стать чат-ботом, демонстрирующим технологии обработки естественного языка, предлагаемые компанией Каппер. Но эксперимент пошел не в ту сторону. Прочитав сообщения веб-сайта, Каппер обнаружила, что стала оператором цифрового борделя.

Технология виртуальных собеседников существует со времен экспериментов Вейценбаума с программой Eliza. Быстрое развитие компьютерных технологий упростило отношения между людьми и машинами. В книге «Одинокие вместе: Почему мы ожидаем от технологий большего, чем друг от друга» социолог из Массачусетского технологического института Шерри Теркл выражает беспокойство в связи с тем, что технологии расширяют взаимодействие человека с машинами в ущерб контактам между людьми. «Я полагаю, что технология общения всегда будет разочаровывать, поскольку она обещает то, чего не может дать, – пишет Теркл. – Она обещает дружбу, но способна создать только "видимость". Хотим ли мы на самом деле штамповать друзей, которые никогда не будут друзьями?» ^{169} Социологи уже давно описали это явление как ложное чувство единства – «псевдосообщество», – и оно не ограничено человеко-машинным взаимодействием. Например, клиент банка может ценить отношения с кассиром, хотя они существуют только в контексте коммерческих операций и представляют собой не более чем вежливое, поверхностное знакомство. Теркл также считает, что отношения между людьми и роботами, которые она наблюдала в исследовательских лабораториях Массачусетского технологического института, нельзя относить к настоящим. Машины создаются для выражения синтетических эмоций с тем, чтобы вызвать определенную реакцию человека или выяснить, как он будет реагировать.