Сердце машины. Наше будущее в эру эмоционального искусственного интеллекта - читать онлайн книгу. Автор: Ричард Йонк cтр.№ 56

Глория вздрогнула, услышав презрительно брошенное слово, и выскочила из-за стола.

– Майкл – кибернетическая личность с теми же правами, что у тебя или у меня! Мы поженимся, и ты ничем не сможешь нам помешать!

Она выбежала из столовой вся в слезах.

Арчи попытался что-то сказать, но увидел, как Эдит поджала губы, и передумал. Бросив взгляд на недоеденный обед, он понял, что у него пропал аппетит, и оттолкнул от себя тарелку.

* * *

Аффективные технологии и эмоциональный искусственный интеллект привнесут в общество огромные перемены. Возможно, наиболее очевидными они станут именно в семейных отношениях. Несомненным плюсом этих технологий станет то, что они откроют нам новые средства общения и позволят установить такую эмоциональную связь, на которую мы не были способны прежде. Мы сможем ощутить, что чувствуют наши любимые люди, даже если они находятся от нас на огромном расстоянии. Однажды мы даже сможем заново переживать записанные ощущения от празднования важного события или через долгое время после смерти любимого родственника.

С другой стороны, эмоции – важная составляющая нашей привязанности к семье, а машины и технологии постепенно разрушат эту связь. Несмотря на то что семьями традиционно считались группы, объединенные узами брака или кровным родством, многие культуры переходят к альтернативным нормам, включая смешанные и приемные семьи, а также группы людей, встречающихся друг с другом, вместо создания нуклеарной семьи. По мере развития аффективных технологий многие люди предпочтут долговременную эмоциональную связь с искусственным интеллектом. Это приведет к радикальным изменениям человеческой семьи как явления.

Будет ошибкой считать, что подобная связь распространяется только на машины человекоподобного вида. Ее объектом могут стать роботы больших и малых размеров, игрушки, устройства и даже компьютерные программы и операционные системы, как ОС 1 (OS ONE) в фильме «Она» (Her). Эмоциональный искусственный интеллект будет становиться все более сложным и обретать все больше тонкостей. Мы увидим, как машины начнут вызывать у нас определенную более или менее регулярную инстинктивную реакцию, которую Шерри Теркл назвала дарвиновскими кнопками. Зрительный контакт, выражения лица и некоторые жесты и голосовые сигналы часто вызывают у людей эмоциональную реакцию, и не имеет значения, исходят ли они от ребенка, собаки, игрушки или робота. Эти кнопки запускают соматические процессы, стимулирующие выработку гормонов – например, окситоцина и вазопрессина, – усиливающих привязанность. Подобные реакции, несомненно, главные в формировании материнской привязанности, необходимой для того, чтобы обеспечить потомству выживание. Учитывая, что человеческим детенышам требуется долгое время, чтобы вырасти и стать самодостаточными, формирование привязанности у людей длится много лет, гораздо дольше, чем у любых других животных.

На протяжении этого периода дети не только вырастают физически, но и получают когнитивные и социальные навыки. Эти основные и важные знания юный разум приобретает задолго до того, как научится абстрактному мышлению и ознакомится с другими понятиями высшего порядка. Основные эмоциональные реакции, голосовые сигналы, отслеживание выражений лица и движений глаз, крупная и мелкая моторика – часть этого обучения наряду с постепенным развитием самосознания, восприятием себя и других, а также первичным пониманием разницы между правильным и неправильным. Со временем ребенок усваивает более сложные навыки, например, тонкие аспекты языка и социального поведения. Обучение требует времени, эмоциональной заинтересованности, терпения и руководства. Без ответственной заботы и наставлений разум юного человека может выбрать нежелательный путь.

Хотя искусственный интеллект проигрывает по сложности развивающемуся детскому уму, он тоже может пострадать от отсутствия должной заботы и присмотра. 23 марта 2016 года компания Microsoft анонсировала миру Тэй. Тэй – чат-бот для Твиттера с искусственным интеллектом, представленный как девятнадцатилетняя девушка-американка. Предполагалось, что бот будет обучаться, общаясь с пользователями Твиттера в возрасте от восемнадцати до двадцати четырех лет (средний возраст целевой аудитории для мобильных устройств компании Microsoft). К сожалению, все пошло, мягко говоря, не так, как планировалось. В течение двадцати четырех часов и примерно через тысячу сто отправленных твитов после подключения Тэй превратилась из милой молодой девушки в расистку и сквернословку¹. Всего через сутки искусственный интеллект сыпал ругательствами через слово, использовал крайне непристойные и грубые выражения и заявлял о поддержке Гитлера. Тэй пришлось отключить от сети. Компания Microsoft обвинила международную группу пользователей, которые якобы научили Тэй нецензурной брани, чтобы вывести ее из строя.

Ничего удивительного для тех, кто хоть немного знает об интернете и поведении людей в сети. Обвинять пользователей было верхом лицемерия со стороны Microsoft. Тэй справилась с задачей – учить слова и фразы в процессе общения с людьми, используя алгоритмы глубинного обучения. Даже без всякого умысла насчет взлома обучение искусственного интеллекта в ходе сетевого общения с невоспитанными пользователями обречено на провал. Подобно тому как ребенок нуждается в присмотре и наставнике, который учит отличать правильное от неправильного, продвинутому искусственному интеллекту также необходим ответственный надзор на начальной стадии обучения. (Так и хочется сказать «взрослый» надзор, но увы, в интернете это слово обрело совершенно иное значение, и его использование также может стать причиной серьезных проблем!)

Пример далеко не единственный. В 2011 году Эрик Браун, руководитель проекта DeepQA компании IBM, решил обучить искусственный интеллект по имени Уотсон, используя сайт Urban Dictionary – онлайн-словарь современного сленга и уличного жаргона. Это было вскоре после знаменитой победы искусственного интеллекта в телевикторине «Рискуй!» (Jeopardy). Браун считал, что таким образом искусственный интеллект сможет научиться всем тонкостям неформального общения. Почти сразу же искусственный интеллект начал сквернословить напропалую. Команде проекта DeepQA пришлось удалить новые слова и выражения из лексикона Уотсона и создать для него фильтр нецензурных слов².

Нечто неожиданное произошло в 2012 году, когда секретная лаборатория X Lab компании Google решила выпустить свою лучшую искусственную нейросеть в интернет без присмотра и четких инструкций. Искусственный интеллект ознакомился с десятью миллионами случайно выбранных видеороликов на YouTube. Вскоре ИИ начал спонтанно распознавать и выбирать изображения определенного рода. Несмотря на отсутствие тренировки и даже не имея инструкции, что именно нужно искать, сложноорганизованная нейросеть Google начала отбирать изображения кошек. Больших, маленьких, длинношерстных, короткошерстных, бесшерстных, игривых и нахальных, она отбирала кошек любого цвета, размера и сложения. Если в летописи программирования когда-нибудь появится одержимый кошками искусственный интеллект, то это он и есть. О предпосылках такого поведения можно только догадываться. Весьма возможно, что причиной фанатичной любви искусственного интеллекта к кошкам стало огромное количество изображений и забавных видео, выложенных в сеть любителями кошек. Но полной уверенности в этом, учитывая то, как функционируют сложноорганизованные нейросети, у нас никогда не будет.