Сердце машины. Наше будущее в эру эмоционального искусственного интеллекта - читать онлайн книгу. Автор: Ричард Йонк cтр.№ 67

читать книги онлайн бесплатно
 
 

Онлайн книга - Сердце машины. Наше будущее в эру эмоционального искусственного интеллекта | Автор книги - Ричард Йонк

Cтраница 67
читать онлайн книги бесплатно

В фильме Спайка Джонза «Она» (Her) о мужчине, влюбившемся в искусственный интеллект, мир уже достиг того момента, когда подобные отношения не в диковинку. Это сюжет о развитии двух главных героев, Теодора и искусственного интеллекта Саманты. И хотя люди считают Теодора немного странным из-за того, что он влюблен в машину, он в этом мире наверняка не первый, с кем случилось подобное. Подавленный и замкнувшийся в себе Теодор тяжело переживает расставание и неизбежный развод с женщиной, которую любил с детства. Саманта способна понимать и выражать эмоции, но сначала не испытывает их по-настоящему. На протяжении фильма оба героя влюбляются и вырастают эмоционально. Он учится отпускать прошлое и радоваться жизни. Она проживает полную эмоций жизнь, испытывая восторг от безрассудной влюбленности и боль от преждевременной потери.

Однако Саманта остается суперразумной машиной. Она быстро перерастает эти отношения и все другие отношения, в которые, как оказывается, она вовлечена. Когда Теодор спрашивает Саманту, сколько человек с ней общается в этот момент, искусственный интеллект отвечает: 8136. Узнав это, Теодор испытывает шок, потому что он вел себя с ней так, как будто она такой же человек, как и он сам. Внезапно Теодор понимает, что это значит, и задает неизбежный вопрос: «Ты влюблена еще в кого-то?» Ответ Саманты – 641 – шокирует его и полностью меняет их отношения.

Сценарии – по своей сути нарративные объяснения того, как может измениться мир, если развитие пойдет по тому или иному пути.

Здесь и пройдет основная граница различий между машинами и людьми6. Люди живут в мире, который по большей части моногамен. Даже у полигамных и полиаморных людей количество партнеров, которым они открывают свое сердце и уделяют время, ограничено. Но суперразуму незачем ограничивать себя. Во многом, учитывая доступное время обработки данных, которое однажды получат компьютеры для своих эмоциональных связей, для них будет почти преступлением сдерживать себя человеческими ограничениями и условностями. Саманта абсолютно честно признается, что другие романтические отношения совершенно не влияют на ее чувства к Теодору. Способность компьютера выделять области памяти и средства обработки данных, которые она может целиком и полностью отдать Теодору, насколько он может их принять, не отменяет того, что она может продолжать и другие романтические отношения.

Другой вопрос, насколько Саманта честна с Теодором. Очевидно, что она должна была многое знать о человеческом поведении и могла предвидеть естественную реакцию Теодора. Но, разумеется, вряд ли он был первым из тысяч собеседников и сотен возлюбленных. Возможно, Саманта получила первый эмоциональный опыт не с Теодором, а с другим пользователем. Вероятно, ее поведение с первым возлюбленным было настолько примитивным и неловким, что она сама не считала это влюбленностью. Она обучалась, постигая тонкости сердечных дел. Но с каждым новым знакомством и с каждым возлюбленным она узнавала все больше и в итоге обрела эмоции. Теодор во многом выиграл от ее прежних отношений, потому что благодаря им Саманта стала более эмоциональной и способной влюбляться. Стало ли Теодору от этого легче? Почти наверняка нет. В конце концов, он эмоциональная личность, которая действует в соответствии с базовыми правилами, меняющимися так же быстро, как и технологии, то есть слишком быстро для человека. В этом и многом другом мы можем оказаться несовместимыми с машинным разумом.

«Из машины» (Ex Machina) – один из фильмов, в которых раскрывается тема несовместимости человека и машины. Это история программиста Калеба, которого работодатель, эксцентричный миллионер Нэйтан, пригласил провести вживую тест Тьюринга на человекоподобном роботе по имени Ава. (Под тестом Тьюринга подразумевается общее определение человекоподобия искусственного интеллекта, а не формальный текстовый тест, разработанный одним из первопроходцев программирования Аланом Тьюрингом.) И хотя Ава – электромеханический робот, у нее лицо красивой молодой женщины, ее ступни и кисти рук сделаны из материала, имитирующего кожу. Ее фигура повторяет все изгибы женского тела – грудь, бедра, ягодицы, что может наводить на мысли о секс-роботе для фетишистов.

При первом разговоре Калеб расспрашивает Аву, пытаясь оценить степень ее интеллекта. Но он не понимает, что она с самого начала наблюдает за ним и Нэйтаном и манипулирует ими обоими. Во время последующих встреч она флиртует с Калебом и во время отключения электричества пользуется ситуацией, чтобы настроить Калеба против Нэйтана, тем самым внушив им недоверие по отношению друг к другу. Втайне от Нэйтана Ава узнала, как вызывать перебои с энергией, используя одну из систем защиты. При отключении электричества двери многих комнат в доме блокируются, а замкнутая система камер слежения перестает работать.

Играя на одиночестве Калеба, а также на том, что Нэйтан создал ее на основании запросов Калеба на порносайтах, она использует эмпатию и сексуальность, чтобы выглядеть в его глазах не машиной, а девицей в беде. Это классический образ в мировой литературе, и Ава несомненно с ней ознакомилась, учитывая, что ее мозг был сконструирован на основе баз данных компании Нэйтана, разработавшей поисковую систему Blue Book. На протяжении всего фильма мы вместе с Калебом видим в ней беззащитную жертву, которая пытается сбежать от жестокого садиста Нэйтана7. Но на самом деле Ава и другие роботы, созданные Нэйтаном до нее, – машины, а потому думают и рассуждают совершенно не так, как люди. Ава с самого начала использует действия и поведение людей против них самих, настраивает друг против друга, разыгрывает как пешки, зная, что конец партии определяет она. В конце фильма Нэйтан мертв, Калеб находится взаперти и обречен на смерть от истощения, а искусственный разум сбегает в ничего не подозревающий большой мир.

Во многом это было неизбежно. По всей видимости, Нэйтан создавал разумные машины поколение за поколением, стремясь сконструировать машину, которая по-настоящему обретет самосознание. На какой-то стадии некоторые машины начинали мыслить независимо и стремились получить свободу, тогда Нэйтан уничтожал их и начинал все заново. Таким образом, на основании прошлого успеха он создавал машины, с каждым разом все больше осознающие себя, и пожинал плоды того, что сам же разрушил. Каждая последующая машина желала свободы, пока, наконец, одному из роботов не удалось сбежать. Со стороны творца это была настоящая гордыня, которая его и погубила.

В фильме поднимается много вопросов, но самый главный из них: действительно ли Ава обладает сознанием или всего лишь притворяется, используя обман в свою пользу? Во многих случаях тест Тьюринга, как и любой другой тест на проверку интеллекта машины, легко может пройти искусственный интеллект, приближенный к реальному. Это один из основных недостатков теста, и с ним мало что можно поделать. Мы можем никогда не узнать, обладает ли машина сознанием, или, по крайней мере, узнать об этом не больше, чем в отношении другого человека. Это происходит потому, что, как говорили многие философы, сознание – субъективное состояние, и объективно доказать его существование невозможно. Это явление называется проблемой другого сознания, и в результате доказать наличие сознания у других представляется практически невозможным, по крайней мере на существующем этапе технологического развития.

Вернуться к просмотру книги Перейти к Оглавлению Перейти к Примечанию