Искусственный интеллект и будущее человечества - читать онлайн книгу. Автор: Марк О’Коннелл cтр.№ 18

Первое подробное изложение принципов технологической сингулярности обычно приписывается математику и писателю-фантасту Вернору Винджу. В эссе «Грядущая технологическая сингулярность: как выжить в постчеловеческой эре», впервые представленном на конференции NASA в 1993 году, Виндж заявил, что «в течение ближайших тридцати лет у нас появятся технологические средства для создания сверхчеловеческого интеллекта. Вскоре после этого человеческая эра закончится». Виндж неоднозначно относился к последствиям этой великой трансцендентности: она могла ознаменовать как завершение всех наших проблем, так и полное уничтожение нашего вида. Но то, что она грядет, не вызывает никаких сомнений. Как и у многих мыслителей эры миллениума, предсказания Винджа характеризуются странным историческим детерминизмом: сингулярность невозможно предотвратить, уверен он, так как ее появление – это неизбежное следствие нашей конкурентоспособности и возможностей технологии. А еще, пишет он, все мы – инициаторы этого процесса.

Ближе всего к канонической сингулярности лежат идеи Рэя Курцвейла – изобретателя многих гениальных устройств (планшетного сканера, устройства воспроизведения текстов для слепых). Курцвейл вместе со Стиви Уандером является соучредителем компании Kurzweil Music Systems, синтезаторы которой используют Скотт Уокер, группа New Order и «Странный Эл» Янкович. Как писатель он является противоречивой фигурой, мистиком делового стиля, чьи тайные проекции содержат спекуляции о самых далеких техноутопических достижениях. Но Курцвейл ни в коем случае не маргинал технического мира. Он скорее опекун Силиконовой долины – этот статус был более или менее формализован в 2012 году, когда Рэя пригласили в Google на должность директора по инженерным вопросам: так он стал главным идеологом направления машинного обучения в компании.

Сингулярность Курцвейла – широкое видение технологического изобилия, тщательно продуманная телеология, в которой вся история человечества сводится к апофеозу чистого разума. «Как мы можем ощутить сингулярность?» – спрашивает он на первых страницах своего бестселлера «Сингулярность приближается: когда люди выйдут за рамки биологии» (The Singularity Is Near: When Humans Transcend Biology). И отвечает: «Подобно Солнцу, на которое легче смотреть, слегка прищурившись». Он пророчествует, что сингулярность ожидается к 2045 году или около того. Курцвейл, который, как известно, ежедневно принимает огромное количество биологически активных добавок и витаминов и продвигает свой собственный бренд эликсиров и капсул, сдерживающих смерть, уверен, что он все еще будет здесь в свои девяносто семь.

Как прорицатель технологического будущего он формулирует главный постулат, именуемый «законом ускоряющейся отдачи». Курцвейл говорит о том, что технологии постоянно нарастают, имея экспоненциальный характер – по аналогии со сложными процентами в финансовой сфере. Сегодняшний уровень технологий – это основа, на которой мы разрабатываем технологии будущего. Чем более сложной становится технология, тем быстрее она совершенствуется (наиболее известный пример этого феномена – «закон Мура» – привел в 1950-х годах Гордон Мур, соучредитель корпорации Intel: количество транзисторов, которое можно разместить на кристалле интегральной схемы, удваивается примерно каждые восемнадцать месяцев). Процесс дарвиновской эволюции, по Курцвейлу, имеет экспоненциальный характер, явно стремящийся к ожидаемому концу. Эволюция – это не слепое и хаотичное движение, не случайный набор ужасов и чудес, а скорее система или «процесс создания моделей возрастающей сложности». Другими словами, эволюция стремится к идеальному порядку и регулированию машин. И именно эта эволюция моделей, логическая последовательность, в которой «каждая ступень или эпоха использует методы обработки информации предыдущей эпохи, чтобы создать будущее», по Курцвейлу, является «главной историей нашего мира».

Курцвейл рисует картину будущего, в котором вычислительные устройства продолжат становиться все меньше и все мощнее, пока ускоренная эволюция технологий не станет главной движущей силой нашей собственной эволюции. Он говорит о том, что нас больше не будут окружать компьютеры: мы поместим их в свои тела (в мозг и в кровь), тем самым изменяя природу человеческого бытия. В самом ближайшем будущем (то есть при жизни самого Курцвейла, как он надеется) это будет не только возможно, но и необходимо, учитывая недостаточные вычислительные мощности даже самых эффективных человеческих мозгов.

Будущее Курцвейла может показаться привлекательным, если вы уже приняли механистический взгляд на человеческое существо и согласились с пионером искусственного интеллекта Марвином Мински в том, что мозг – всего лишь компьютер из плоти. Почему бы нам не перейти на более высокий уровень функциональности? Если мы понимаем компьютер как аппарат, построенный для выполнения конкретной задачи, то наша задача как аппарата – думать и вычислять на самом высоком уровне. При такой инструменталистской точке зрения на человеческую жизнь наш долг или по крайней мере смысл нашего существования состоит в том, чтобы в первую очередь увеличивать свою вычислительную мощность. Мы, подобно машинам, должны быть эффективны и долговечны настолько, насколько это возможно.

«Наша версия биологического тела 1.0, – пишет Курцвейл, – довольно хрупкая и имеет мириады сбоев, не говоря уже об обременительных процедурах обслуживания. Хотя иногда человеческий интеллект способен парить в порыве творчества, большинство человеческих мыслей стандартны, жалки и ограниченны». Как только начнется сингулярность, мы перестанем быть беспомощными и примитивными существами, машинами из плоти, ограниченными в мыслях и действиях телом, нашим нынешним субстратом. «Сингулярность, – пишет он, – позволит нам преодолеть ограничения биологических тел и мозгов. Мы обретем власть над своей судьбой. Мы возьмем под контроль смертность. Мы сможем жить так долго, как того захотим (это не то же самое, что жить вечно). Мы полностью поймем принципы человеческого мышления и значительно расширим и обогатим его. К концу этого столетия небиологическая часть нашего интеллекта станет в триллионы триллионов раз мощнее человеческого разума».

Мы, наконец, освободимся от падшего состояния человечества, освободимся от плоти. Мы вернемся к догреховному состоянию целостности, окончательному союзу, в котором технологии заменят бога. «Сингулярность, – пишет Курцвейл, – станет кульминацией слияния нашего биологического мышления и наших технологий и приведет к появлению в мире человека, выходящего за рамки биологии. В постсингулярной эпохе уже не будет никакого различия между человеком и машиной или между физической и виртуальной реальностью». На критику о том, что такое объединение может уничтожить человечество, Курцвейл возражает, что на самом деле сингулярность – это главное достижение человечества как проекта, высшее проявление нашего постоянного стремления к преодолению нашей физической и умственной ограниченности, которое всегда определяло и отличало нас как вид.

В своем труде «О граде Божьем» блаженный Аврелий Августин описывает «всеобщее знание», выходящее далеко за пределы нашего воображения, называя его Божьей милостью. Он пишет: «Вообразите, насколько это ясное, верное, чуждое заблуждению и не требующее труда абсолютное знание… и какое у нас будет тело, полностью подчиненное духу и изобильно им оживляемое, не нуждающееся ни в какой другой пище».