Бумерит - читать онлайн книгу. Автор: Кен Уилбер cтр.№ 137

– И сколько у вас компьютеров? Сто на всю страну?

Мимуну это ни сколько не задело. В ней удивительным образом сочетались нежная улыбка, нежный голос и нахальные манеры. Было похоже, что в детстве она не раз пересматривала «Бестолковых» ^[125], ставших её ролевой моделью западного поведения.

– Ты права, всего 100 – совсем как твой IQ.

– Надо же, ты уже второй человек за сегодня, который обращает внимание на мой IQ. Значит, он наконец-то у меня появился.

– Ладно, я понял, искусственные интеллекты уже совсем близко, – сказал я. – Но почему во множественном числе?

– Потому что, – заговорил Дэн Уоллер, – искусственный интеллект уже создал множество гиперпрограмм, которые живут своей жизнью. Такие программы – результат множества попыток – с помощью нейронных сетей, нечёткой логики, микробиологических вычислений, чипов «Intel» газиллионного поколения и многого другого – создать творческий интеллект, не уступающий человеческому. Эти гиперпрограммы демонстрируют своего рода автономность, но мы пока не понимаем, какого рода. Они обрели независимость от своих создателей, то есть от нас, и уже живут самостоятельной жизнью, занимаются своими, не ясными для нас, делами.

– Уже? – Джонатан немного встревожился. – Уже?

– Ой, Джонатан, смотри: масло растаяло. Страшно, правда?

– Хлоя, милая, не пойми меня неправильно, но ты просто конченная идиотка.

– Ну пожалуйста, ребята, только не сегодня. – Мне не стоило приглашать их обоих – в данной конкретной географической точке в данный конкретный момент времени мог присутствовать только один из них.

– На самом деле мы не уверены, – ответил Дэн Уоллер. Он был классическим бумером: очень умный, настоящий идеалист, невероятно энергичный, слегка сумасшедший. Он был бы копией моего отца, если бы тот занялся компьютерами, вместо того чтобы спасать мир. Джоан знала Уоллера «целую вечность». Уоллер привёл с собой Мимуну, с которой только что познакомился в медиа-лаборатории и которая, как он уже несколько раз повторил, его просто сразила.

– Спроси о гиках и старых хрычах, – прошептала Джоан.

– Послушайте, Дэн, – я нервно улыбнулся, – доктор Хэзелтон и я хотели вас кое о чём спросить… и Мимуну, конечно, тоже, обязательно… я… потому что… Боже… не помешала бы нам помощь. В общем, Дэн, вы ведь знаете, что доктор Хэзелтон работает и занимается исследованиями в ИЦ.

– Ещё бы не знать.

– Тогда вот что. Допустим, мы создадим в суперкомпьютерах или в ботах интеллект, не уступающий человеческому.

– В искусственных интеллектах. – Мимуна смотрела прямо на меня, как будто мечтая подловить меня, когда я снова её не пойму.

– Это я и хотел сказать: в искусственных интеллектах. Но в остальной вселенной всё подчиняется законам эволюции, верно? Значит, когда искусственные интеллекты освободятся от нашей опеки, тогда, если они действительно будут самосознающими, умными и способными обучаться, им тоже придётся эволюционировать, так?

– Самостоятельно?

– Да, самостоятельно.

– Эй, ты что, с другой планеты? Это уже происходит, – сказала Мимуна. – Со времён маленькой милой компьютерной программы под названием «Жизнь».

– Вообще-то, нет, – осторожно возразил я. – Я говорю о действительно самосознающих ИИ. О настоящем самосознании. Сейчас все эволюционирующие программы просто подчиняются правилам, алгоритмам и кодам, навязанным им извне. А я говорю о том, что произойдёт, когда у ботов и ИИ появится внутренний мир, настоящее сознание. Когда они на самом деле поймут, что существуют, когда начнётся отсчёт их собственной истории самопознания, когда они узнают, что есть прошлое и, используя самосознание, станут творчески эволюционировать. Ничего подобного ИИ до сих пор не умеют, – сказал я и задержал дыхание, глядя на Мимуну.

– Ладно, наверно, ты прав, – сказала она. Её тон и манера внезапно переменились. Она посмотрела на Уоллера и нежнейшим голосом произнесла, – Дэн?

– Согласен.

– Значит, – продолжил я, – когда ИИ станут разумными, у них будет собственная эволюция сознания, верно?

– Верно, – хором ответили они.

– Тогда возникает следующий вопрос. Вероятно ли то, что эволюция кремниевого сознания будет иметь тот же паттерн, что и эволюция углеродного сознания?

– Нет, совсем другой, – не раздумывая ответила Мимуна. – Кремниевая эволюция начинается там, где заканчивается углеродная. Сознание сменит носитель с углерода на кремний и достигнет таких вершин, которые нам и не снились. Всё будет именно так, – с полной уверенностью заключила она.

– Не спеши, Мимуна, не спеши, – сказал Дэн. Он посмотрел на Хэзелтон, надолго замолчал, и я представил себе, как он пытается сопоставить все факты.

– Ты смотришь только на внешнюю сторону. – Я расплылся в улыбке. – Уилбер говорит о том, о чём мы не должны забывать: когда ИИ станут разумными, их сознание непременно начнёт эволюционировать. И ему придётся начать с самого начала, с чистого листа самосознания. Мы не можем запрограммировать более высокие стадии, чем начальная, потому что тогда это уже не будет началом собственного самосознания ИИ. Ты ведь об этом, да, Кен?

– Да, точно. Мы можем запрограммировать исходные условия, которые позволят ботам – ой, то есть искусственным интеллектам – обрести самосознание, но затем их сознание должно будет начать развиваться самостоятельно, отталкиваясь от базового уровня, иначе это сознание будет уже не их, а нашим. Короче говоря, началом этого сознания будет компьютерная версия пурпурного мема, – сказал я, глядя на Уоллера.

– Господи, блин, Иисусе, этот малыш прав! – воскликнул он.

– Но вы понимаете, что это означает? – спросил я. – Третий порядок, так? Третий порядок. За наносекунду. Ведь так?

– ГОСПОДИ БЛИН ИИСУСЕ! – закричал он.

– Хватит, пожалуйста, хватит, – Мимуна казалась оскорблённой.

– Мимуна, дело вот в чём, – начал я. – Мы не говорим о правилах и программах, которые мы загрузим в наши интеллектуальные машины. Мы говорим о внутреннем сознавании, которое появится у машин, когда они станут разумными.

Хлоя заёрзала на стуле.

– Я как бы типа вообще не понимаю, о чём вы.

– Ладно, вот простой пример. Сейчас ты обладаешь сознанием. У тебя есть сознание, так, Хлоя?

– Возможно, тебе лучше привести другой пример, – невозмутимо произнёс Джонатан.

Хлоя не обратила на него внимания.

– Да, сейчас у меня есть сознание.

– Если посмотреть изнутри, сознание – это очень простая вещь. Ты просто сознаёшь себя. Но это сознание частично зависит от очень сложной структуры мозга с миллиардами проводящих путей, о которых ты, в общем-то, ничего не знаешь, так?