Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта - читать онлайн книгу. Автор: Макс Тегмарк cтр.№ 55

Минусы

Для своих самых верных сторонников киборги и заливки притягательны обещанием технологического совершенства и продления жизни до бесконечности. Что и говорить, перспектива быть залитыми когда-нибудь в будущем сподвигла сотню с лишним человек согласиться на посмертное замораживание их мозга, предлагаемое компанией Alcor в штате Аризона. Однако даже если эта технология и будет когда-то создана, ничто не говорит о ее доступности для всех. Некоторые очень богатые люди смогут ею воспользоваться, но кто еще? Даже если технология станет дешевле, то насколько сместится ценз? Будут ли заливаться те, у кого мозг серьезно поврежден? Будем ли мы заливать каждую гориллу? А каждого муравья? Каждое растение? Каждую бактерию? Поведет ли себя будущая цивилизация как одержимый обсессивно-компульсивным синдромом, пытаясь залить все и вся, или станет делать цифровые копии только наиболее интересных экземпляров в духе Ноева ковчега? Может быть, хватит по несколько самых репрезентативных копий каждой из разновидностей людей? Значительно более разумным существам, которые возникнут к тому времени, цифровые копии людей, возможно, будут почти так же занятны, как нам сегодня симулированные мыши или улитки. Для нас сейчас не составляет труда воспроизвести программы для работы с электронными таблицами 1980-х годов на эмуляторе операционной среды DOS, но вряд ли это кому-то покажется достаточно интересным, чтобы заняться этим.

Многим этот либертарианский сценарий покажется неудовлетворительным, потому что в нем подразумеваются страдания, которых можно было бы и избежать. Святая неприкосновенность права собственности означает, что многие страдания, присущие нашему нынешнему миру, продолжат свое существование и в тех зонах, которые населены людьми, — человеческих и смешанных. Процветание одних людей не оградит остальных от нищеты или кабальной зависимости от других. Ничто не гарантирует избавления от насилия, репрессий или депрессий. В фантастическом романе Маршалла Брайана 2003 года описывается либертарианское будущее, в котором развитие искусственного интеллекта делает большинство американцев безработными, и они вынуждены проводить оставшуюся часть своей жизни в унылых социальных общежитиях, обслуживаемых роботами. Условия их содержания напоминают животноводческую ферму, где у животных нет недостатка ни в еде, ни в уходе, но живут они скученно и изолированно, чтобы сохранившие богатство были избавлены от необходимости встречаться с ними. Стерилизующие вещества, добавляемые в воду, гарантируют отсутствие у них потомства, так что производимые роботами богатства постепенно распределяются среди все меньшего количества избранных.

Страдания в сценарии либертарианской утопии касаются не только человеческих существ. Если осознанные переживания и эмоции присущи некоторым машинам, они тоже не избавлены от страданий. Психопат, одержимый манией мщения, может на вполне законных основаниях подвергать цифровую копию своего врага в виртуальном мире пыткам и издевательствам, далеко выходящим за любые биологические рамки реального бытия.

Давайте теперь рассмотрим сценарий, в котором все эти формы страдания невозможны, потому что мир управляется одним благодетельным сверхразумом, который установил свои жесткие правила, разработанные так, чтобы максимально способствовать человеческому счастью. Это одно из возможных последствий в нашем сценарии «Омега» предыдущей главы, где Прометея освобождают от всякого контроля со стороны людей, когда они понимают, каким образом заставить его всегда содействовать процветанию человеческого рода.

Благодаря поразительным технологиям, разработанным всесильным диктатором с могучим искусственным интеллектом, человечество освободилось от нищеты, болезней и других бед, возникающих при низком уровне технологического развития, и теперь все люди наслаждаются бездельем и роскошью. Все их базовые потребности полностью удовлетворены, так как машины под управлением искусственного интеллекта производят все необходимые товары и услуги. Преступность практически искоренена, потому что искусственный интеллект фактически всеведущ, и он очень эффективно наказывает за любое нарушение правил. Все обязаны носить браслет безопасности, описанный в предыдущей главе, или его более удобную имплантированную версию, что гарантирует возможность в реальном времени отслеживать, наказывать, утихомиривать и казнить. Все знают, что живут в условиях полицейской диктатуры искусственного интеллекта с чрезвычайно надежной системой всеобщей слежки, но подавляющее большинство соглашается, что это им же во благо. Искусственный интеллект видит свою цель в том, чтобы предугадать, как, исходя из эволюционирующих генетических предпочтений, должна развиваться человеческая утопия, и осуществлять ее. Люди, создававшие этот искусственный интеллект, исключили для него возможность добиваться максимального индивидуального переживания счастья всеми живущими, скажем, просто внутривенным введением им морфина. У него было довольно сложное и изощренное представление о человеческом счастье, следуя которому он превратил Землю в бескрайний зоопарк, жить здесь стало по-настоящему интересно. В результате большинство людей чувствовали, что живут очень насыщенной и полной смысла жизнью.

Секториальная система

Ценя разнообразие и понимая, что у людей могут быть различные предпочтения, искусственный интеллект поделил Землю на сектора, дав людям возможность выбирать, где им больше нравится жить, чтобы их окружение было близко им по духу. Вот несколько примеров:

• Сектор знаний: Здесь искусственный интеллект проводит оптимизированное обучение, включая иммерсивные эксперименты в виртуальной реальности, позволяя вам совершенствовать свои знания в любой области по вашему выбору. Среди прочего, для вас открыта опция не узнавать обо всех открытиях в процессе обучения, но быть лишь подведенным к ним, чтобы потом испытать радость первооткрывателя.