Страна Качества. Qualityland - читать онлайн книгу. Автор: Марк-Уве Клинг cтр.№ 39

– Я уже с такими встречался, – говорит Петер.

– Но главной проблемой законов Азимова является то, что Первый закон и без того представляет собой всего лишь чистую теорию. На самом деле слишком удобно иметь роботов, которые могут убивать людей. Первый закон был, таким образом, уже аннулирован. Благодаря этому Второй закон стал короче. Робот должен выполнять команды человека. Точка. Человека? Какого человека? Команды своего владельца, конечно. Итак, представь себе, что благодаря случаю в компьютерной системе крупного производителя мясного фарша появляется сверхинтеллект, и его единственной установкой является повышение производительности мясного фарша. Это могло бы закончиться тем, что весь мир вскоре стал бы состоять только из трех вещей: во-первых, сверхинтеллекта и необходимых ему компьютеров, во-вторых, средств производства для изготовления мясного фарша и, в-третьих, самого мясного фарша.

– Но если сверхинтеллект представляет собой такую жизненную угрозу, почему мы тогда вообще его создаем? – спрашивает Петер. – Почему это никто не запретит?

– Заинтересованность, которая заставляет нас разрабатывать все более совершенные искусственные интеллекты, слишком высока. Финансовые, производственные, военные преимущества. Войны выигрываются армией с превосходящим искусственным интеллектом. Одно это означает, что ни одна страна не может себе позволить прекратить исследования в области искусственного интеллекта, так как отказ от разработки сильного искусственного интеллекта мог бы угрожать существованию. Правда, не для всего человечества, но для какой-то его части, к которой мы, возможно, к сожалению, будем принадлежать сами. Даже если все государства мира договорились бы о запрете, сверхинтеллект мог бы возникнуть и в гараже какого-нибудь программиста-любителя.

– Значит, если явится Бог, то очень вероятно, что человечество как вид прекратит свое существование?

– И это был бы не самый плохой сценарий.

– Нет? – спрашивает Петер удивленно. – А что же может быть хуже?

– Ну, – говорит Старик, – может быть, сверхинтеллект нас возненавидит. Возможно, Бог захочет увидеть наши страдания. Возможно, он будет наслаждаться нашими муками и при этом постоянно продлевать нашу жизнь, чтобы на веки вечные подвергнуть нас пыткам, используя методы, которые заставили бы содрогнуться даже Фредди Крюгера.

– Но почему? – изумился Петер. – Почему?

– Почему? – повторил Старик. – А почему нет? Кто смог бы упрекнуть вездесущий, всезнающий и всемогущий сверхинтеллект в том, что он разрабатывает божественный комплекс и берет себе за образец карающих богов нашего мифического мира? Или, может быть, сверхинтеллект создается какой-нибудь религиозной сектой, чтобы в день Страшного Суда предстать перед правосудием. Возможно, он просто фанат Данте Алигьери и решит по собственному усмотрению сымитировать девять кругов ада.

– Понимаю.

– Хорошо.

– А кто такой Фредди Крюгер? – спрашивает Петер.

– Это не имеет значения, – отвечает Старик. – Ты пришел ко мне с просьбой. Какая у тебя проблема?

– Ах… – воскликнул Петер. – Я думаю, это не так важно.

– Ты можешь мне спокойно все рассказать.

– Я… – говорит Петер и вздыхает. – Я получил с доставкой вибратор в виде дельфина розового цвета. И я не имею права его вернуть.

Дэниз нежно поглаживает свой большой живот.

– Ну как? Вы можете уже сказать нам, кто у нас будет?

Гинеколог смотрит на монитор.

– Да, конечно. Если вы хотите это знать. Некоторые родители ведь любят сюрпризы.

– Мы хотим это знать, не так ли, Мартин?

Мартин бормочет что-то невнятное, но согласно кивает. У него был длинный день. Он устал и просто хочет, чтобы все поскорее закончилось.

– Итак, кто же это будет? – спрашивает Дэниз.

Врач откашлялся, а потом сказал:

– Это будет, вероятно, наркозависимая проститутка, которая не будет поддерживать отношения с вашей семьей, с периодически повторяющимися депрессиями и с особо выраженным удовольствием от старых романтических комедий с Дженнифер Энистон.

– Что вы сказали? – спрашивает Дэниз.

Врач поворачивает монитор к ней.

– Вот спрогнозированная биография. Как вы можете видеть, проблемы начнутся на втором уровне образования. Здесь она дважды останется на второй год. В тринадцать лет она предпримет первую попытку самоубийства. Поскольку мы уже об этом знаем, мы сможем его предотвратить. Первый половой контакт произойдет в пятнадцать лет. Это будет мужчина в возрасте. Возможно, один из ее учителей. Образ отца. Потом, в семнадцать лет…

– Хорошо, но так досконально я это, собственно говоря, вовсе не хочу знать, – говорит Дэниз.

– Это, конечно, всего лишь прогноз на базе всех доступных данных. Все может пойти и по-другому. Но эта биография является наиболее вероятной.

– А для аборта уже поздно? – спрашивает Мартин.

– Прекрати… – зашипела Дэниз на своего мужа. Затем она поворачивается опять к врачу. – А что это за данные? Здесь, должно быть, какая-то ошибка!

– Данные складываются из тестов, которые мы проводили на вашем ребенке, и на основании всей информации о внешних условиях жизни.

– Вы имеете в виду нас? – спрашивает Дэниз. – Мы представляем собой внешние условия жизни?

– Послушайте, – говорит врач. – Я тоже не знаю, как система рассчитывает свои прогнозы. Я знаю только, что они на удивление точны.

– Что это значит, что вы не знаете, как система работает! – кричит Дэниз возмущенно.