Книга Материнская плата, страница 33 – Софа Вернер

Мы прогнали вслух ещё пару лёгких вопросов про человечность в стиле «ты чувствуешь взгляды на себе?» и чек-лист порадовал результатом – пока что у меня в запасе 88 % стабильности системы внутри Нелли, а это почти идеальный результат.

И вдруг нас настиг последний вопрос, вне чек-листа – и при этом один из самых главных. Криса одновременно с этим начала хныкать, Нелли ласковым тоном попросила её немного подождать. Это нетипично – я ожидала, что Нелли прекратит взаимодействие со мной и займётся своей основной работой. Однако нет, она предчувствовала, что конец теста близок, и послушно ждала его окончания.

— Ты лгала когда-нибудь, Нелли?

— Не могу ответить на этот вопрос.

Я нахмурилась. Раньше так отвечали первые нейро-модели голосовых помощниц, когда не распознавали запрос, но я спросила разборчиво. Отклик должен был быть другим, а в чек-листе не указано даже похожей вариации ответа от машины.

— Ответь, – потребовала я, хотя надо было попросить. Во мне теплилась надежда, что в сложном устройстве её модулей из-за отключения сети всего лишь зависла команда. Но как бы я ни пыталась, мне никогда не хватило бы ума по-настоящему узнать, как и почему Нелли собрана.

— Не могу, Мира Ивановна. – Пауза. Она натянуто улыбнулась, и я будто даже услышала, как трещит механизм внутри, отвечающий за действие искусственных мышц. – Я не знаю, что значит ложь.

Я медленно встала – сначала опустила ноги, затем упёрлась руками в крышку ноутбука. Я посмотрела на циферблат передатчика и прикинула, сколько времени у меня осталось до того, как Нелли по-настоящему проявит своё мнение. Моя машина наверняка могла бы постепенно отредактировать все свои алгоритмы. Я это предчувствовала. Тогда всё, что происходило с искусственными интеллектами за стенами дома, вряд ли обошло бы стороной мою семью. Мне начало казаться, что тревога, которую я испытывала, напрямую связана со стыдом за излишнее использование всех положительных качеств программного обеспечения.

— Ма! – Криса ударила тарелочкой по столу, ответив то ли на мою панику, то ли на предчувствие. Я вздрогнула. – Я покушала!

— Ты умница, вишенка… – сухо отозвалась я, а Нелли, наоборот, сразу переключилась на привычный сценарий поведения. Активно обслужила моего ребёнка и убрала за ней, словно даже не заметив ощетинившуюся женщину в дырявых штанах рядом с собой (меня).

На первый взгляд ничего не поменялось в движениях и действиях. Я хотела бы надеяться, что система внутри Нелли блокировала это странное влияние извне, которое сводило с ума тостер за тостером. Лишение сети сильно негативно повлияло на меня; я так привыкла к информации в моментальном доступе, что без новостей попросту стала сходить с ума.

Когда Криса и посуда были очищены от остатков завтрака, Нелли вытерла руки полотенцем и повесила его, идеально сложенное, на ручку дверцы духовки.

— Составим список дел на сегодня, Мира Ивановна?

— Не сейчас, – я покачала головой. Нелли понимающе кивнула, наклонилась, чтобы обновить воду в автоматическом питьевом фонтане у кошки, а затем распрямилась и застыла, глядя в плотно закрытый жалюзи город.

Меня никогда не пугала Нелли, но теперь мир вокруг вынуждал её бояться. Криса послушно ушла чистить зубы, и я проводила её взглядом.

— Ты не пойдёшь с ней, Нелли?