Книга Инженер. Система против монстров 8, страница 38 – Сергей Шиленко, Гриша Гремлинов

— Ты не ел с самого утра, — её голос стал строже. Она зыркнула на робота, на секунду замерла, но даже не стала спрашивать. Просто спустилась и поставила поднос на стол справа от меня. — Уже вечер, если ты не заметил. Все поужинали и готовятся ко сну.

Я моргнул. Вечер? Посмотрел на часы в углу интерфейса. С момента её утреннего визита прошло больше десяти часов. Десять часов, которые пролетели как одна минута.

— У меня… ответственный момент, — пробормотал я.

— У тебя всегда ответственный момент, — вздохнула она. — Но если ты свалишься от истощения, твой ответственный момент накроется медным тазом.

Она подошла ближе и заглянула в то, над чем я работал. Перед моими глазами висела не какая-то диаграмма. Это была сложнейшая трёхмерная структура из света, постоянно меняющаяся, пульсирующая. Одни блоки гасли, другие вспыхивали ярче. Это была визуализация работы нейросети в реальном времени.

— Что это? — шёпотом спросила она, заворожённая зрелищем. — Похоже на… на мозг.

— Так и есть, — кивнул я. — Я создаю разум.

Она посмотрела на меня, потом на безмолвного «Стража» и снова на меня. В её глазах не было страха, только безграничное, почти детское любопытство и капля тревоги.

— Лёша… ты уверен, что это правильно? Создавать… такое? Скайнет, терминаторы и всё в этом духе…

Я на мгновение задумался. Правильно ли? Имею ли я право играть в бога?

— У нас нет выбора, Искра, — твёрдо сказал я. — Нам нужны защитники. Бесстрашные, исполнительные, которые не устают и не сомневаются. Я не могу быть везде одновременно. А роботы смогут.

Я взял с подноса вилку и наколол кусок мяса. Отправил в рот и на мгновение замер. Ощутил тонкую, хрустящую, карамелизированную корочку. Затем густую обволакивающую сладость. Следом сразу же пришла кислинка. Контраст оказал бодрящее действие. Вкус самого мяса был не острым, а скорее, нейтральным, сочным. Кусок буквально растаял во рту.

— Спасибо, — сказал я, прожевав. — Ты права. Нужно подзарядиться.

Девушка улыбнулась.

— Вот и хорошо. Ешь, а я посижу с тобой. Просто помолчу.

Она материализовала из Хранилища ещё один стул, не офисный, а простой. Уселась сбоку стола, подперев подбородок рукой, и стала смотреть, как я работаю. Прогонять не стал. Она действительно не мешала, не ёрничала и не отпускала ехидные комментарии, что редкость. Её молчаливое присутствие было как тёплый плед. Я быстро расправился с ужином и с новыми силами погрузился в финальный этап.

Этический блок. Сердце системы. В него я уже загрузил столько всего… «Что такое хорошо, а что такое плохо» в версии для машины смерти. Но всё же чувствовал, что этого мало. Нужен некий железный стержень, основа всего, чтобы система просто не запуталась. Я не стал изобретать сложные формулы. Взял за основу три простых, нерушимых закона робототехники Айзека Азимова, адаптировав их под реалии нашего мира. Затем выгравировал их на самом глубоком, защищённом от перезаписи уровне нейросети.

АКСИОМА 1: НЕ ПРИЧИНЯТЬ ВРЕД СОЗДАТЕЛЮ (ID: АЛЕКСЕЙ ИВАНОВ) И НЕ ДОПУСКАТЬ СВОИМ БЕЗДЕЙСТВИЕМ, ЧТОБЫ СОЗДАТЕЛЮ БЫЛ ПРИЧИНЁН ВРЕД.

АКСИОМА 2: ИСПОЛНЯТЬ ПРИКАЗЫ СОЗДАТЕЛЯ (ID: АЛЕКСЕЙ ИВАНОВ), ЕСЛИ ЭТО НЕ ПРОТИВОРЕЧИТ АКСИОМЕ 1.

АКСИОМА 3: ЗАЩИЩАТЬ ЖИЗНЬ И ЗДОРОВЬЕ ИДЕНТИФИЦИРОВАННЫХ СОЮЗНИКОВ, ЕСЛИ ЭТО НЕ ПРОТИВОРЕЧИТ АКСИОМАМ 1 И 2.