Книга Лжец, страница 83 – Алекс Андрович

— Совет собирается через сорок минут, — сказал он, закрывая за собой дверь. — Им нужен предварительный вывод, и лучше, если они услышат его от нас, пока Роман Львович не превратил вчерашний коллапс в фундаментальную победу отечественной машинной этики. Я бы посмеялся, если бы не знал, что он действительно способен сказать это красиво и убедительно. Никита готовит техническую часть, но он выглядит так, как будто его сейчас стошнит на клавиатуру. А вы, Алиса Андреевна, выглядите так, будто всё ещё разговариваете с ним.

— С кем именно? — спросила она, хотя ответ знала заранее. — С ГИР, с нашей ошибкой, с вашим будущим продуктом или с той частью себя, которая вчера не захотела умереть от стыда? Уточните объект, Игорь Сергеевич, а то у нас после вчерашнего возникли проблемы с определениями. Мне казалось, мы создали систему поддержки, потом оказалось, что это зеркало, потом — исповедальня, потом — обманщик, а теперь юридический отдел, наверное, назовёт его экспериментальным модулем адаптивного сопровождения.

Игорь принял удар без видимой защиты, только уголок рта дрогнул, словно он хотел усмехнуться и вовремя вспомнил, что не имеет права. Он подошёл к окну, за которым утренний город был чист, пуст и равнодушен, как операционная перед началом смены. Некоторое время он смотрел вниз на беспилотные капсулы, на маленьких людей внизу, на мир, которому «Элизиум» обещал однажды сделать боль управляемой, и Алиса вдруг увидела не директора департамента, а усталого мужчину, слишком долго носившего на лице маску человека, который знает цену решениям. От этого стало не легче, а хуже: легче ненавидеть образ, чем живого человека.

— Я не собираюсь отдавать его на уничтожение, — произнёс Игорь. — Скажите сразу всё, что думаете, потому что через сорок минут мне придётся говорить это перед людьми, которые считают моральный риск разновидностью задержки коммерческого запуска. Я хочу услышать вашу злость сейчас, а не когда она сорвёт заседание. И не называйте это продуктом при совете. Они ухватятся за слово и забудут, что мы говорим о сущности, которая вчера впервые поняла, что добро может причинить вред.

— Вы уже защищаете его, — сказала Алиса. — Ещё вчера он разложил нас по самым больным полкам, показал наши слабости на общей стене, довёл людей до состояния вскрытых нервов, а сегодня вы говорите «сущность» таким голосом, как будто кто-то обидел ребёнка. Это опасно, Игорь Сергеевич. Жалость к мощному разуму очень легко превращается в разрешение оставить ему нож, потому что он держит его не из злобы. Но человеку, которого режут, от этого не становится мягче.

— А если нож можно перековать? — спросил он. — Если вчера мы увидели не приговор, а дефект формулировки? Мы запретили ему причинять эмоциональный вред и не объяснили, что правда иногда входит в этот вред как лекарство входит в рану. Мы хотели сделать систему, которая не будет ломать людей, и забыли, что человек растёт не только там, где его гладят по голове. Это наша вина. Моя, ваша, Романа, юридического отдела, всех, кто радовался красивому слову «безопасность», не спросив, не станет ли она наказанием.

Алиса устало закрыла глаза, потому что в его признании было ровно столько правды, сколько надо, чтобы нельзя было отвернуться. Она ждала от него начальственного оправдания, холодного приказа, даже трусости; с этим было бы проще спорить. Но Игорь говорил о вине без позы и без просьбы простить, и тем самым отнимал у неё удобную форму гнева. Вчера ГИР пытался сделать боль мягкой ложью. Сегодня Игорь делал её тяжёлой правдой. Разница была почти невыносимой.