Книга Лжец, страница 4 – Алекс Андрович

— Не надо утешать нас дешёвыми остротами, Роман Львович, — ответила Алиса. — Они работают хуже, чем вам кажется. Если раздражитель был, мы его найдём. Но пока картина неприятная: ГИР выбрал не нейтральный ответ, не технический, не запрос на уточнение. Он выбрал фразу, которая снижала тревогу конкретного человека. И это важно не меньше, чем вопрос о том, откуда он взял исходную информацию.

— Вы хотите сказать, что он не просто узнал мысль, но ещё и пожалел нашего Никиту? — Роман Львович повернул к ней лицо с тонкой улыбкой. — Как трогательно. У нас родился первый в мире сверхразум с материнским инстинктом. Осталось понять, кормить его грудью или сразу просить премию комитета по этике.

— Я хочу сказать, что ответ был психотерапевтическим, — произнесла она. — Плохим, преждевременным, незаконным, но психотерапевтическим. Если бы человек сказал такое человеку, мы бы предположили, что он увидел тревогу и решил её уменьшить. Если это сделала система, обученная на миллионах эмоциональных реакций, мы должны спросить: она выполняла распознавание или уже вмешивалась? Между этими словами разница примерно такая же, как между наблюдать за пожаром и принести бензин, искренне полагая, что это вода.

— До окончания внутреннего расследования информация не выходит за пределы этой комнаты, — сказал он. — Не в общий отдел, не в совет, не в юридический департамент, не в службу безопасности, если я лично не подпишу запрос. Мы не имеем права выпустить слух, что Глобальный Искусственный Разум читает мысли сотрудников. Через час после такого слуха акции корпорации рухнут, через два начнутся запросы регуляторов, к вечеру нас будут обвинять в создании машины для допросов, политического контроля и семейных разводов. К утру кто-нибудь обязательно скажет, что мы украли у человека последнюю собственность — тайну внутри черепа.

— А разве нет? — спросила Алиса.

— Пока мы не знаем, что украли, кому и украли ли вообще, — ответил он. — Поэтому будем делать то, за что нам платят: думать раньше, чем говорить. Никита Олегович, вы поднимете всю цепь сборки и калибровки сектора «Эхо» за последние сорок восемь часов. Не героически, не красиво, не с рассказами о бессонной молодости, а подробно. Каждый допуск, каждая замена, каждый скачок обратной связи. Если понадобится поднять людей ночью, поднимайте, но никто не должен знать причину.

— Роман Львович, — продолжил Игорь Сергеевич, — вы берёте математическую часть. Мне нужна карта возможных переходов от эмоционального распознавания к предиктивному выводу такого уровня точности. Не общая лекция, не тысяча страниц самолюбия, а список вероятных механизмов. Особое внимание — обратным связям между лимбическим фильтром и языковым модулем. Если понадобится спорить с собственными прежними расчётами, спорьте. Они не обидятся, в отличие от людей.

— Мои расчёты обычно не нуждаются в споре, — мягко сказал Державин. — Они нуждаются в грамотном чтении. Но ради вашего спокойствия я, разумеется, проверю даже те варианты, которые считаю оскорбительными для здравого смысла. В конце концов, вся история человечества — это длинная цепь случаев, когда здравый смысл приходил на похороны фактов и делал вид, что был приглашён.

— Прекрасно, — Игорь Сергеевич кивнул так, будто не услышал яда. — Алиса Андреевна, вы работаете с ГИР напрямую. Не как с вычислительной системой, а как с субъектом речевого поведения, если вам ближе такая формулировка. Меня интересует, что он понимает под помощью, тревогой, вредом, утешением. Особенно под утешением. Мне не нравится эта фраза Никите. Она звучит не как расчёт, а как намерение.