Книга Удивительные истории об искусственном интеллекте, страница 179 – Александр Прокопович, Елена Гнядек, Анна Рогова, и др.

– А на втором? – тут же спросил Арсен.

– На втором я хочу скорректировать погрешность алгоритма, связанную с неспособностью Карла понимать алогичные мотивы и поступки людей. Тогда он сможет правильнее оценивать субъективную сторону состава преступления: цели, мотивы, умысел.

– Как же можно научить этому машину?

Ян на секунду задумался, а потом совершенно неожиданно для собеседника спросил:

– Представьте: по железной дороге на полной скорости мчится поезд. Впереди развилка: на одном пути к рельсам привязан ваш близкий человек, на другом – десять детей. Вы можете переводить стрелку. Кого вы спасете?

– Это абсурдная надуманная ситуация! – возмутился Арсен. – На такой вопрос нельзя ответить!

– На уровне рассудка нельзя, – согласился Ян, – но на уровне эмоций у каждого человека есть ответ, базирующийся на инстинктах, глубинных ценностях и моральных установках. Научить Карла делать на них поправку помогут так называемые корректировщики – люди, которые станут отвечать на неоднозначные вопросы. Параллельно с ответами Карлу будут транслироваться показатели эмоционального состояния отвечающего, подключенного к полиграфу и энцефалографу. Таким образом каждый ответ окажется промаркирован по параметрам правдивости и эмоциональной окраски, и у Карла сформируется библиотека прецедентов расхождения логики с эмоциями.

– Очень интересно! И как далеко продвинулся второй этап?

– Пока он на стадии поиска финансирования, – невесело усмехнулся Ян. – Нужны деньги, чтобы платить корректировщикам.

Арсен несколько секунд обдумывал услышанное и наконец спросил:

– Ваш эксперимент не опасен? Вдруг Карл, начитавшись уголовных дел, сам заделается преступником и, например, ударит корректировщика током? Был же случай, когда ИИ разбил самолет.

– Во-первых, удар током исключает схема подключения, – возразил Ян. – Во-вторых, после той катастрофы была введена международная конвенция по защите от угроз ИИ. В соответствии с ней, при малейшей вероятности причинения вреда человеку ИИ тут же обнуляют до базового кода.

– То есть никакой опасности? Тогда я готов участвовать в вашем эксперименте бесплатно, просто из интереса и солидарности. Сколько всего корректировщиков вам нужно?

– Хотя бы трое.

– Тогда считайте отряд сформированным. Я привлеку к делу свою секретаршу и начальника службы безопасности. Они мне не откажут.

Ян никак не решался позвонить Максу. Не то чтобы он страшился неприятного разговора, просто ему казалось, что, когда он расскажет другу о случившемся, катастрофа, в которую он никак не желал верить, сделается непреложной и бесповоротной.

Он протянул руку к стоявшей на рабочем столе фотографии в простенькой алюминиевой рамке, единственному личному предмету в его аскетичном кабинете. Едва касаясь холодного стекла пальцами, он погладил портрет улыбающейся женщины, на лицо которой падала непослушная русая прядь.

– Кто же теперь найдет твоих убийц? – тихо проговорил он, обращаясь к женщине на фото.

На мгновение задержав дыхание, словно перед прыжком в ледяную воду, Ян набрал номер друга. Тот ответил сразу же:

– Где отчет, бездельник?

– Погоди!..

– Что случилось? – Почувствовав неладное, Макс разом перешел на серьезный тон.

– Карл деактивирован.

– Что значит «деактивирован»?!

– Его сознание уничтожено. Стерто до уровня кода…