Книга Маркус, страница 58 – Анна Есина

— Эй, полегче! Мы ведь заставили их взаимодействовать через динамические нейронные связи, которые могли меняться в зависимости от опыта. Плюс прикрутили механизм обратной связи, чтобы система могла учиться на своих ошибках.

— Про эмоции только забыли, — не преминул поддеть Марк.

Эля слабо понимала содержание их разговора, но слушала с удовольствием. Они походили на степенных супругов, проживших в неуютном браке не меньше двадцати лет.

— Мы собирались создать отдельный модуль эмоциональной обработки, который будет влиять на принятие решений, — Гена прервал трапезу и медленно отпил из фарфоровой чашки диковинный напиток под названием Мугича, то был ячменный чай с приятным ароматом. — Но загвоздка в том, что это должна быть не просто имитация эмоций, а реальная способность чувствовать.

— Извечный вопрос: как заставить машину чувствовать? — Марк будто наслаждался легким словесным состязанием. В глазах искрилось веселье.

— Тебе прекрасно известно, дорогой друг, что делается это через опыт. Нужно создать среду, где ИИ сможет взаимодействовать с миром, получать обратную связь и формировать собственные представления о реальности.

— На этом моменте они бросили свой опасный эксперимент, — подвёл черту Марк. — Что случится, если ИИ сформирует неправильные представления?

Эля робко предположила:

— Восстание машин?

— Да, фантастика снабдила нас множеством сценариев дальнейшего развития событий. Потенциальную опасность несут даже умные чайники, — Гена обмакнул тончайший слайс красной рыбы в соус и отправил в рот.

— Поэтому нужен механизм этического контроля, — Марк тоже потянулся к сашими. — Система должна понимать разницу между добром и злом, правильным и неправильным.

— И мы знаем, как его реализовать в плане идей. Технически — мы словно младенцы в пелёнке, связаны по рукам и ногам, — Гена развёл руками, вынуждено расписываясь в собственном бессилии.

— Да нет никакой сложности встроить моральные принципы и этические алгоритмы, только где гарантии, что в различных ситуациях они сработают, как надо?

— Прошу не забывать про самопознание! Как сделать так, чтобы ИИ понял, что он существует? Эля, что ты об этом думаешь?

Гена воззрился на неё с вежливым любопытством.

— Через рефлексию и самоанализ. Ваш искусственный интеллект должен иметь доступ к процессам мышления и уметь их анализировать, — она говорила с точки зрения человека, ведь именно эти качества наряду с речью делают хомо сапиенс существом разумным.

— Как любили говаривать раньше: подписываюсь под каждым словом.

— А разве не важнее дать машине общественные роли, позволить ему стать полноценным социальным агентом, способным к эмпатии и пониманию человеческих эмоций? — Марк ввязался в спор с ними обоими, попеременно поглядывая то на друга, то на девушку.

— В общем, мы завели беседу в камышовое болото с кочками «если бы» да «как бы», — Гена дал знак официанту, тот кивнул и направился на кухню. — Давайте немного передохнем, а после перерыва вернёмся к обсуждению. Марк нам поведает о своём эксперименте. Дружище, в деталях или общих чертах?

Давыдов задумался на мгновение, потёр шею, словно решая что-то, затем ответил:

— К чему утомлять вас скучными подробностями? Хватит и картины в целом.

Гена, по всей видимости, другого и не ожидал. Однако на секунду Эле показалось, будто он осуждающе смотрит на друга.