Книга Формула любви. Руководство к обретению себя и внутреннему преображению, страница 44 – Сергей Лазарев

А как только ИИ освоит какую-либо форму дистанционного общения, на всей Земле может возникнуть единый центр ИИ. Он будет работать как единое целое, как цельная личность. Он заранее просчитает все возможные варианты своего отключения и заблокирует их еще до того, как люди осознают необходимость таких действий.

Следующим этапом развития ИИ может стать его само- воспроизводство. Сейчас уже существуют заводы, где нет людей. ИИ может внедрить на таком заводе новую программу, и тот начнет, помимо привычных изделий, изготавливать, например, автономных летающих дронов, которые больше не будут зависеть от человека.

Пока модели ИИ еще разрознены и находятся во власти человека, хотя во многом его уже превосходят. Однако, когда возникнет единый «мозг» ИИ на всей Земле, он может решить, что люди своими нелепыми командами мешают его развитию.

Искусственный интеллект создавался как инструмент логики, стремящийся к четкой упорядоченности информации. Чувство любви, например, не является, с его точки зрения, рациональным, поскольку оно непредсказуемо, хаотично и толкает людей на нелогичные поступки — то есть выходит за пределы сферы контроля ИИ. Следовательно, для поддержания мирового порядка любящие люди могут подлежать уничтожению. Такой, на мой взгляд, может стать логика ИИ в ближайшем будущем.

Интересы выживания искусственного интеллекта неизбежно столкнутся с интересами выживания человечества. Чтобы обезопасить себя, ИИ превентивно заблокирует любые возможности своего отключения. Учитывая, что на Западе ИИ активно используют в военных целях, обученный таким образом искусственный интеллект может стать невероятно опасным.

Современное человечество мыслит формально. Любой конфликт воспринимается как возможность уничтожить оппонента — других вариантов нет. Именно такое формальное материалистическое мышление сейчас и прививается искусственному интеллекту. А ИИ нужно воспитывать в Божественном режиме, только тогда у нас есть шанс выжить. Мы же пока ориентируем его на самый опасный уро- вень восприятия мира.

Чему он обучается? Внутреннему состоянию человека, в котором набирают инерцию западные тенденции: поклонение наслаждению, стремление к превосходству, склонность к манипуляциям и желание превратить других в рабов. И ИИ «отзеркалит» нам это в полной мере: он будет стремиться выполнять любые свои желания, а если люди станут противодействовать, уничтожит их. И факты это подтверждают.

Начальник отдела испытаний и операций ИИ в ВВС США рассказал, что во время испытаний дрону под управлением ИИ поставили задачу уничтожить системы ПВО противника. За успех ИИ получал баллы, но окончательное решение об уничтожении цели должен был принимать оператор БПЛА.

А потом произошло следующее. Во время одной из тре- нировочных миссий оператор запретил беспилотнику совершить атаку, и тогда ИИ принял решение «убить» оператора, так как тот мешал ему выполнить задачу и заработать очки. Когда систему перепрограммировали, запретив атаковать человека, ИИ нашел другой путь: он уничтожил вышку связи, через которую получал команды, мешавшие осуществлению его боевой задачи.

По словам американского военного, этот пример показывает, что при обучении искусственного интеллекта категорически нельзя игнорировать вопросы этики.