Роботы-убийцы против человечества. Киберапокалипсис сегодня - читать онлайн книгу. Автор: Владимир Овчинский, Елена Ларина cтр.№ 12

Автономность – это способность машины (робота) выполнять задачи без участия человека. Автономные роботы не предполагают наличия управляющего оператора. Автономия позволяет добиться нескольких ключевых эффектов, включающих в себя:

• увеличение надежности и повышения выживаемости;

• быстроту реакции и повышение адаптивности;

• повышение точности и десубъективизация при выполнении задач, элиминация человеческих ошибок;

• способность осуществлять операции в высокорискованной, либо вообще не приспособленной для присутствия человека среде, или в среде, требующей от дистанционного оператора невыносимых эмоциональных и сенсорных нагрузок.

Автоматизированные функции выполняют не только БАРС, но и человеко-машинные системы. Такая ситуация характерна не только для военного, но и для гражданского сектора. Однако именно в гражданском секторе мы в наиболее наглядном виде видим эволюцию роботизированных систем. Сначала автомобили были полностью механическими. Затем появились автоматические коробки передач, автоматические приборы контроля устойчивости, сцепление, подушки безопасности и т. п. Относительно недавно автомобили получили датчики дистанционного контроля при парковке, круиз-контроль и т. п. Сегодня на улицах уже нескольких американских городов ездят автомобили Google, которые, по сути, представляют собой автономные робототехнические средства. Пассажиры автомобилей Google никоим образом не участвуют в управлении. По тому же пути будут неизбежно развиваться и военные АРСы.

Когда мы рассматриваем вопрос автономии ро-бототехнических систем, его нужно изучить по трем параметрам:

• первый – распределение функций командования и контроля между человеком и машиной;

• второй – уровень комплексности робототех-нической системы;

• третий – каким образом в системе принимаются решения о ее действиях.

Машины, которые в одних ситуациях действуют автономно, а в других – нуждаются в решении и управляющем воздействии человека, называют полуавтономными. Как правило, человек вмешивается в такие системы в случае возникновения нештатных операций. В полуавтономных системах предусмотрено два контура управления – чисто автоматический и человеко-машинный при выявлении неисправностей, либо при сигнализировании об определенных ситуациях, связанных с необходимостью принятия именно человеческого решения. Полуавтономные системы получили особое развитие в конце прошлого века и в начале нынешнего веков. Их распространение было связано с тем, что до самого последнего времени существовала твердая убежденность относительно способности машин принимать решения более оптимальные, чем человек только в стабильных, устойчивых, так называемых – счетных ситуациях. Однако с появлением Больших Данных и соответствующих методов их обработки и анализа, включающих «глубокое обучение» и самосовершенствующиеся программы, выяснилось, что во многих нестабильных, неопределенных ситуациях машины принимают более эффективные решения по сравнению с человеком. Поэтому сегодня все большее распространение в гражданском секторе и бизнесе получают полностью автономные робо-тотехнические системы.

Следует отметить, что автономность характеризует не только взаимоотношения между человеком и машиной, но и уровень сложности системы. Так случилось, что термин «автоматический» используется, как правило, для простых систем, базирующихся на элементарных механических и электромагнитных эффектах. Термин «автоматический» привычно применяется к самодельным минам в военном деле или тостерам и механическим термостатам в быту. Когда появились первые самоуправляющиеся машины, использующие последние достижения программной инженерии, их сразу стали называть автономными. Поэтому традиционно автономными системами называют сложные системы, предусматривающие такие программные решения, как нейронные сети, глубокое обучение, самосовершенствующиеся программы и т. п. Наконец, несколько слов следует сказать по процессу принятия решения.

Автономными, как правило, называются роботизированные системы, где функция принятия решений реализована через те или иные программные продукты, размещенные в самом устройстве, либо в «облаке». В автономных системах блок принятия решений представлен сложными разнообразными алгоритмами и не требует присутствия человека. Фактически автономные роботизированные системы обладают полной независимостью в решении, по крайней мере, некоторых из поставленных перед ними задач. Например, на самой ранней стадии дроны были автономны в части решения задач навигации, обеспечения полета и т. п., но человек принимал окончательные решения об открытии огня на поражение. На наш взгляд по критерию принятия решений подавляющая часть систем пока является автономной. Лишь в последние пару лет появились БАРС, где решение об открытии огня принимается на алгоритмическом уровне.

БАРС не обязательно могут быть идентифицированы как малозатратные. Но они во всех случаях снижают затраты, связанные с человеческим фактором.

С одной стороны элиминация человеческого фактора позволяет экономить на затратах, связанных с персоналом. С другой стороны – во многих средах исключение человека резко повышает надежность, живучесть и боеспособность систем. Таким образом, сама по себе БАРС может стоить существенно больше сменяемой ею человеко-машинной боевой системы, но при этом, конечная ее экономическая эффективность окажется выше как за счет снижения эксплуатационных затрат, так и за счет повышения сроков боевой эксплуатации.

Как показывает опыт гражданского сектора БАРС различного функционального и средового назначения обладают существенно более высоким уровнем модульности по сравнению с человеко-машинными системами. Иными словами, БАРС не только для различных задач, но даже для различных родов войск могут опираться на различные наборы модулей в рамках единой аппаратной и программной платформы. Этого никогда не удается добиться в условиях гибридных – человеко-машинных систем. В этих условиях, несмотря на то, что затраты, связанные с разработкой и испытанием подобной многомодульной платформы могут значительно превосходить расходы на изготовление отдельных военных гибридных человеко-машинных роботизированных систем, совокупные итоговые затраты на подобные системы окажутся не на проценты, а в разы выше, чем расходы на многомодульную платформу. К тому же дополнительная экономия может быть обеспечения за счет технического обслуживания, ремонта и обновлений единой модульной платформы.

БАРС также позволяют обеспечить экономию средств на обучение командиров и солдат управлению робототехническими системами. Понятно, что вряд ли в ближайшее время стоит ожидать появления БАРС в полном тотальном смысле этого слова. Уровень развития машинного обучения алгоритмизации и программных решений пока не позволяет оставить БАРС полностью вне контроля человека. По крайней мере, в ближайшие годы даже для БАРС, которые будут управляться без участия человека, за человеком необходимо оставить функцию возможности отключения (уничтожения) или взятия управления на себя исключительно в части возврата БАРС на базу. Вполне понятно, что такого рода контролеры сложных БАРС будут относиться к военной элите, их подготовка и обучение потребует значительных средств. Однако, исходя из опыта эволюции вооружений и гражданского опыта развития робототехнических систем видно, что такого рода контролеров будет необходимо существенно меньше, чем операторов в боевых гибридных человеко-машинных системах. Подготовка и повышение квалификации операторов, а также их переподготовка на новые робототехнические системы уже сегодня является одной из заметных и быстрорастущих статей бюджета вооруженных сил. Если в ближайшее время не будет обеспечен переход к БАРС, то у вооруженных сил могут возникнуть большие проблемы с дальнейшим увеличением этой статьи расходов, а также поиском специалистов, способных быть операторами все более сложных многофункциональных и вероятно смертоносных гибридных человеко-машинных боевых систем.