Искусственный разум и новая эра человечества - читать онлайн книгу. Автор: Генри Киссинджер, Дэниел Хаттенлокер, Эрик Шмидт cтр.№ 26

Стремясь к безопасности, разные общества и государства использовали технологический прогресс для создания новых, более эффективных методов выявления угроз, повышения готовности, внешнего воздействия и – в случае войны – для применения военной силы. Для древнейших народов решающими часто оказывались достижения в металлургии, фортификационной архитектуре, тягловой силе и кораблестроении. В эпоху раннего Нового времени сопоставимую роль сыграли инновации в огнестрельном оружии и артиллерии, военно-морском кораблестроении, методах навигации и приборах для нее. Размышляя об этом в своем классическом труде «О войне», написанном в 1832 г., прусский военный теоретик Карл фон Клаузевиц заметил: «Насилие использует изобретения искусств и открытия наук, чтобы противостоять насилию же» ^[40].

Некоторые инновации, такие как строительство валов и рвов, нужны были для обороны – но чем больше с каждым веком человечество стремилось к безопасности, тем больше оно разрабатывало средств нападения – быстрых, мощных, способных преодолевать большие расстояния. К Гражданской войне в США (1861–1865 гг.) и Франко-прусской войне (1870–1871 гг.) военные конфликты все больше приобретали черты «тотальной войны» – с промышленным производством оружия, передачей приказов по телеграфу и транспортировкой войск и снаряжения по железной дороге через континенты.

По мере роста военной мощи передовые государства оценивали друг друга – какая сторона сильнее, какие риски и потери повлечет предстоящая война, будут ли они оправданы, как на результат повлияет союз с другой державой (или ее нейтралитет, или союз с противником) и ее арсенал. Потенциал, цели и задачи различных государств поддерживались, по крайней мере теоретически, в состоянии стратегического паритета.

Баланс сил был нарушен в прошлом веке. Военные технологии множились и становились все более разрушительными, а стратегии их использования – все более туманными. Появление кибернетических технологий и ИИ добавляет к этой картине новые уровни сложности и абстракции.

Первый важный перелом произошел в Первую мировую войну (1914–1918 гг.). В начале 1900-х гг. крупные европейские державы, обладавшие развитой экономикой и мощной наукой, с безграничной самонадеянностью использовали технологические достижения промышленной революции для создания современных вооруженных сил. Они собрали огромные армии и арсеналы (все это перевозилось по железной дороге), начали выпускать пулеметы и другое автоматическое оружие, химическое оружие (теперь оно вне закона), броненосные корабли и первые танки, создали передовые методы производства для скоростного пополнения арсеналов. Они разработали тщательно продуманные стратегии, основанные на быстрой мобилизации, и создали военные союзы, работавшие с механической точностью. В результате локальный кризис – убийство наследника династии Габсбургов сербским националистом ^[41] – привел к тому, что великие державы Европы, следуя выработанным планам, ввязались в общий конфликт. Результатом стала катастрофа, уничтожившая целое поколение в погоне за результатами, которые не имели никакого отношения к первоначальным военным целям сторон. Распадались империи, и даже победители понесли тяжелый урон, который истощил их на десятилетия и ослабил их международную роль.

Чем больше внимания уделяли крупные державы своим арсеналам и чем больше ресурсов они вкладывали в вооружение, тем больше загадок порождали новые стратегии. В конце Второй мировой войны и после нее целью ведущих государств стало создание ядерного оружия и межконтинентальных систем его доставки – в результате появилась огромная разрушительная сила, реальное использование которой привело бы к самым серьезным последствиям для всего мира. Увидев первое испытание ядерного оружия в пустыне Нью-Мексико, физик Дж. Роберт Оппенгеймер, один из создателей атомной бомбы, процитировал «Бхагавад-гиту»: «Я – Смерть-Всеразрушитель» ^[42]. Это предвосхитило центральный парадокс стратегии холодной войны: доминирующая технология вооружений никогда не использовалась, кроме как для сдерживания действий противника, – но ведь если точные причины бездействия противника неизвестны, возможно, он и не собирался нападать?

Это стратегическое несоответствие целей и возможностей существует до сих пор и не помогает понять, как действовать дальше. Крупные державы создали сверхсовременные вооруженные силы и системы региональных и глобальных альянсов, которые они неохотно используют в войнах с небольшими странами, обладающими более примитивными арсеналами, – как Франция в Алжире, США в Корее, США, а затем Китай во Вьетнаме и, наконец, Советский Союз в Афганистане. Эти же страны разработали кибервозможности, полезность которых во многом была обусловлена их непрозрачностью и скрытностью, а в некоторых случаях – их функционированием в пограничном пространстве между шпионажем, диверсионной работой и обычной войной. Четкого понимания, как будут использоваться новые стратегии и арсеналы, по-прежнему нет. Каждый этап прогресса сопровождается появлением новых уязвимостей.

ИИ еще больше усложняет проблемы современной стратегии, поскольку он выходит за рамки человеческих намерений и человеческого понимания. Даже если страны воздержатся от создания и широкого развертывания так называемых смертоносных автономных систем вооружений – автоматического или полуавтоматического оружия с искусственным интеллектом, которое обучено и уполномочено самостоятельно выбирать цели и атаковать их без дополнительного разрешения человека, – ИИ может расширить обычные, ядерные и кибернетические возможности таким образом, что отношения безопасности между противниками станет сложнее прогнозировать и поддерживать, а конфликты будет сложнее ограничить.

Потенциальные военные возможности ИИ работают на нескольких уровнях и вполне могут оказаться незаменимыми. Истребители, управляемые ИИ, уже показали значительное превосходство над пилотами-людьми в смоделированных боях. Используя некоторые из принципов, обеспечивших победы AlphaZero и открытие халицина, ИИ может выявлять модели поведения противника (включая незапланированные и непреднамеренные) и рекомендовать методы противодействия им. ИИ может выполнять перевод, идентификацию и мгновенную передачу критически важной информации военнослужащим в кризисных зонах, обеспечивая этим успех миссий и спасение жизней.

Ни одна крупная страна не может себе позволить игнорировать военные аспекты ИИ. Гонка за стратегическими преимуществами в области ИИ уже идет, это особенно касается США и Китая ^[43]. Чем больше стран будет овладевать (хотя бы на словах) теми или иными возможностями ИИ, тем больше стран будет стремиться не отстать от них. По мере успешного внедрения такие возможности будут быстро распространяться. Создание сложного ИИ, безусловно, требует значительных вычислительных мощностей, но распространение ИИ и его применение таких ресурсов, как правило, не требуют.