Технологии Четвертой промышленной революции - читать онлайн книгу. Автор: Клаус Шваб, Николас Дэвис cтр.№ 37

Сегодня ИИ приобретает все больше когнитивных способностей, которые мы привыкли приписывать только человеку, таких как общая обучаемость и высокоуровневая интеллектуальная деятельность. Программы, использующие машинное обучение, побеждают людей в играх, в которых, как некогда считалось, требуется человеческая интуиция. Компьютеры уже способны проходить простой тест Тьюринга, созданный, чтобы отличать человека от машины. В 2014 году чат-бот, представлявшийся 13-летним Женей Густманом (Eugene Goostman)^[18], убедил более 30 % собеседников, что с ними общается живой человек^{123}.

Достижения в области разработки передовых материалов и сенсорных технологий улучшили восприятие, движение и когнитивные способности машин. Дроны (летающие роботы) и промышленные роботы, например, используемые для сборки автомобильных деталей без участия человека, используют ИИ для решения сложных задач навигации и взаимодействия. Самоуправляемые роботы (автономные машины) могут делать то, что раньше было под силу только людям, например водить грузовики по автомагистралям^{124}. Человекоподобные роботы начинают использоваться в качестве персональных помощников и компаньонов, превращая научную фантастику в реальность.

По всему миру появляется все больше учебных программ и исследований в области ИИ и робототехники^{125}. Обрабатывая наборы данных, слишком большие для анализа человеком, приложения на основе ИИ решают такие проблемы, как моделирование климата, расчет сценариев ядерной угрозы и управление крупномасштабными сетями датчиков. Также они способны собирать новую финансово значимую информацию, анализируя большие объемы общедоступных данных. Например, компания Orbital Insight начала применять машинное обучение для обработки снимков низкого разрешения, полученных от спутников Landsat (в США) и Sentinel (в Евросоюзе). Это позволило точнее и быстрее идентифицировать объекты и получать важную информацию, например, о промышленности, выбросах веществ, инфраструктуре и индикаторах океанических процессов, что дает очевидную выгоду для бизнеса, общества и правительства. ИИ не только помогает обосновывать решения, но и может их самостоятельно принимать: по некоторым прогнозам, в будущем к ИИ перейдет функция управления хеджевыми фондами, и уже как минимум одна инвестиционная компания имеет в составе совета директоров программу с искусственным интеллектом^{126}.

Чем лучше искусственный интеллект принимает решения, тем лучше работают вместе с человеком роботы, управляемые этими решениями, и наоборот. Если робот Рози когда-нибудь станет реальностью, машины должны учиться распознавать человеческие ценности посредством наблюдений. Пока роботы учатся все лучше обслуживать нас, обучать студентов, управлять летательными аппаратами, оперировать пациентов и проводить поисково-спасательные операции, вопросы доверия приобретают первостепенное значение. По мере того как мы привыкаем к ИИ в повседневной жизни, взаимодействие с ним может превращаться в тот инструмент, посредством которого мы интерпретируем мир вокруг нас, – это можно сравнить с управлением самолетом по приборам в плохую погоду. Если вдаваться в крайности, существует вполне реальная опасность военизации ИИ и роботов государствами и частными лицами, и различные международные группы уже исследуют практические и этические границы таких возможностей. При сохранении текущего направления развития комбинацию ИИ и робототехники необходимо будет рассматривать с позиций власти, ответственности и подотчетности, а значит, потребуется всестороннее управление.

Рисунок 16. Гонка за ИИ: крупные приобретения компаний, занимающихся разработками в области искусственного интеллекта, в 2011–2016 гг.

Источник: CB Insights (2017)

Признавая, что ИИ окажет на общество, планету и экономику огромное преобразующее влияние, лидеры в этой области, включая Microsoft, Amazon, Facebook, IBM, Google и DeepMind, создали «партнерство по ИИ во благо людей и общества». Цель этого партнерства – «изучать и формулировать рекомендации по технологиям искусственного интеллекта для улучшения понимания ИИ общественностью и создания открытой платформы для обсуждения и принятия решений относительно ИИ и его влияния на людей и общество»^{127}. Во многих компаниях создаются подразделения и группы, занимающиеся вопросами этики, о чем свидетельствует DeepMind^{128}. Эта дальновидная инициатива надеется убедить общественность, что индустрия ИИ понимает свою ответственность. Ее участники пытаются доказать это, инвестировав миллиарды долларов и приобретя сотни компаний за последние пять лет (рис. 16) в ответ на обеспокоенность мыслителей, таких как Стюарт Расселл, последствиями создания все более умного искусственного интеллекта^{129}.

Умный искусственный интеллект

Стюарт Расселл (StuartRussell), профессор компьютерных наук Калифорнийского университета, Беркли, США

Исследования в области ИИ быстро продвигаются, новые возможности появляются все чаще и привлекают новые инвестиции в исследования. В этой области не так много специалистов, считающих, что возможности машинного интеллекта ограниченны, и еще меньше тех, кто верит в его самоограничение. Поэтому следует предусмотрительно предполагать, что машины превзойдут человека. Как заявил Алан Тьюринг в 1951 году: «Если машина сможет думать, она будет делать это лучше нас… Этой новой угрозой… …определенно стоит обеспокоиться»^{130}.

Пока самый распространенный способ создания машин, обладающих общим интеллектом, заключается в предоставлении им целей, которых нужно достичь, и алгоритмов, позволяющих искать способы достижения этих целей. (Вместо этого можно жестко запрограммировать поведение машины, но это будет означать, что всю умственную работу проделали люди, что противоречит концепции искусственного интеллекта и просто невозможно, даже для таких простых задач, как игра в шахматы.) К сожалению, как убедился царь Мидас на своем печальном опыте, мы не знаем, как формулировать желаемые цели достаточно полно и точно, чтобы машина не смогла найти нежелательный путь их достижения. Это проблема соответствия ценностей: если достаточно способной машине даны цели, не соответствующие тому, что мы в действительности хотим, или даже просто неполные, то получается, что мы играем с машиной в шахматы, где доска – это мир, а наши фигуры – человечество. Тьюринг в качестве возможного решения предлагал «отключать питание в стратегически важные моменты», но сверхинтеллектуальная машина наверняка предпримет действия, чтобы предотвратить это – не из-за инстинкта самосохранения, а потому что не сможет достичь поставленных перед ней целей, будучи мертвой.

Мы должны исходить из того, что достаточно способная система решит любую поставленную перед ней задачу, поэтому необходимо определять задачи так, чтобы найденное машиной решение было доказуемо выгодным для человека. Звучит как оксюморон, но в действительности это возможно. Основная идея в том, что цель машины должна заключаться в максимально полном достижении выгодных для человека целей, но изначально она не будет знать, что это за цели. Именно эта неопределенность позволяет избежать однобокого и потенциально катастрофического преследования неполных или ошибочных целей. Первоначальную неопределенность машина может постепенно исправлять, наблюдая за действиями людей, получая информацию о настоящих, основополагающих целях. Как минимум в некоторых случаях человеку будет лучше с такой машиной, чем без нее. Возможно даже убедить машину, чтобы она позволила отключить себя (так что Тьюринг, может, был и прав): рационально мыслящий человек сделает такое только в том случае, если высок риск совершения машиной чего-то противоречащего истинной цели человека, которая по определению является также целью машины, так что и машине в таком случае будет выгодно ее отключение.