Homo Roboticus? Люди и машины в поисках взаимопонимания - читать онлайн книгу. Автор: Джон Маркофф cтр.№ 28

Гордон был готов к спору со своими противниками, прежде всего с Эриком Бринолфссоном, на конференции TED весной 2013 г. Во время дебатов, модератором которых был Крис Андерсон, они сошлись в поединке по вопросу о последствиях развития робототехники и о том, продолжится ли экспоненциальный рост или мы достигли верхней точки S-образной кривой, за которой нас ждет движение вниз ^{67}. Технооптимисты считают, что лаг между созданием и восприятием технологии просто задерживает появление прироста производительности, и, хотя экспоненциальное развитие неизбежно замедляется, оно дает начало последующим изобретениям (так, за вакуумной лампой последовал транзистор, а за ним интегральная схема).

Гордон так и остался бельмом на глазу сторонников сингулярности. Он выступил в Wall Street Journal с утверждением, что у беспилотных автомобилей сравнительно мало возможностей для повышения эффективности. Кроме того, по его мнению, они не окажут серьезного влияния на безопасность – количество жертв на милю пробега и так снизилось в 10 раз с 1950 г., что делает будущие улучшения менее значительными ^{68}. Он также скептически смотрит на возможность захвата производственного сектора и сектора услуг новым поколением мобильных роботов: «Отсутствие у роботов способности к перепрограммированию на другие задачи не беспокоит энтузиастов – просто подождите, и все образуется. Вскоре наши роботы научатся не только выигрывать в телевикторине „Своя игра“, они будут регистрировать багаж в аэропортах и заменят носильщиков. Однако все многообразие физических задач, которые под силу людям, вряд ли удастся переложить на роботов в ближайшие десятилетия. Конечно, многофункциональные роботы будут разрабатываться, но потребуется немало времени, прежде чем роботы выйдут за пределы производства и оптовой торговли и смогут заметно потеснить людей в сфере услуг и строительстве» ^{69}.

Его скептицизм вызвал поток критики, но он не отступил. Его ответ критикам фактически означает: «Не принимайте желаемое за действительное!» По мнению Гордона, лучше всех потенциальное воздействие начавшейся в 1960 г. «третьей промышленной революции» – компьютеризации и интернета – предвидел Норберт Винер, когда говорил, что автоматизация ради автоматизации будет иметь непредсказуемые и, вполне возможно, негативные последствия.

Споры о производительности продолжаются. Относительно недавно у технарей и экономистов стало модно утверждать, что традиционные показатели производительности больше не подходят для все более цифровой экономики со свободным распространением информации. Как измерить экономическую ценность ресурса вроде Википедии, спрашивают они. Если сторонники сингулярности правы, то трансформация в форме беспрецедентного экономического кризиса из-за отказа от живого труда наступит очень скоро. Результат действительно может оказаться довольно мрачным – для людей будет все меньше и меньше места в новой экономике.

В индустриальном мире такого еще не наблюдалось, но одним из любопытных сдвигов, указывающих на существование пределов автоматизации, стало недавнее решение компании Toyota о постепенном возврате людей в производственный процесс. В сфере массового производства Toyota давно является мировым лидером по применению средств автоматизации с ее корпоративной философией кайдзен (по-японски – «положительное изменение»), или непрерывного совершенствования. Достигнув почти полной автоматизации производства, компания поняла, что без людей заводы не могут улучшать себя. Некогда Toyota располагала штатом суперквалифицированных работников, известных как ками-сама, т. е. «боги», которые, по словам президента Toyota Акио Тоёды, могли создать все что угодно ^{70}. Эти работники имели также свойственную человеку способность подходить к делу творчески и, таким образом, улучшать производственный процесс. Так вот, чтобы вернуть гибкость и креативность на свои заводы, Toyota решила восстановить 100 производственных зон с активным участием людей.

Возвращение «богов» Toyota воскрешает в памяти введение Стюарта Бранда к изданному в 1968 г. «Каталогу всей Земли» (Whole Earth Catalog): «Мы подобны богам и тоже можем творить». Позже Бранд признал, что он позаимствовал эту идею у британского антрополога Эдмунда Лича, который писал также в 1968 г.: «Люди стали подобны богам. Пришло время осознать нашу божественность. Наука дает нам полный контроль над окружающей средой и судьбой, но, вместо того чтобы радоваться, мы боимся. С какой стати? Как избавиться от этих страхов?» ^{71}

В основе полных сарказма споров о производительности и решения компании Toyota об изменении баланса автоматики и живого труда лежит вопрос о природе взаимоотношений людей и умных машин. Сдвиг Toyota в сторону более конструктивных отношений между человеком и роботом может предполагать перенос акцента на технологии для расширения возможностей человека. Сторонники сингулярности, однако, настаивают на том, что такое партнерство человека и машины всего лишь промежуточная стадия, связанная с передачей человеческих знаний, в какой-то момент дойдет очередь до передачи креативности, а может быть, она возникнет сама собой в каком-нибудь поколении суперумных машин. Они указывают пусть на небольшие, но все же успехи в области обучения машин как на свидетельства того, что в не слишком отдаленном будущем компьютеры обретут способность к обучению, подобную человеческой. Например, в 2014 г. Google заплатила $650 млн за не имевший коммерческих продуктов небольшой стартап DeepMind Technologies, который разработал алгоритмы обучения машин, позволяющие им осваивать видеоигры в некоторых случаях лучше людей. После первых сообщений о приобретении поползли слухи, что из-за потенциальных последствий этой технологии Google создает «совет по этике» для оценки неожиданных «прорывов» ^{72}. Остается неясным, есть ли для такого надзора реальные основания, или это всего лишь рекламный трюк с целью раздуть шумиху и оправдать уплаченную цену.

Нельзя отрицать, что искусственный интеллект и алгоритмы обучения машин уже изменяют облик таких разных областей, как наука, производство и развлечения. Примеры варьируют от машинного зрения и распознавания образов, необходимых для улучшения качества полупроводниковых приборов, и так называемых алгоритмов рационального поиска лекарств, которые привносят системный подход в создание новых фармацевтических средств, до методов, используемых в сфере государственного надзора и в социальных сетях для обработки персональных данных. Оптимисты надеются, что потенциальные злоупотребления будут минимальными, если приложения останутся ориентированными на человека, а не на алгоритмы. На данный момент Кремниевая долина, увы, не может похвастаться моральным превосходством над старыми отраслями. Было бы поистине замечательно, если бы хоть одна компания Кремниевой долины реально отказалась от выгодной технологии по этическим соображениям.