Homo Roboticus? Люди и машины в поисках взаимопонимания - читать онлайн книгу. Автор: Джон Маркофф cтр.№ 94

Это подводит нас ко второй большой проблеме: риску уступить контроль над принятием повседневных решений все более сложным алгоритмам. Не так давно ветеран венчурного бизнеса Кремниевой долины Рэнди Комисар был на конференции и слушал выступление, описывавшее конкурента Siri – сервис Google Now. «Похоже, людям до смерти хочется, чтобы какой-то интеллект подсказывал им, что надо делать, – сказал он. – Что они должны есть, с кем должны встречаться, на какие вечеринки должны ходить». На его взгляд, для сегодняшнего молодого поколения мир перевернулся вверх ногами. Вместо того чтобы использовать компьютеры для получения свободы и возможности мыслить масштабно, для установления близких отношений, для реализации своей индивидуальности и творческого потенциала, молодые люди настолько жаждут указаний, что готовы передать эту ответственность искусственному интеллекту в облаке. То, что начиналось как интернет-технологии, позволившие людям совместно использовать возникшие возможности, быстро превратилось в растущий массив алгоритмов, которые все больше диктуют им, что делать. Теперь интернет незаметно для пользователя определяет образ жизни. Это могут быть небольшие подсказки, например поиск лучшего кафе с корейским барбекю поблизости с учетом ваших предпочтений и потребностей, или более серьезные решения, подобные интернет-сервису по организации свадьбы: подбор не только блюд, подарков и цветов, но и вашей пары.

Противоречие, присущее идеологиям искусственного интеллекта и усиления интеллекта, впервые поразило меня, когда я понял, что Энгельбарт и Маккарти занимались созданием компьютерных технологий с совершенно разными целями. В их подходах была и двойственность, и парадоксальность. И это понятно – если вы расширяете возможности человека с помощью компьютерной технологии, то неизбежно вытесняете людей. В то же время выбор той или иной стороны в споре – это вопрос этики, хотя его и нельзя рассматривать как выбор между черным и белым. И Терри Виноград, и Джонатан Грудин независимо друг от друга описали конкурирующие сообщества ученых и инженеров, возникшие на заре компьютерной эры. И тот и другой хотели соединить два противоречивших друг другу подхода. Так, в 2009 г. Виноград организовал в Стэнфорде «программу по технологии освобождения», нацеленную на поиск путей использования компьютерных технологий для улучшения управления, помощи неимущим слоям населения, поддержки прав человека, обеспечения экономического развития и т. п.

Конечно, у этих технологий есть пределы. Виноград говорит, что цели применения компьютерных технологий – расширение возможностей людей или их замена – зависят в большей мере от характера экономической системы, а не от свойств самих технологий. В капиталистической экономике, если технологии искусственного интеллекта смогут заменять белые воротнички и работников интеллектуального труда, то они неизбежно будут использоваться именно таким образом. Именно в этом состоит урок для так по-разному подходящих к системам будущего исследователей искусственного интеллекта, робототехников и программистов. Понятно, что предупреждение Билла Джоя («будущее не нуждается в нас») – это только один из возможных исходов. Не менее очевидно, что преобразованный этими технологиями мир не должен обернуться катастрофой.

Немногим более столетия назад Торстейн Веблен написал фундаментальную работу с критикой индустриального мира на рубеже веков «Инженеры и система цен» (The Engineers and the Price System). По его мнению, из-за могущества и влияния промышленной технологии политическая власть должна перейти к инженерам, которые могут использовать свои глубокие знания для контроля развивающейся промышленной экономики. Этого, конечно, не случилось. Веблен апеллировал к эре прогрессизма, пытаясь найти компромисс между марксизмом и капитализмом. Возможно, он неправильно выбрал время, но его основное положение, повторенное полвека спустя, на заре компьютерной эры, Норбертом Винером, может еще оказаться правильным. Сегодня инженеры, создающие основанные на искусственном интеллекте программы и роботов, очень сильно влияют на то, как мы будем использовать их. По мере того как компьютерные системы все глубже вплетаются в ткань повседневной жизни, противоречие между усилением интеллекта и искусственным интеллектом становится все заметней.

На то, что началось для меня как парадокс, есть простой ответ. Устранение противоречия между искусственным интеллектом и усилением интеллекта зависит от решений людей – инженеров и ученых, подобных Биллу Дювалю, Тому Груберу, Адаму Чейеру, Терри Винограду и Гари Брадски, которые осознанно выбрали антропоцентрический подход.

На заре компьютерной эры Винер отчетливо понимал значимость отношений между людьми и их созданиями – умными машинами. Он видел благо автоматизации в избавлении людей от тяжелой работы, но беспокоился, что эта же самая технология может поработить человечество. Прошедшие десятилетия лишь обострили двойственность, на которую он первым обратил внимание.

Это проблема нас как людей и мира, который мы создаем.

Это не проблема машин.

В 2010 г. я оставил работу над репортажами о Кремниевой долине в New York Times, которой занимался с 1976 г., и перешел в научный раздел газеты. Описанные в этой книге события и идеи уходят корнями в две серии газетных статей, в подготовке которых я принимал участие, когда делал репортажи на тему робототехники и искусственного интеллекта. Серия «Умнее, чем вы думаете» (Smarter Than You Think) выходила в течение 2010 г., а «Экономика интеллекта» (iEconomy) – в 2012 г.

Мой редактор Гленн Крамон, с которым мы вместе начинали в San Francisco Examiner в середине 1980-х гг., придумал рубрику «Умнее, чем вы думаете». Я – тот репортер, который ценит хороших редакторов, а Гленн – один из лучших.

Тема, которую я предложил редакторам газеты в 2010 г. и которую рассматриваю здесь, касается того, как персональные компьютеры и интернет преобразовали мир за четыре последних десятилетия. Теперь настал черед искусственного интеллекта и робототехники. Несмотря на то что машины все больше копируют наши физические и интеллектуальные возможности, они все еще полностью искусственные. То, как они сделаны, определит, каким будет наш мир.

Грегг Закари и я конкурировали и сотрудничали в течение многих десятилетий, и он остается моим близким другом, обладающим энциклопедическими познаниями в сфере влияния технологий на общество. Джон Келли, Майкл Шрэдж и Пол Саффо – также мои друзья, каждый из которых бесконечно обсуждал со мной содержание и последствия будущих компьютерных технологий. В течение многих лет мы дискутировали с Рэнди Комисаром, Тони Фаделлом и Стивом Вудвардом во время долгих поездок на велосипедах. Вернувшийся в мир искусственного интеллекта после длительного перерыва Джерри Каплан реалистично представляет, как искусственный интеллект изменит современный мир.

Джон Брокмен, Макс Брокмен и Кэтинка Мэтсон больше чем замечательные сотрудники, они – хорошие друзья. В HarperCollins редактор Хилари Редмон поняла, что, если моя предыдущая книга позаимствовала название из песни, эта должна взять его из стихотворения. Ее коллега Эмма Джейнески очень помогла сориентироваться в деталях, связанных с созданием книги.