Восстание машин отменяется! Мифы о роботизации - читать онлайн книгу. Автор: Дэвид Минделл cтр.№ 62

«Ключевым здесь является слово "система". Мы надеемся, что это слово общественность поймет, – заявил Тоскано. – Существует человеческое существо в системе. Человеческое существо – это то, что создает систему. Когда вы произносите слово "дрон", вы не думаете, что есть человек, который им управляет».

Тоскано явно попытался улучшить общественный имидж своей отрасли, представители которой обеспокоены тем, что боязнь людей оказаться под наблюдением может помешать развитию технологий в воздушном пространстве Соединенных Штатов. Но это необычное требование использовать для наименования продукции другое слово только подчеркнуло значимость вопроса – и путаницу в терминологии, используемой для обозначения мобильных роботов.

Дроны – не обезличенная техника, их существование обусловлено человеческой деятельностью. На борту беспилотных аппаратов нет людей, но они по-прежнему являются результатом человеческого труда. Автономные аппараты регулярно поддерживают сообщение с человеческим миром и возвращаются в него. Люди-операторы связаны с большим объемом данных, коллегами и визуальной информацией, даже когда оказываются вовлеченными в детали событий, происходящих на другом конце земного шара.

Главное заблуждение состоит в том, что прямое человеческое присутствие обеспечивает аутентичное, компетентное восприятие, тогда как роботы не управляются человеком и делают свою работу сами. Мы не будем вступать в споры об искусственном интеллекте и о том, способны машины думать или нет. Автономная система действительно может использовать недетерминированное (иначе говоря, непредсказуемое) программное обеспечение, или проявлять неожиданные свойства, формирующиеся под действием окружающей обстановки, или задействовать режим обучения. Тем не менее любые системы, считающиеся интеллектуальными, программируются людьми, которые запечатлевают в них свое видение мира.

Итак, в XXI веке автономность – это человеческое действие, отдаленное во времени. Это в каком-то смысле сущность термина «программирование» – говорить компьютеру, что ему делать в какой-то момент в будущем, когда программа будет работать. Конечно, машина реагирует на происходящее в окружающей среде, может столкнуться с новыми ситуациями и даже выработать неожиданное поведение. Но рамки этого поведения остаются очень жесткими и заранее предопределенными конструкторами и программистами. Ровер на Марсе способен «обучаться» в окружающей его обстановке и не станет второй раз пытаться проехать там, где уже однажды застрял, но он не сможет (и в силу механического устройства, и по причине особенностей программного обеспечения) «научиться» открывать коробку с драгоценностями, если она перед ним вдруг возникнет.

Полностью автономные роботы, прокладывающие свой маршрут на местности под контролем компьютера, все еще не теряют свою привлекательность для инженеров. Воспринять окружающую обстановку, классифицировать ее, соединить с моделями или предшествующим опытом и составить планы движения вперед – это одно из наших ежедневных действий. Неопределенность в мире (или внутри самих машин), появление неожиданных факторов, разрушающих привычные ожидания, создает задачу не только более трудную, но и более интересную. Решение подобных задач посредством техники – это выдающийся труд, инженерное мастерство в самом философском смысле: как мы наблюдаем, принимаем решения и действуем в мире? Как мы живем в условиях неопределенности?

Но мы не должны путать мысленные технические эксперименты с тем, что полезно в человеческом контексте. Когда на карту поставлены жизни людей и ресурсы, мы раз за разом, в течение десятилетий, где бы то ни было – от океанских глубин до космоса, – обуздываем автономность. И речь здесь не о прогрессе – надежде, что однажды мы все сделаем правильно, – а о выходе из лаборатории в реальные условия. Этот фактор сдерживает автономность, идет ли речь о выполнении инструкций и возвращении с полезной информацией или о защите человеческих жизней.

Тот случай, когда Нейл Армстронг в последнюю минуту, отключив систему автоматической посадки на Луну, перешел на ручное управление, обозначил границы представления о полной автономности в XX веке и стал предвестником медленного продвижения к многообещающему сотрудничеству и соседству с машиной. Одинокий автономный дрон в такой же мере стал анахронизмом, как и одинокий, не подключенный к сети компьютер. Задачи, которые стоят перед робототехникой в XXI веке, связаны с внедрением машин в человеческие и социальные системы. Это задачи по выстраиванию отношений.

Писатель Мэтью Кроуфорд бросил работу в аналитическом центре и открыл свое дело по ремонту антикварных мотоциклов. Он воспринимал это как вопрос «квалифицированного и активного взаимодействия» с работой в противовес манипулированию абстрактными идеями, далекими от привязки к материальному миру. Для него жизнь ремесленника оказалась привлекательной благодаря своей принадлежности и к грубому физическому миру машин, и к социальным взаимоотношениям между покупателями, мастерами своего дела и имеющими схожие интересы мотоциклистами. По его мнению, посвящение себя ручному труду объединяет всех рабочих людей. «Тонкие механические приспособления, которыми я занимаюсь, – пишет Кроуфорд, – включены в больший круг понятий: они служат деятельности, которую мы осознаем как часть нашей подлинной жизни».

Выбор Кроуфордом своей карьеры, казалось бы, говорит в пользу океанографов, которые отрицают удаленное присутствие, астронавтов, которые считают физическое пребывание в космосе сущностью исследования, и даже пилотов-истребителей, воспринимающих операторов «Предейтора» как «солдат Nintendo». И в самом деле, техника часто задействуется на рабочих местах, чтобы сделать работу «более масштабной, обезличенной и заставить отвечать на вызовы сил, удаленных от места работы». Напротив, с точки зрения Кроуфорда, профессии «сопротивляются тенденции к удаленному управлению, поскольку существуют в определенном контексте».

По иронии судьбы заключение Кроуфорда затрагивает тот самый предмет, о котором мы говорили здесь, – автономность. Он выступает против ничем не обусловленной личности, «суверенного себя, не отягощенного связями с другими и полностью свободного». Его работа в качестве мастера по ремонту мотоциклов объединяет его с другими. Критика Кроуфордом автономности в аспекте, касающемся людей, перекликается с нашей критикой утопической автономности в мире роботов:

Наши исследования в экстремальных средах точно так же показывают, что полная автономность является менее амбициозной и менее конструктивной задачей. Более интересна и целесообразна проблема развития автономности в связке с людьми. Как создать автоматы, которые будут помогать операторам и обеспечивать реализацию их умений и навыков? Как роботы могут демонстрировать автономное поведение и в то же время оставаться простыми, предсказуемыми и прозрачными для своих коллег – людей? Будут ли люди доверять непилотируемым системам, когда на карту поставлены их жизни? Как роботы должны включиться в человеческие взаимоотношения власти, языка и самоопределения? Даже в экстремальных условиях мы видим, что по своей природе машины, в сущности, связаны с людьми.