Homo Roboticus? Люди и машины в поисках взаимопонимания - читать онлайн книгу. Автор: Джон Маркофф cтр.№ 22

Винер был не единственным, кто пытался привлечь внимание Рейтера к опасностям автоматизации. Через несколько лет после встречи с Винером Рейтер получил аналогичный сигнал от председателя профсоюза рабочих автомобильной промышленности UAW 1250 Альфреда Гранакиса. Тот столкнулся с сокращением рабочих мест после внедрения новых технологий автоматизации на двигателестроительном и литейном заводе Ford Motor в Кливленде, штат Огайо. По его словам, завод «был реальным прообразом полностью автоматизированного предприятия в автомобильной промышленности». Он спрашивал: «Что делать со всем этим в экономическом плане, Уолтер? Я очень опасаюсь появления экономического "Франкенштейна", рождению которого я способствовал. По моему мнению, профсоюзное движение ждут трудные времена» ^{29}.

Винер порвал с научным и техническим истеблишментом несколькими годами ранее. Свою убежденность в обязательности этики в науке он выразил в письме в журнал Atlantic Monthly, озаглавленном «Ученые-бунтари» и опубликованном в декабре 1946 г., через год после потрясения, связанного с бомбардировкой Хиросимы и Нагасаки. Это письмо содержало ответ Винера на предложение компании Boeing провести технический анализ эффективности управляемых ракет во время Второй мировой войны: «Использование управляемых ракет может привести только к неизбирательному уничтожению гражданского населения другой стороны и не обеспечивает ему никакой защиты» ^{30}. Там же поднимался вопрос о моральной стороне применения атомных бомб: «Обмен идеями, составляющий одну из великих традиций науки, должен, конечно, иметь определенные ограничения, когда ученый становится арбитром в вопросе жизни и смерти» ^{31}.

В январе 1947 г. Винер отказался от участия в симпозиуме по вычислительной технике в Гарвардском университете в знак протеста против использования систем в «военных целях». В 1940-е гг. и компьютеры, и роботы были предметом научной фантастики, и можно лишь удивляться, насколько отчетливо Винер предвидел эффект применения технологий, который проявляется только сегодня. В 1949 г. New York Times предложила Винеру изложить свои взгляды на то, «какой будет машинная эпоха», как выразился бессменный редактор воскресного выпуска Лестер Маркел. Винер принял приглашение и написал черновую статью. Легендарно автократичному Маркелу она не понравилась, и он попросил переделать ее. Винер написал новый вариант, но из-за ряда накладок, характерных для доинтернетовской эпохи, статья так и не вышла в свет в то время.

В августе 1949 г., как свидетельствуют документы Винера, хранящиеся в Массачусетском технологическом институте, Times просила его вновь выслать первый вариант статьи, чтобы объединить со вторым. (Не ясно, почему редакторы отклонили первый вариант.) «Не могли бы вы выслать мне первый вариант, и мы посмотрим, можно ли сделать из двух статей одну, – писал руководитель редакции воскресного выпуска, которая в то время была самостоятельной. – Возможно, я ошибаюсь, но мне кажется, что во втором варианте вы опускаете часть ваших лучших идей». Винер, который в тот момент путешествовал по Мексике, ответил: «Я считаю, что первая версия моей статьи уже дело прошлого. Чтобы получить ее в моем офисе в Массачусетском технологическом институте, потребуется масса писанины и отвлечение от дел целого ряда людей. Поэтому вопрос закрыт, и я отказываюсь от этого мероприятия».

На следующей неделе редактор Times вернул Винеру второй вариант, который в конце концов оказался в «Архивах и специальных собраниях» библиотеки Массачусетского технологического института и оставался там до декабря 2012 г., когда был обнаружен независимым ученым Андерсом Фернстедтом, занимавшимся наследием трех венских философов – Карла Поппера, Фридриха Хайека и Эрнста Гомбриха, работавших в Лондоне большую часть XX в. ^{32} В неопубликованной статье опасения Винера очевидны: «Эти новые машины движутся в сторону замены людей в принятии решений на всех уровнях, за исключением высшего, а не замены человека там, где требуется энергия и сила. Уже сейчас понятно, что такая замена окажет глубокое влияние на нашу жизнь».

Винер продолжал говорить о появлении заводов «без рабочих» и возрастании важности «закладывания программ». Он довольно отчетливо намекнул на теоретическую возможность и практические последствия обучения машин: «Ограничения подобной машины заключаются только в понимании целей, которые необходимо достичь, в потенциале каждой фазы процессов их достижения и в нашей способности логически определить комбинации этих процессов, необходимые для достижения целей. Грубо говоря, если мы можем делать что-либо в ясной и понятной форме, то это может сделать и машина» ^{33}.

На заре компьютерной эры Винер видел и прямо говорил, что автоматизация способна снизить ценность «рядового» работника предприятия до уровня «не стоит нанимать ни за какие деньги» и что «нас ждет предельно жестокая промышленная революция».

У него не только были мрачные предчувствия относительно компьютерной революции, он предвидел нечто еще более пугающее: «Если мы будем двигаться в направлении производства машин, которые обучаются и поведение которых изменяется с опытом, то нам нужно готовиться к тому, что каждая толика независимости, предоставляемая машине, будет превращаться в возможность неподчинения нашим желаниям. Джинн, выпущенный из бутылки, не вернется в нее добровольно, и у нас нет оснований рассчитывать, что они будут хорошо относиться к нам» ^{34}.

В начале 1950-х гг. Рейтер и Винер выдвинули идею создания «Ассоциации труда, науки и образования», но это партнерство не дало немедленного эффекта в какой-то мере из-за состояния здоровья Винера, а в какой-то из-за того, что Рейтер представлял часть профсоюзного движения США, которая считала автоматизацию неизбежным атрибутом прогресса, – профсоюзный лидер намеревался выторговывать экономические выгоды, играя на воздействиях технологии: «В конечном итоге с современными рабочими процессами придется смириться, получив за них компенсацию в виде увеличения времени досуга и творческого отдыха. В своем принятии автоматизации и новой технологии он, похоже, был полностью захвачен ростом эффективности как желанного и в общем нейтрального условия» ^{35}.