Эпоха надзорного капитализма. Битва за человеческое будущее на новых рубежах власти - читать онлайн книгу. Автор: Шошана Зубофф cтр.№ 127

Несмотря на эти опасения, уместившиеся в несколько абзацев, ее выводы были успокоительными. Каждая технология имеет свои «за и против», писала она. Эти проблемы не являются «непреодолимыми», потому что «могут быть разработаны защитные меры». Пикард была уверена, что технологии и технические методы могут решить любую проблему, и представляла себе «носимые компьютеры», которые «собирают информацию исключительно для вашего собственного использования…» Она подчеркнула важность обеспечения «того, чтобы владелец сохранял полный контроль над устройствами, которые он решил носить, чтобы они были инструментами расширения возможностей, а не подчинения враждебным силам» ^[784].

Следуя теперь уже слишком хорошо знакомой закономерности, защитные меры не поспевали за событиями, а надзорный капитализм процветал. К началу 2014 года Facebook уже подал заявку на патент на «обнаружение эмоций», призванный реализовать все то, чего опасалась Пикард ^[785]. Идея заключалась в «одном или нескольких программных модулях, способных распознавать эмоции, выражения лица или другие характеристики пользователя по информации, содержащейся в изображении». Как всегда, цели компании были амбициозны. Список эмоций, подлежащих распознаванию, «приводимый в качестве примера, а не конечного перечня» включал в себя такие слова, как «улыбка, радость, юмор, изумление, радостное волнение, удивление, недовольство, грусть, разочарование, растерянность, ревность, безразличие, скука, гнев, депрессия или боль». Авторы патента надеялись, что «со временем» этот модуль сможет оценивать «интерес пользователя к отображаемому контенту» в целях «тонкой подстройки на основе эмоционального состояния» ^[786].

К 2017 году, ровно через двадцать лет после публикации книги Пикард, ведущая компания по исследованию рынка прогнозировала, что «рынок аффективных вычислений», охватывающий программы распознавания речи, жестов и выражений лица, а также датчики, камеры, устройства хранения и процессоры, вырастет с 9,35 миллиарда долларов в 2015 году до 53,98 миллиарда долларов в 2021 году, предсказав среднегодовой темп роста почти в 35 %. Что произошло такого, что могло повлечь за собой этот взрыв? В отчете делается вывод, что во главе списка «триггеров» подобного резкого роста стоит «растущий спрос на распознавание человеческих эмоций, особенно со стороны маркетингового и рекламного секторов…» ^[787] Благие намерения Пикард оказались похожи на невинные железные опилки в присутствии магнита, когда рыночный спрос, созданный императивом прогнозирования, втянул аффективные вычисления в мощное силовое поле надзорного капитализма.

В конечном итоге Пикард станет частью этой новой индустрии изъятия излишка, основав, совместно со своей протеже, научным сотрудником MIT Media Lab Раной эль Калиуби, компанию Affectiva. Перерождение этой компании, перешедшей от добрых дел к надзорному капитализму, – метафора судьбы всего предприятия по анализу эмоций в целом, которое быстро втягивается в конкурентный водоворот погони за надзорными доходами.

Пикард и Калиуби разделяли мысль о применении своих исследований в медицинских и терапевтических условиях. Проблемы детей с аутизмом, казалось, идеально подходили для решения с помощью их открытий, поэтому они обучили машинную систему под названием MindReader распознавать эмоции, наняв актеров, которые изображали определенные эмоциональные реакции и мимику. С самого начала корпоративные спонсоры MIT Media Lab – Pepsi, Microsoft, Bank of America, Nokia, Toyota, Procter and Gamble, Gillette, Unilever и другие – забросали исследовательниц вопросами о возможности использования их системы для замера эмоциональных откликов клиентов. Калиуби описывает сомнения женщин и их решимость сосредоточиться на применении «добрых дел». По ее словам, лаборатория поощряла их воспользоваться своими результатами для создания стартапа, который они назвали Affectiva и который представляли себе как «маленькую IBM для эмоционально интеллектуальных машин» ^[788].

Очень быстро новая компания почувствовала живой интерес к себе со стороны рекламных агентств и маркетинговых компаний, которым не терпелось приступить к автоматизированной оцифровке и анализу глубин психики. Характеризуя то время, Пикард сказала одному журналисту: «нашего генерального директора совершенно не устраивало медицинское направление». В результате Пикард «вытеснили» из фирмы через три года после ее основания. Как рассказал один из научных сотрудников Affectiva,

Такие компании, как исследовательская фирма Millward Brown и рекламный гигант McCann Erickson, конкурирующие в новом мире таргетированной «персонализированной» рекламы, уже стремились получить доступ к бездонным глубинам потребительских эмоциональных реакций. В Millward Brown даже сформировали свое нейробиологическое подразделение, но обнаружили, что не могут масштабировать его операции. И анализ одной особенно тонкой рекламы для Millward Brown, сделанный Affectiva, поразил руководство компании и решительно переломил ход событий для стартапа. «Эта программа сообщала нам то, чего мы потенциально не видели, – сказал один из руководителей Millward Brown. – Люди обычно не могут сформулировать такие детали за шестьдесят секунд» ^[790].

К 2016 году Калиуби стала генеральным директором компании, переосмыслив ее бизнес как «Эмоциональный искусственный интеллект» и назвав его «следующим рубежом искусственного интеллекта» ^[791]. Компания привлекла венчурный капитал в размере 34 миллионов долларов, включила в число своих клиентов 32 компании из списка Fortune 100 и 1400 брендов со всего мира и утверждала, что располагает крупнейшим в мире хранилищем эмоциональных данных, содержащим 4,8 миллиона видеозаписей лиц людей из 75 стран, в то же время продолжая расширять маршруты поставок за счет данных, полученных от онлайн-просмотра, участия в видеоиграх, разговоров и вождения автомобилей ^[792].