Эпоха надзорного капитализма. Битва за человеческое будущее на новых рубежах власти - читать онлайн книгу. Автор: Шошана Зубофф cтр.№ 39

Вкратце происходящее можно описать так: поведенческие излишки, на которых покоится состояние Google, можно рассматривать как надзорные активы. Эти активы становятся важным сырьем в погоне за надзорными доходами и их превращением в надзорный капитал. Эту логику накопления капитала в целом лучше всего понимать как надзорный капитализм, который оказывается краеугольным камнем основанного на надзоре экономического порядка: надзорной экономики. Основная модель здесь – подчинение и иерархия, когда прошлая взаимность между фирмой и ее пользователями оказывается подчиненной производному проекту захвата нашего поведенческого излишка для целей других. Мы больше не являемся субъектами реализации стоимости. Не являемся мы, как настаивают некоторые, и «продуктами» продаж Google. На самом деле, мы – объекты, из которых извлекается и экспроприируется сырье для фабрик прогнозирования Google. Прогнозы относительно нашего поведения – вот продукты Google, и они продаются его подлинным покупателям, а не нам. Мы – средства для достижения целей других людей.

Индустриальный капитализм превратил в товар природное сырье, а надзорный капитализм, чтобы изобрести новый товар, распространил свои притязания на человеческую природу. Теперь уже человеческую природу выскабливают, рвут на части и прибирают к рукам в рамках рыночного проекта нового столетия. Думать, что вред сводится к тому очевидному факту, что пользователи не получают плату за предоставляемое ими сырье, – просто неприлично. Подобная критика – недоразумение, которое позволяет использовать механизмы ценообразования для институционализации и, следовательно, узаконивания извлечения человеческого поведения для производства и продажи. Она игнорирует ключевой момент, состоящий в том, что суть эксплуатации здесь – представление наших жизней в виде поведенческих данных ради усовершенствования контроля над нами со стороны посторонних. Интересные вопросы здесь связаны с тем, что наши жизни вообще представляются в виде поведенческих данных; что условие этого повсеместного превращения – неведение; что право на принятие решения улетучивается еще до того, как мы узнаем, что надо принимать какое-то решение; что некоторые последствия этого урезания прав не можем ни увидеть, ни предсказать; что нет выхода, нет возможности высказаться и нет лояльности, только беспомощность, смирение и психическое онемение; и что шифрование – единственная активная мера, которую нам остается обсуждать, сидя за обеденным столом и обмениваясь случайными мнениями о том, как бы спрятаться от сил, которые прячутся от нас.

2. Средства производства: производственный процесс Google эпохи интернета – критически важный компонент беспрецедентного. Его конкретные технологии и методы, которые я обобщенно называю машинным интеллектом, постоянно развиваются, и легко испугаться их сложности. Один и тот же термин может означать сегодня одно, а через год или через пять лет – нечто совсем другое. Например, по крайней мере с 2003 года велись разговоры о том, что Google разрабатывает и использует «искусственный интеллект», но сам этот термин не стоял на месте, по мере того как возможности эволюционировали от примитивных программ, способных играть в крестики-нолики, к системам, управляющим целыми парками беспилотных автомобилей.

Производственные мощности Google в области искусственного интеллекта питаются поведенческим излишком, и чем больше излишка они потребляют, тем точнее выдаваемые ими прогнозные продукты прогнозирования. Редактор и основатель журнала Wired Кевин Келли однажды предположил, что, хотя кажется, что Google стремится развивать свои возможности в сфере искусственного интеллекта для улучшения поиска, более вероятно, что Google разрабатывает поиск как средство непрерывного обучения своих развивающихся мощностей искусственного интеллекта ^[216]. В этом суть проекта искусственного интеллекта. Как чудовищный ленточный червь, машинный интеллект зависит от того, сколько данных он поглощает. В этом важном отношении новые средства производства принципиально отличаются от таковых в промышленной модели, когда существует определенное противоречие между количеством и качеством. Машинный интеллект – синтез, снимающий это противоречие, поскольку он достигает своего полного потенциала в плане качества только тогда, когда приближается к всеохватности.

По мере того как все больше компаний хотят заработать на надзоре в стиле Google, значительная часть мировых талантов в области науки о данных и смежных областей посвящают себя изготовлению прогнозных продуктов, которые повышают показатели кликабельности для таргетированной рекламы. Так, китайские исследователи, работающие в исследовательском отделе принадлежащего Microsoft поисковика Bing в Пекине, в 2017 году опубликовали сенсационные результаты. «Точная оценка показателей кликабельности (CTR) рекламы оказывает решающее влияние на доходы поисковых компаний; даже повышение точности наших продуктов на 0,1 % принесло бы сотни миллионов долларов дополнительного дохода», – утверждают они. Затем они демонстрируют новый способ применения сложных нейронных сетей, который обещает улучшение на 0,9 % по одному показателю идентификации и «значительный прирост количества кликов в онлайн-трафике» ^[217]. Аналогичным образом команда исследователей Google разработала новую модель глубоких нейронных сетей, с единственной целью учесть «взаимовлияния прогнозирующих факторов» и обеспечить «передовую производительность» для повышения показателей кликабельности ^[218]. Тысячи таких исследований – и рутинных, и революционных – в сумме создают дорогие, сложные, непрозрачные и эксклюзивные «средства производства» XXI века.

3. Продукты: Машинный интеллект перерабатывает поведенческий излишек в прогнозные продукты, предназначенные для предсказания наших чувств, мыслей и действий: прямо сейчас, чуть позже, или в более отдаленном будущем. Эта методология – среди самых тщательно охраняемых секретов Google. Характер его продуктов объясняет, почему Google раз за разом заявляет, что не продает личные данные. Что? Никогда! Руководство Google любит говорить о своей чистоте в отношении конфиденциальности, потому что компания действительно не продает свое сырье. Вместо этого компания продает прогнозы, которые только она и может изготовить из своих исторически рекордных частных запасов поведенческого излишка.

Прогнозные продукты снижают риски для клиентов, советуя им, на что и когда ставить. Качество и конкурентоспособность такого продукта напрямую зависит от того, насколько он близок к точному знанию: чем надежнее прогноз, тем ниже риски для его покупателей и тем выше объем продаж. Google сумел стать гадалкой цифрового века, которая полным ходом заменяет интуицию наукой, чтобы за деньги погадать на наши судьбы, но не нам, а своим клиентам. С самого начала прогнозные продукты Google были в основном нацелены на продажи таргетированной рекламы, но, как мы увидим, реклама была началом надзорного проекта, а не его концом.