10 аргументов удалить все свои аккаунты в социальных сетях - читать онлайн книгу. Автор: Джарон Ланье cтр.№ 8

Страница

Если вы читаете этот текст с электронного устройства, велика вероятность, что алгоритм считывает данные, скажем, о вашей скорости чтения или о том, когда вы прерываетесь и переключаетесь на что-нибудь другое.

Алгоритмы соотносят между собой как данные одного человека, так и данные разных людей. Их выводы являются теоретическими предположениями о характере каждого человека, степень предсказуемости которых проходит многократную проверку. Как и любые теории, построенные на логике, время от времени они совершенствуются за счет адаптивной обратной связи.

Алгоритмы выбирают, что будет переживать человек, использующий то или иное устройство. Этот компонент можно назвать лентой, движком рекомендаций или персонализацией.

Третий компонент означает, что все люди видят разное. Прямая мотивация – дать стимулы для персонализированного изменения поведения.

ОБЛОМ затрудняет понимание того, почему окружающие думают и ведут себя так, а не иначе. Воздействие этого компонента я рассмотрю подробнее в главе, посвященной тому, как мы утрачиваем доступ к правде и возможность сопереживать.

(Не вся персонализация обусловлена ОБЛОМом. Когда Netflix рекомендует фильм, а eBay – товар, это не ОБЛОМ. Но становится ОБЛОМом в сочетании с другими компонентами. Ни Netflix, ни eBay не получают денег от третьих сторон и не воздействуют на ваше поведение вне вашей текущей активности на их сайтах.)

Первые три элемента сочетаются друг с другом, в результате чего получается машина измерения и обратной связи, намеренно изменяющая поведение пользователей.

Напоминаю: индивидуально настраиваемые ленты новостей оптимизируются, зачастую с применением мощных эмоциональных сигналов, для «вовлечения» каждого пользователя и последующего формирования зависимости. Люди не осознают, как именно ими манипулируют. Базовая цель манипуляции – заставить людей проводить в системе как можно больше времени ^[27]. Но у манипуляторов есть и другие цели.

Например, если вы читаете с электронного устройства, подключенного к интернету, ваши читательские привычки будут сопоставляться с привычками множества других людей. И если человек с похожими на ваши привычками купит что-то после того, как этот товар будет представлен ему определенным образом, то вероятность того, что вы тоже купите этот товар, возрастет. Перед выборами вы могли попасть в группу, для которой в интернете были написаны странные посты, призванные пробудить цинизм в людях, похожих на вас, и снизить шанс на то, что вы пойдете голосовать.

Владельцы платформ, использующие алгоритмы ОБЛОМа, с гордостью рассказывают об экспериментах, в ходе которых людей намеренно расстраивали, влияли на их избирательную активность и усиливали приверженность к определенным торговым маркам. Примером тому служат несколько знаменитых исследований, обнародованных в период зарождения ОБЛОМа ^[28].

Подход цифровых сетей к изменению поведения сводит все эти разнородные фрагменты жизни воедино. С точки зрения алгоритма злость, счастье и приверженность к торговой марке – разные, но похожие сигналы, которые можно оптимизировать.

Если окажется, что вас расстраивают посты определенного характера, они начнут попадаться вам все чаще. Никто и никогда не будет знать наверняка, почему именно эти посты так на вас действуют, и вы, возможно, даже не заметите, что немного расстроились из-за конкретного поста. Эффект слабый, но накопительный. Ученые только начинают догадываться о том, как это работает, основная часть процесса им недоступна, она происходит за счет автоматики. Это новая разновидность зловещего теневого мира.

Алгоритмы редко задают вопросы, а еще реже это делают независимые ученые – отчасти как раз из-за сложности понимания работы алгоритмов, которые автоматически совершенствуются за счет обратной связи.

Один из секретов нынешней Кремниевой долины в том, что некоторым людям удается лучше других обучать машины, и никто не понимает почему. Самый механический способ манипулирования человеческим поведением оказывается искусством, к всеобщему величайшему удивлению, основанным на интуиции. Те, у кого хорошо получается управлять новейшими алгоритмами, становятся знаменитыми и зарабатывают баснословные деньги.

Машина массового изменения поведения предоставляется внаем. Манипуляции ОБЛОМа не идеальны, но обладают достаточной силой, и для политиков, торговых марок и прочих конкурирующих друг с другом субъектов отказываться от регулярных платежей в пользу ОБЛОМа равносильно самоубийству. Это всеобщий когнитивный шантаж, в результате которого растут общие расходы на ОБЛОМ ^[29].

Если кто-то не оплачивает ОБЛОМ, ему, чтобы удержаться на плаву, приходится постоянно подпитывать свою платформу данными. Когда Facebook сделали упор на «новости» в своей ленте, всему миру журналистики пришлось перекроить себя под стандарты ОБЛОМа. Чтобы не растерять внимание читателей, журналисты стали писать истории, ориентированные на клик-наживку. Их заставили стать частью ОБЛОМа, иначе ОБЛОМ уничтожил бы их.

ОБЛОМ не только сдвинул границы этики Кремниевой долины. Он перевернул с ног на голову всю остальную экономику. Об этой стороне ОБЛОМа я расскажу в девятой главе.

Прежде чем перейти к шестому компоненту, я должен объяснить особую роль пятой составляющей в финансовых поощрениях, которые поддерживают весь аппарат машины ОБЛОМа на ходу. Если вы окажетесь в Кремниевой долине, то услышите много разговоров о том, что деньги морально устаревают и что мы создаем свои разновидности власти и влияния, которые перестают иметь отношение к материальным ценностям. Но, кажется, все до сих пор гоняются за деньгами!

Страница