Искусственный разум и новая эра человечества - читать онлайн книгу. Автор: Генри Киссинджер, Дэниел Хаттенлокер, Эрик Шмидт cтр.№ 18

Социальные сети, системы интернет-поиска, видеоплатформы, системы навигации, службы совместных поездок и другие онлайн-сервисы не могли бы работать так, как они работают, без широкого распространения ИИ. Используя эти онлайн-сервисы в обычной жизни – для получения рекомендаций, выбора маршрутов, установления социальных связей, поиска ответов на вопросы, – все мы участвуем в этой революции. Мы позволяем ИИ решать наши повседневные задачи, не всегда понимая, как и благодаря чему он это делает. Так мы формируем новые типы отношений – между ИИ и людьми, между пользователями ИИ, между разработчиками и операторами услуг ИИ и правительствами. Это будет иметь существенные последствия для всех – отдельных людей, учреждений и государств.

Мы интегрируем ИИ в основную ткань человеческой деятельности без большого шума, почти незаметно – и с высокой скоростью. Этот процесс непосредственно связан с новым типом организаций, так называемыми сетевыми платформами, предоставляющими цифровые услуги сразу огромному числу пользователей, часто в транснациональном и глобальном масштабах. В отличие от большинства продуктов и услуг, ценность которых для каждого пользователя либо не зависит, либо снижается от присутствия других пользователей, ценность и привлекательность сетевой платформы тем выше, чем больше у нее дополнительных пользователей, – с экономической точки зрения это можно назвать «положительным сетевым эффектом». Вокруг избранных платформ концентрируется больше пользователей, в результате выживают платформы, располагающие огромными абонентскими базами – иногда с сотнями миллионов и даже миллиардами пользователей. Чем дальше, тем больше сетевые платформы опираются на ИИ – в результате взаимодействие людей и ИИ достигает поистине невиданных в истории цивилизации масштабов.

На разнообразных сетевых платформах ИИ играет все более важную роль. Растет влияние сетевых платформ как на общественное мнение, так и на геополитику – и все это становится частью нашего обычного мира. Для поддержания социального и политического консенсуса необходимы дополнительные средства объяснения, обсуждения и контроля этих процессов, соответствующие ценностям общества, – иначе возможен бунт против новых сил, которые кажутся человеку безличными и неумолимыми. В человеческой истории такое уже было – например, во время подъема романтизма в XIX в. и в ходе взрыва радикальных идеологий в XX в. Правительства, операторы сетевых платформ и пользователи должны, не дожидаясь больших потрясений, продумать, обсудить и выработать основы, параметры и цели взаимодействия с ИИ, включая будущий облик нашего мира.

Менее чем за поколение объем пользовательских баз самых успешных сетевых платформ превысил население большинства стран и даже некоторых континентов. Границы этих массивов пользователей не совпадают с государственными, а интересы сторон, контролирующих деятельность сетевых платформ, не совпадают с интересами отдельных стран. Операторы сетевых платформ не чувствуют себя обязанными мыслить в терминах государственных приоритетов или национальных стратегий, особенно если это будет противоречить интересам обслуживания клиентов. Экономические и социальные процессы, которые идут в рамках сетевых платформ, могут превосходить по объему аналогичную деятельность большинства стран – несмотря на то, что они не проводят, как государства, экономическую, фискальную или социальную политику. Таким образом, несмотря на то, что крупнейшие сетевые платформы работают как коммерческие организации, они становятся геополитически значимыми в силу масштаба, роли и влияния.

Многие из наиболее значимых сетевых платформ возникли в США (Google, Facebook, Uber) и в Китае (Baidu, WeChat, Didi Chuxing), и они естественным образом стремятся работать на рынках, имеющих коммерческое и стратегическое значение для Вашингтона и Пекина. Такая динамика привносит новые факторы во внешнеполитические расчеты. Конкуренция между сетевыми платформами может влиять на политические отношения и политическую повестку. Ситуация осложняется тем, что корпоративные культуры и стратегии операторов сетевых платформ часто разрабатываются для обслуживания клиентов из исследовательских и технологических центров, расположенных далеко от столиц.

Некоторые сетевые платформы стали в своих странах неотъемлемой частью личной жизни, национального политического поля, бизнеса, внутрикорпоративных отношений и даже государственной деятельности. 10 лет назад предлагаемые ими услуги даже не существовали – теперь же они кажутся незаменимыми. Поскольку из опыта предыдущих эпох нам неизвестны прямые прецеденты организаций такого типа, не всегда понятно, в какой степени сетевые платформы должны соответствовать правилам и ожиданиям, унаследованным преимущественно от доцифрового мира.

Стандарты сообщества, устанавливаемые для сетевых платформ их операторами (часто с помощью ИИ) и определяющие, какой контент можно создавать и распространять, а какой нельзя, – наглядный пример несоответствия современного цифрового пространства традиционным правилам и ожиданиям. В большинстве случаев сетевые платформы не обращают внимания на контент, но в некоторых ситуациях влияние стандартов сообщества оказывается не меньше, чем сила законодательного регулирования. Сетевые платформы и их ИИ могут благоприятствовать распространению одних публикаций, которые в результате быстро получают популярность, и ограничивать и даже запрещать другие публикации, которые в результате никто не видит. Материалы, которые признаны содержащими «дезинформацию» или нарушающими другие стандарты сообщества, фактически изымаются из публичного оборота.

Общественные деятели могут успешно использовать сетевые платформы и их ИИ для распространения своего контента и расширения охвата аудитории. Но если операторы платформы решат, что те или иные известные общественные или политические фигуры нарушили стандарты сообщества, их публикации могут быть подвергнуты цензуре или удалены и либо не получат распространения, либо будут публиковаться только с соответствующим предупреждением для аудитории. Это означает, что некоторые компании сегодня обладают таким уровнем информационной власти, какой есть лишь у немногих демократических правительств. Многие считают такую степень власти частных компаний нежелательной, но передача этих полномочий правительствам вызвала бы почти такие же проблемы. Текущая ситуация находится уже за рамками традиционных политических подходов. Нынешнее положение с сетевыми платформами возникло исключительно быстро, можно сказать, на ровном месте, к нему не были готовы ни пользователи, ни правительства, ни бизнес.

Изменения, вызванные сетевыми платформами (и их ИИ), произошли так быстро отчасти потому, что сетевые платформы принадлежат к цифровому миру, который выходит за рамки географии. Мало какие человеческие достижения позволяют так же успешно объединять большие группы пользователей, разобщенных в пространстве, давая им при этом мгновенный доступ к данным ^[32]. Кроме того, ИИ после обучения обычно действует быстрее, чем человеческий разум. Это не хорошо и не плохо – это реальность, порожденная проблемами, которые мы стремимся решить, потребностями, которые мы хотим удовлетворить, и технологиями, которые мы создаем для достижения наших целей. Изменения, которые мы переживаем и которым мы способствуем, требуют нашего внимания – в мышлении, культуре, политике и бизнесе – и выходят далеко за рамки одного человеческого разума либо конкретного продукта или услуги.