Искусственный разум и новая эра человечества - читать онлайн книгу. Автор: Генри Киссинджер, Дэниел Хаттенлокер, Эрик Шмидт cтр.№ 38

Взросление рядом с ИИ изменит наши отношения друг с другом и с самими собой. Сегодня различают «цифровых аборигенов» и предыдущие поколения, а в будущем будут различать просто цифровых аборигенов и «ИИ-аборигенов». В перспективе дети будут расти с ИИ-помощниками, которые будут одновременно выполнять множество функций: няньки, воспитателя, советчика, друга. Такой ИИ может обучать детей любым языкам и наукам, подстраивая свой стиль преподавания под индивидуальные особенности учеников и их успеваемость, чтобы добиться от них наилучших результатов. ИИ может служить товарищем по играм, когда ребенку скучно, и наблюдателем, если родители в отъезде. Очевидно, что с внедрением персонифицированного образования с участием ИИ возможности среднего человека могут возрасти.

Граница между людьми и ИИ поразительно прозрачна. Получив цифровых помощников в раннем возрасте, дети привыкнут к ним. Такие ИИ будут развиваться вместе со своими владельцами, по мере взросления перенимая их вкусы. Персонализированный цифровой помощник, перед которым поставлена задача максимально повысить удобство или удовлетворенность человека, будет выдавать нужные рекомендации и информацию, даже если пользователь не понимает, почему он делает это лучше, чем любой другой ресурс.

Со временем люди могут предпочесть своих цифровых помощников другим людям. Цифровые помощники улавливают предпочтения хозяев, а общаться с другими людьми будет сложнее (хотя бы потому, что у других людей есть личные особенности и посторонние желания). В результате снизится наша зависимость от человеческих отношений. Во что тогда превратится детство? Машина может имитировать человеческие эмоции, но не может их испытывать – как это повлияет на восприятие мира ребенком, на его воображение, на игры? Как изменится процесс поиска друзей и социализации?

Важно понимать, что доступность цифровой информации, вероятно, уже изменила образование и культурный опыт целого поколения. Сейчас мир приступает к еще одному большому эксперименту – дети будут расти с машинами, которые во многом будут действовать так же, как учителя-люди на протяжении многих поколений, но без человеческой чувствительности, проницательности и эмоций. Это может привести к тому, что опыт, полученный участниками эксперимента, будет совсем не таким, какого они ожидали и желали.

Все это может не понравиться встревоженным родителям. Раньше родители ограничивали для детей время, которое можно провести перед телевизором, сегодня мы ограничиваем время с компьютерами и гаджетами, а в будущем родители станут ограничивать время общения с ИИ. Но так будут делать не все. Одни родители захотят подтолкнуть своих детей к успеху, у других не останется времени на воспитание детей, а третьи просто будут потакать желаниям детей – и все они разрешат своим детям общение с ИИ-компаньонами. Таким образом, дети – обучающиеся, развивающиеся, впечатлительные – будут формировать свои впечатления о мире в диалоге с ИИ.

Ирония заключается в том, что цифровизация, хоть и делает доступной все больше информации, при этом снижает возможность глубокого, сосредоточенного мышления. Сегодняшний постоянный поток медиаинформации уменьшает время для созерцания. Алгоритмы, созданные для стимулирования желаний человека, будут продвигать то, что привлекает внимание, – как правило, это нечто драматическое, удивительное и эмоциональное. У человека не будет оставаться времени для тщательного обдумывания идей, а доминирующие в настоящее время формы коммуникации будут еще меньше способствовать спокойным, сдержанным рассуждениям.

Как мы уже писали в главе 4, ИИ все больше формирует нашу информационную сферу. Раньше для того, чтобы информировать общественность и поддерживать упорядоченную картину мира, люди создавали специальных посредников – организации и общественные институты, которые занимались объяснением сложной информации, выделением важных, самых необходимых тем и распространением полученных результатов ^[68]. По мере того как общество осуществляло разделение физического труда, оно также добивалось разделения умственного труда, создавая высшие учебные заведения для содействия специализированным исследованиям и СМИ для информирования широкой общественности. Эти институты занимались агрегацией, дистилляцией, объяснением и передачей информации.

Теперь в эти информационные институты интегрируется ИИ. Он внедряется в каждой области, характеризующейся интенсивным интеллектуальным трудом, от финансов до юриспруденции. Но если редакторы-люди всегда могут объяснить, почему они выбирают ту или иную информацию, то в репрезентативности информационных выборок, которые мы получаем от ИИ, мы не всегда уверены, поскольку не понимаем механизмы сортировки ИИ – например, почему такие приложения, как TikTok и YouTube, продвигают одни видеоролики, а не другие. Пока нам нужны объяснения таких вещей, люди, понимающие механизмы сортировки ИИ, будут иметь серьезные преимущества. Но даже в этом случае для потребления информации, отфильтрованной ИИ, потребуется определенное доверие.

Влияние ИИ на человеческие знания парадоксально – ИИ-посредники способны анализировать огромные объемы данных, превосходящие те, которые мог себе представить человеческий разум. Но при этом они могут также усиливать манипулирование и искажать картину мира. Если ИИ управляется человеком, он способен использовать человеческие эмоции более эффективно, чем традиционная пропаганда. Подстроившись под индивидуальные предпочтения и инстинкты, ИИ способен вызвать реакцию, которая нужна его создателю. Аналогично, внедрение ИИ-посредников может усилить присущие пользователю предубеждения. Например, динамика рыночной конкуренции побуждает платформы социальных сетей и поисковые системы представлять ту информацию, которую пользователи считают наиболее привлекательной, что искажает картину реальности. Подобно тому, как технологии повысили скорость производства и распространения информации в XIX–XX вв., в наше время участие ИИ в современных процессах распространения информации будет изменять ее.

Часть пользователей будет пытаться пользоваться фильтрами, которые не искажают информационную картину – или хотя бы искажают ее понятным для пользователя образом, – независимо сравнивая их работу и пытаясь выбрать самый подходящий фильтр. Некоторые могут полностью отказаться от потребления отфильтрованной информации, предпочитая получать новости и факты у традиционных посредников-людей. Но когда большинство примет посредничество ИИ либо по умолчанию, либо как цену пользования сетевыми платформами, те, кто придерживается традиционных способов поиска информации, могут оказаться не в состоянии идти в ногу со временем. Они, несомненно, обнаружат, что их кругозор стал удивительно ограничен.

Если информация и развлечения станут иммерсивными, персонализированными и синтетическими – «новости», отвечающие предпочтениям людей, и фильмы, созданные ИИ с участием давно умерших актеров, – останется ли у нас общее понимание истории и текущих событий? Сможем ли мы иметь общую культуру? Чем станут произведения искусства, созданные ИИ, и кем будут в новых условиях считаться и считать себя писатели, актеры, художники и другие творцы, чей труд традиционно считался отражением уникального человеческого отношения к реальности и жизненному опыту?