Этика без дураков. Циничные наблюдения, страшные теории и эффективные практики - читать онлайн книгу. Автор: Александр Силаев cтр.№ 25

Если отрицательных связей не видно, значит, до них не дошло дело. Их не может не быть. Предоставленные самим себе, положительные обратные связи прикончили бы систему – ничего другого они в перспективе не умеют. Любая система, где было так, уже не выжила бы и вряд ли могла передать в будущее то, что ее создало. Можно сказать, у нее плохие шансы в эволюционной гонке. Например, у системы «биржевой пузырь» шансов сохраниться нет. Если гонка длится долго, мы не увидим таких систем. Они могут возникать случайно, но дальше, уже неслучайно, они будут отсеиваться отбором. Чем выше уровень, тем хуже их шансы – системы, чреватые катастрофой, редко дорастают до вселенских масштабов.

На некоем уровне положительные связи уступят отрицательным.

Можно спросить: а как же прогресс? Как же рост нашего знания? Чем больше знание, тем больше его потенциал стать еще большим знанием. Кто имеет лучшие шансы узнать что-то новое и важное – крупный ученый или ограниченный обыватель? Аналогично с цивилизациями. Традиционная аграрная цивилизация, где знаний мало, развивается медленно, технологичная наукоемкая цивилизация развивается быстро, переходя в состояние, где должна развиваться еще быстрее. Кажется, это вселенский процесс, ведущий в обозримом будущем к бесконечности. Отсюда и все теории про сингулярность.

Возможно, так и есть. А возможно, отрицательные обратные связи включатся. Уже скоро. Тогда рост знаний обернется разрушением мотивации их создавать. Про это была глава «Конец света нам понравится».

Но пока что мир растет.

Разделяй и выживай

Передвижение небольшими группами. – Комитет защиты от рисков. – Секс с методологами и без. – Интеллект, похожий на эволюцию. – Кто открыл Колумба?

Какие еще свойства мира придают ему, как сказал бы Нассим Талеб, антихрупкость? Вспоминается то, что социолог Никлас Луман уподобил подводной лодке. Принцип изолированности отсеков: если затопит один, остальные выживут.

До эпохи Великих географических открытий человечество не было единой системой и принцип можно было понимать буквально. Пока отдельные цивилизации не связаны общей судьбой, каждая из них – отличный эксперимент. Выживет – выйдет в следующий тур. Не выживет – в некоем смысле тоже хорошо. Значит, с ней что-то было не так.

В едином человечестве принцип продолжает работать. Различные политические идеологии и субкультуры группируют своих сторонников. Если с ними что-то «не так», это будет проверено в первую очередь на них же. Главное – не мешать каждой группе определиться, приняв на себя риски и шансы. «Пусть расцветают все сто цветов». Конечно, хотя бы по соображениям безопасности. Мы не можем учесть все факторы, мы их просто не знаем. Если кто-то полагает себя всеведущим, пусть вспомнит то важное, что не знали люди 100–200 лет назад, и примерит на себя хоть немного скромности. Максимум, что мы можем, – разбиться на группы и попытать счастья. С людьми так и было тысячи лет, до них миллионы. Все, кому надо было исчезнуть, могли вволю наисчезаться – миру от них оставался опыт, свободное место и новые шансы.

Централизация и унификация – всегда риск. Естественный риск-менеджмент: разделяй и выживай. Грибница и сеть устойчивее, чем дерево и иерархия.

Если хотите погубить мир, создайте Глобальный комитет по защите от всех рисков. Соберите все полномочия в одной комнате. Назначьте главного. Дайте ему пульт управления от всего (во имя защиты этого всего от всего, разумеется). Дальше, если вы злодей, расслабьтесь и подождите, специально портить ничего не надо. Все нужное злодейство уже проделано, дальше люди справятся сами, достаточно сильно ошибиться один раз, а это мы отлично умеем, дайте время.

Системе глобальной безопасности стоило бы пойти на выучку к эволюции. Не думать, как поступить по уму, решая за всех. Наоборот, исходить из глупости. Считать, что кто угодно может ошибиться как угодно – и, несмотря на это, система должна уцелеть. Именно так работает с рисками эволюция, и она отличный риск-менеджер, судя по тому, что мы живы и ухитряемся развиваться.

И вот еще одно ее свойство: она ставит на случайные процессы с неслучайной фильтрацией. Пример такого процесса – естественный отбор в биологии. Возникают какие угодно мутации, но выживает и закрепляется не что угодно. Есть версия, что схожим образом работает человеческая культура. Чем больше сумасшедших идей в начале – тем лучше. На первом шаге возникает что угодно, к счастью, мы не можем запретить думать. А дальше жизнь разберется, с чем мы останемся. Можно спорить о терминах, подчас такие процессы называют стохастическими.

Стохастические процессы лучше управляются с рисками, чем проектность, планирование и их техники безопасности.

В планировании и пошаговых алгоритмах критична роль ошибок, в стохастических процессах – нет. Если ошибки неизбежны, лучше соглашаться на них заранее.

Представьте, что методологу, проектному менеджеру и инженеру поставили задачу оптимизировать размножение разумных существ. Вероятно, там было бы много проектной документации, точных инструкций, зон ответственности. Долго бы обсуждали функциональные места, ресурсную базу, разбирали понятие «деятельности» (иначе что делал бы в этой компании методолог?). Была бы долгая дискуссия, что такое деятельность по размножению, и ответ на несколько томов. На выходе возникла бы госкорпорация: громоздкая, коррумпированная и почившая после пары кризисов.

Сравните, как элегантно решена эта задачка в природе. Существа просто поделены на два пола, в блок мотивации жестко прописан секс и обеспечена некоторая избыточность ресурса (любая самка может родить за жизнь больше двух детенышей, а спермы обычно с запасом на порядки). Про необходимость самого размножения природа никому ничего не сказала! Нет у зверей морального долга «продолжить род», как и вообще морального долга. Род миллионы лет успешно продолжается. При этом можно как угодно ошибаться. Собака, например, может счесть сексуальным объектом ботинок хозяина – это не беда. Все девиации, включая пса-извращенца, учтены заранее. Главное, чтобы решение было простым, а ресурса – с запасом, и можно вожделеть ботинок сколько угодно.

Есть подозрение, что мышление происходит так же, как эволюция: случайным процессом с перебором и дальнейшим отбором, а не по какому-то якобы лучшему алгоритму. Правильный алгоритм неправилен тем, что не справится с изменением среды, он хрупок и неустойчив. Выжить в случайном мире может только то, что само основано на случайности. Есть гипотеза, что если ИИ будет хорошо мыслить, он будет мыслить именно так. Впрочем, поживем – увидим. Я не боюсь сейчас ошибиться именно потому, что боязнь ошибиться – одна из самых страшных ошибок.

Те же самые принципы играют не только в защите, но в нападении. Напомним: отрицательные связи, децентрализация, стохастичность.

Почему в Китае не было своего Колумба, ведь технически доплыть до Америки китайцы могли? Потому что Китай – централизованная упорядоченная страна. Санкционировать и проинвестировать экспедицию могли в одном-единственном месте. Во дворце императора. Мореплаватель пришел бы туда, получил отказ, и на этом его мореплавание закончилось бы. На такие идеи обычно отвечают отказом. В Европе Колумбу отказали в Генуе, Португалии, Англии и несколько раз в Испании (один раз перед этим заседали четыре года). Бедняга мотался по городам и странам, а куда не мотался – рассылал письма. Можно сказать, что Колумб, перед тем как открыть Америку, сначала взял измором Европу. Но для этого он должен был родиться на континенте с разными центрами и правом на второй шанс. В конце концов удача улыбнулась ему не потому, что он нашел лучшие аргументы или лучшего короля. Просто число неудач стало достаточным для удачи. Будьте как Колумб – это то, что можно пожелать людям, а будь как та Европа – большим системам. Еще раз: чуткость к обратным связям, децентрализация, стохастичность.