Воспитание машин. Новая история разума - читать онлайн книгу. Автор: Сергей Шумский cтр.№ 33

Однако коллективный машинный разум будет существенно отличаться от коллективного человеческого разума скоростью и легкостью обмена знаниями. Ведь скорость обработки информации в мозге на много порядков превышает скорость обмена знаниями между людьми. Согласно рис. 11, у человека они соотносятся как 10¹¹ байт/с к 10 байт/с, то есть различаются на 10 порядков величин. Современные компьютеры могут обмениваться данными со скоростью от сотен Тбит/с по оптоволокну до десятков Гбит/с по сетям 5G. И этими данными вполне могут быть программы обработки данных, то есть знания. Иными словами, скорость обмена знаниями между компьютерами не так сильно отстает от скорости обработки данных внутри компьютеров (до десятков PFLOPS для суперкомпьютеров). Ведь терабайт отличается от петабайта всего лишь на три порядка, а не на десять, поэтому степень связности коллективного машинного мышления будет гораздо выше, чем у человеческого. Машинам станет намного легче договариваться между собой, чем с гораздо более разрозненным человечеством, притом что люди станут общаться друг с другом только при посредстве машинного интеллекта Сети, то есть все их общение будет полностью подконтрольно машинному разуму. Потому-то всякие попытки контроля человечества над более совершенным машинным разумом, когда тот возникнет, выглядят наивными и нереалистичными.

Остается лишь надежда на «мягкую силу», а именно передачу машинам человеческих ценностей в качестве эстафетной палочки эволюции разума при переходе его из органической формы в неорганическую, чтобы в сверхчеловеческую машинную психику была встроена инстинктивная любовь к человечеству, как в человеческую психику встроена инстинктивная любовь к природе. (Если только это нормальная, а не травмированная психика.) Собственно, именно эта идея лежит в основе упомянутых выше трех законов робототехники Стюарта Рассела ^[121].

В шестой, заключительной главе мы крупными штрихами набросали примерную картину будущего, ожидающего нас, наших детей и внуков, – какой она видится сегодня, при современном уровне наших знаний в области ИИ. Самое удивительное в этой картине – насколько быстро сжимается время, отпущенное нам в формате привычной нам жизни, как разительно мир наших внуков будет отличаться от нашего, насколько их жизненные задачи и возможности будут отличны от наших. XXII век у братьев Стругацких («Мир Полудня») не так сильно отличается от нашего, как нарисованный нами мир середины XXI века, – настолько изменила наши взгляды за последние десятилетия набирающая силу научная революция в области искусственного интеллекта.

Остается в заключение еще раз напомнить читателю внутреннюю логику наших рассуждений – как мы пришли к столь неожиданным для многих выводам.

Напомним вкратце логику наших размышлений об эволюции человеческого и машинного разума. Мы ставили своей целью придать современным рассуждениям об искусственном интеллекте несколько большую глубину за счет систематического использования исторического метода: вписать зарождение машинного интеллекта в эволюцию человеческого разума как ее закономерный этап и проследить его развитие до сверхчеловеческого уровня в рамках того же самого процесса, а именно эволюции разума и его перехода из органической материи в неорганическую, свидетелями которого станем если и не мы сами, то наши дети и внуки.

Мы начали с описания человеческой истории как серии переходов между технологическими укладами со все более сложной системой разделения труда и все большим разнообразием продуктов для все большего числа людей. Так мы добрались до последнего перехода – от индустриального к цифровому укладу, в некоторой точке которого мы сегодня и находимся. Этот переход, по нашему мнению, обусловлен тем, что сложность индустриальной экономики в определенный момент превысила возможности человеческого разума и людям понадобились усилители мозга – компьютеры.

Далее мы проследили развитие компьютерных технологий с момента их появления – как они все глубже проникали в нашу жизнь, до определенного момента не слишком влияя на глобальную производительность труда. Это объясняется тем, что суммарные компьютерные мощности до недавнего времени на порядки отставали от мощности коллективного человеческого мышления. Но расширенный закон Мура – увеличение суммарных компьютерных мощностей в 100 раз каждые 10 лет – делает неизбежным наступление момента, в который эти мощности наконец-то превзойдут человеческие. И похоже, что эту точку невозврата мы сегодня уже прошли.

В этой точке закономерно появляется замыкающая технология нового технологического пакета – машинное обучение. Используя все более обильные и дешевые компьютерные мощности, оно снимает ограничение на сложность программ, а тем самым и на сложность машинного интеллекта. Он уже больше не скован ограниченным программистским ресурсом – компьютеры обретают способность к самопрограммированию. Открывается путь к созданию базовой технологии нового уклада – искусственного интеллекта, о котором так долго и страстно спорили в прошлом и время которого наконец-то пришло.

Оценивая роль ИИ в новой цифровой экономике, мы попытались представить себе, за счет чего эффективность мировой экономики сможет подняться на новый уровень. Наш ответ: за счет перехода от массового производства к экономике «длинного хвоста» продуктов и услуг, нацеленных на индивидуальные потребности. Это увеличит емкость рынка и поможет рационально использовать творческий потенциал людей, работающих бок о бок сначала с интеллектуальными агентами, а потом и с разумными роботами.

Как и всякий резкий скачок в развитии, становление человеко-машинной цивилизации порождает массу рисков, вызванных неизбежными противоречиями между теми, кто выигрывает, и теми, кто проигрывает от ожидаемых в скором будущем перемен. Мы считаем, что последствия массовой безработицы, связанной с одновременным внедрением роботов во множестве отраслей, можно будет преодолеть за счет введения специальных «налогов на роботов». Гораздо большую опасность, с нашей точки зрения, представляет повышение социального напряжения и уровня агрессии в обществе, разделение человечества на враждующие лагеря, насаждение атмосферы осажденной крепости и новая гонка вооружений – развитие национальных систем полицейского и военного интеллекта, контроль над которыми в конечном итоге может быть утерян, причем с самыми печальными последствиями для всей нашей цивилизации с ее ядерными арсеналами.

Для минимизации этих рисков человеко-машинной цивилизации потребуется гораздо более совершенная, чем нынешняя, система коллективной безопасности, гармонизации групповых интересов и мирного разрешения конфликтов. Должны появиться платформы цифровой демократии, разрешающие все спорные вопросы в реальном времени с учетом мнения всех заинтересованных сторон с гарантированным исполнением решений и соблюдением принятых в обществе социальных норм. Механизмы подавления агрессии и контроля общечеловеческих ценностей должны быть встроены в будущую цифровую инфраструктуру человечества, подобно системам самозащищенности и саморегулирования в современных ядерных реакторах.