Юрий Магаршак – главный редактор New Concepts Journal, Нью-Йорк.
Известный британский физик-теоретик и космолог Стивен Хокинг начиная с 2001 года регулярно формулирует возможные сценарии самоуничтожения человечества. Ввиду исключительной серьезности этих предостережений приведем главные утверждения, сформулированные в выступлениях и статьях великого физика нашего времени.
Четыре сценария апокалипсиса
Развитие полноценного искусственного интеллекта (ИИ) может означать конец человеческой расы. Уже созданные примитивные формы ИИ оказались очень полезными, но опасения по поводу создания интеллекта, который будет соответствовать человеческому или даже превзойдет его, очень серьезны. Такой ИИ начнет развиваться самостоятельно и переделывать себя со всевозрастающей скоростью.
Ядерная война. Если нас не погубят созданные нами разумные машины, мы вполне можем сделать это сами. Сегодня агрессивность вида homo sapiens грозит уничтожить самого человека разумного.
Вирусы, созданные генной инженерией. Для создания ядерного оружия нужны крупные предприятия, а генной инженерией можно заниматься и в маленькой лаборатории. Опасность в том, что случайно или умышленно мы можем создать вирус, который нас же и погубит.
Наконец, одним из самых серьезных последствий деятельности человека на планете является глобальное потепление, вызванное увеличением в атмосфере диоксида углерода при сжигании ископаемых видов топлива. Мы не знаем, остановится ли когда-нибудь процесс глобального потепления, но в худшем случае Земля уподобится Венере, где температура на поверхности достигает 250 градусов и идут дожди из серной кислоты.
Генно-модифицированное человечество
Стивен Хокинг в связи с самоуничтожением человека как вида в качестве эффекта положительной обратной связи упоминает только повышение температуры. Однако, как представляется, это верно и для искусственного интеллекта, и для генной инженерии. Причем опасности генной инженерии не только в создании генно-модифицированных вирусов. Опасность многих других применений генной инженерии также абсолютно реальна.
Создание гибридных видов живых существ, а то и вовсе не существовавших в природе и ни на живое существо из прошлого не похожих, может стать абсолютно реальной опасностью для существования человека как вида. Драконы, «змеи горынычи», годзиллы и другие монстры из сказок превратятся в живых существ. Перспектива абсолютно реальная!
Птицы, которые налетают стаей, существуют только в фильмах Хичкока. Ни один пернатый хищник (по не вполне понятной причине – табу, наложенное кем-то или чем-то?) не охотится стаей. Грифы слетаются на падаль – но не орлы или ястребы на живую жертву. Создание генно-модифицированных хищных птиц, которые будут охотиться и при этом размножаться, как воробьи, может явиться абсолютно реальной опасностью для человечества как такового.
Количество любителей совершить генно-инженерное нападение на человечество в будущем наверняка будет не меньше, чем сегодня число хакеров и создателей компьютерных вирусов. Обнаружить их будет очень непросто.
Поскольку число сперматозоидов в теле мужчины составляет примерно 100 млн, вынашивание зародыша не только суррогатной матерью, а вообще вне матки делает возможным родить от одного самца (царя, диктатора или миллиардера) миллионы детей.
Это может стать не только демографической или социальной проблемой. Ненужных или нежелательных не генно-модифицированных представителей вида homo sapiens правители смогут тем или иным способом удалять. Оставив, кроме своих потомков, генно-модифицированных слуг с ограниченным интеллектом, генно-модифицированных солдат, генно-модифицированных женщин (а может быть, и мужчин, и существ комбинированных полов, в природе не существующих) для утех.
Последней из известных нам битв человека с конкурирующим с ним видом были битвы homo sapiens с неандертальцами. Грядущие битвы не генно-модифицированных людей с генно-модифицированными существами могут стать реальной опасностью в будущем.
Технобиотеорема
По мере создания все новых и новых устройств, использующих Интернет, дистанционное управление и передачу информации с помощью электромагнитных волн, проблема компьютерных вирусов и компьютерных хакеров становится общецивилизационной. Возникает фундаментальный вопрос: можно ли побороть вирусы и хакеров в принципе или они в конце концов разрушат цивилизацию, основанную на дистанционном управлении и Интернете?
В земной биосфере нет ни одного примера живых существ, которые функционировали бы с использованием передачи информации подобно передачи информации по Интернету. Ни один из десятков миллионов видов живых существ, известных в настоящее время, способностями, подобными дистанционной перекачке файлов и дистанционному управлению функционирующими системами, не обладает. Возникает вопрос: почему в живой природе не существует ничего подобного Интернету – вопреки Дарвину?
Ответ может быть только один: прямой передачи информации из мозга в мозг не происходит, потому что на это в живой природе наложено табу. Можно даже сформулировать этот запрет в виде технобиотеоремы (пока не доказанной): «Невозможно предотвратить вмешательство хакеров и компьютерных вирусов в системы, вмешательство в которые извне на каком-либо этапе их функционирования не невозможно».
Сумма всех случайностей
С учетом сказанного зададимся более общим вопросом: а может ли разумная жизнь на Земле не уничтожить саму себя? Положительный ответ на этот вопрос вовсе не очевиден. Поставим также и более общий вопрос: может ли цивилизация где-либо и в какой-либо форме, достигнув определенного уровня технологического развития, не уничтожить саму себя?
Ответ на этот вопрос в виде гипотезы, объясняющей отрицательные результаты экспериментов, проведенных по его инициативе, был дан одним из самых известных астрофизиков ХХ века Иосифом Шкловским. Он был главным инициатором поиска во Вселенной радиосигналов, которые можно было бы интерпретировать как посланные разумными существами.
Однако после того, как никаких сигналов, которые можно трактовать как посланные внеземными разумными существами, не было получено на протяжении более 10 лет (и, кстати сказать, и ныне, через 30 лет после смерти Шкловского, не получено), Иосиф Самуилович выдвинул смелую гипотезу. Он предположил, что отсутствие сигналов других цивилизаций объясняется тем, что после того, как любая цивилизация достигнет уровня, на котором она способна производить ядерное оружие, она не может не уничтожить саму себя.
Во времена Шкловского генная инженерия, Интернет и создание искусственного интеллекта были еще вполне фантастическими технологиями. Возможно, поэтому Иосиф Самуилович не видел опасности их развития. Сформулируем гипотезу о неизбежности самоуничтожения цивилизаций где бы то ни было соответственно уровню развития технологий в настоящий момент.
Может ли разумная жизнь в любой форме выжить, достигнув уровня цивилизации, на котором она способна: 1) уничтожить планету своего обитания ядерным оружием; 2) создать искусственный интеллект и 3) манипулировать с генами?
А если не может, что нужно сделать, чтобы отдалить момент самоуничтожения как можно дальше во времени? Или (в качестве альтернативы) продолжить разумную жизнь даже после полного уничтожения цивилизации, являющейся ее носителем. Например, создав другие формы разума/жизни, переселившись на другие планеты или переселив на них разумных существ (киборгов или генно-преобразованных разумных существ, чтобы они могли выжить на этих планетах).
В русле исследования этой проблемы естественно рассмотреть существование Бога, создавшего человека, не с точки зрения религий и догм, а с точки зрения самоуничтожения коллективного разума где бы то ни было во Вселенной. Возможно, что Создатель нас являлся коллективным Создателем (наподобие того, как люди коллективно создали генную инженерию и Интернет). При этом Бог воспринимается нами как единосущностное существо (наподобие того, как мы воспринимаем компьютер с несколькими hard drives как один компьютер и человеческий мозг, состоящий из миллиардов нейронов, не как множество взаимодействующих живых существ, а как один человеческий мозг).
Рассуждая теоретически, возможно, создавший нас самоуничтожил себя. И в настоящее время жизнь на Земле – а с ней вершина всего живущего – человек – является его продолжением, когда создателя (или создателей) человечества давно нет. Если человечество создаст нечеловеческую цивилизацию, которая после самоуничтожения homo sapiens продолжит жизнь на других планетах, это будет именно так.
Впрочем, неизбежность самоуничтожения цивилизаций относится только к случаю, когда цивилизация не состоит из единственного разумного сверхсущества. Цивилизация, состоящая из одного-единственного суперразумного носителя знаний (в терминах монотеизма – Творца), сама себя не разрушит и существовать может на любом уровне своего интеллекта и технологий. Теорема о саморазрушении цивилизаций после достижения ими примерно нашего современного уровня к цивилизациям, состоящим из одного разумного Существа (в терминах религии – Бога), не относится.
Вопрос «может ли разум выжить?» – относится не только к формам разума, носители которых состоят из нуклеиновых кислот и белков, но и к формам любых других материальных носителей, например компьютерных чипов. Если искусственный разум роботов и компьютеров, созданных человеком, достигнет уровня, когда они бросят вызов человечеству, то варианты развития в принципе не ограничены. Во-первых, видов искусственного интеллекта может быть много. Во-вторых, кто из них одержит победу, во многом зависит от того, какие именно формы искусственного разума будут созданы первыми. И в-третьих – совершенно не очевидно, что созданные людьми нечеловеческие цивилизации, достигнув уровня расщепления атома и генной инженерии, не будут саморазрушены так же, как их создавшая цивилизация людей.
http://www.ng.ru/nauka/2017-10-25/9_7102_civilizations.html
