В отличие от прошлых технологических инноваций, искусственный интеллект — это не господство человечества над природой, а скорее полный отказ от контроля.
Осознаем мы это или нет, старое антропоцентрическое высокомерие, которое позволяет технология, может вскоре уступить место человеческой неуместности и бессмысленности.
Славой Жижек, профессор философии Европейской высшей школы, является международным директором Института гуманитарных наук Биркбека при Лондонском университете и автором книги «Небеса в беспорядке» (2021).
Открытое письмо Института будущего жизни, требующее шестимесячной
предупредительной паузы в разработке искусственного интеллекта, уже
подписали тысячи высокопоставленных фигур, включая Илона Маска.
Подписавшие обеспокоены тем, что лаборатории искусственного
интеллекта “вовлечены в бесконтрольную гонку” по разработке и развертыванию все более мощных систем, которые никто, включая их
создателей, не может понять, предсказать или контролировать.
Чем объясняется эта вспышка паники среди определенной когорты элит?
Очевидно, что контроль и регулирование находятся в центре
истории, но чьи? Во время предлагаемой полугодовой паузы, когда
человечество сможет оценить риски, кто будет защищать человечество?
Поскольку лаборатории искусственного интеллекта в Китае, Индии и России продолжат свою работу (возможно, тайно), глобальные общественные дебаты по этому вопросу немыслимы. Тем не менее, мы должны рассмотреть, что здесь поставлено на карту.
В своей книге 2015 года «Homo Deus» историк Юваль Харари предсказал, что наиболее вероятным результатом ИИ станет радикальное разделение – гораздо более сильное, чем классовое разделение – в человеческом обществе. Достаточно скоро биотехнологии и компьютерные алгоритмы объединят свои силы для создания “тел, мозгов и разумов”, что приведет к увеличению разрыва “между теми, кто знает, как создавать тела и мозги, и теми, кто этого не делает”. В таком мире “те, кто едет на поезде прогресса, обретут божественные способности к созиданию и разрушению, в то время как те, кто остался позади, столкнутся с вымиранием”.
Паника, отраженная в письме ИИ, проистекает из страха, что даже те, кто
находится в “поезде прогресса”, не смогут им управлять. Наши нынешние
цифровые феодалы напуганы. Однако они хотят не публичных дебатов, а
скорее соглашения между правительствами и технологическими корпорациями, чтобы сохранить власть там, где она принадлежит.
Массовое расширение возможностей ИИ представляет серьезную угрозу для тех, кто находится у власти, включая тех, кто разрабатывает, владеет и
контролирует ИИ. Это указывает не что иное, как на конец капитализма, каким мы его знаем, проявляющийся в перспективе самовоспроизводящейся системы искусственного интеллекта, которая будет нуждаться во все меньшем участии человеческих агентов (алгоритмическая торговля на рынке — это всего лишь первый шаг в этом направлении). Нам предстоит выбор между новой формой коммунизма и неконтролируемым хаосом.
Новые чат-боты предложат многим одиноким (или не очень одиноким)людям бесконечные вечера дружеского общения о фильмах, книгах, кулинарии или политике. Если использовать мою старую метафору, то люди получат искусственную версию кофе без кофеина или газировки без сахара: дружелюбного соседа без скелетов в шкафу, Другого, который просто приспособится к вашим собственным потребностям. Здесь присутствует структура фетишистского отрицания: “Я очень хорошо знаю, что я не разговариваю с реальным человеком, но мне кажется, что это так — и без каких-либо сопутствующих рисков!” В любом случае, внимательное
изучение письма ИИ показывает, что это еще одна попытка запретить
невозможное. Это старый парадокс: мы, люди, не можем участвовать в
постчеловеческом будущем, поэтому мы должны запретить его развитие. Чтобы сориентироваться в этих технологиях, мы должны задать старый вопрос Ленина: Свобода для кого? И что делать?
В каком смысле мы были свободны раньше? Разве нас уже не контролировали гораздо больше, чем мы осознавали? Вместо того, чтобы
жаловаться на угрозу нашей свободе и достоинству в будущем, возможно, нам следует сначала подумать, что означает свобода сейчас. Пока мы этого не сделаем, мы будем вести себя как истерички, которые, по словам
французского психоаналитика Жака Лакана, отчаянно нуждаются в хозяине, но только таком, над которым мы можем доминировать.
Футурист Рэй Курцвейл предсказывает, что благодаря экспоненциальному
характеру технологического прогресса мы скоро будем иметь дело с
“духовными” машинами, которые не только проявят все признаки
самосознания, но и намного превзойдут человеческий интеллект. Но не следует путать эту “постчеловеческую” позицию с парадигматически современной озабоченностью достижением полного технологического господства над природой. Вместо этого мы наблюдаем диалектическое обращение этого процесса вспять.
Сегодняшние “постчеловеческие” науки больше не направлены на
доминирование. Их кредо — удивление: какие случайные, незапланированные возникающие свойства могут приобрести для себя модели ИИ “черного ящика”? Никто не знает, и в этом заключается острый момент – или, на самом деле, банальность – всего предприятия. Следовательно, ранее в этом столетии французский философ-инженер ЖанПьер Дюпюи разглядел в новой робототехнике, генетике,
нанотехнологиях, искусственной жизни и ИИ странную инверсию
традиционного антропоцентрического высокомерия, которое технология
позволяет: “Как мы можем объяснить, что наука стала настолько «рискованной» деятельностью, что, по мнению некоторых ведущих ученых, она представляет сегодня главную угрозу выживанию человечества? Некоторые философы отвечают на этот вопрос, говоря, что мечта Декарта – ‘стать хозяином и обладателем природы’ – оказалась неверной, и что мы должны срочно вернуться к ‘мастерству мастерства’. Они ничего не поняли. Они не видят, что технология, появляющаяся на нашем горизонте благодаря ‘конвергенции’ всех дисциплин, нацелена именно на немастерство.
Инженер завтрашнего дня станет учеником чародея не из-за своей
небрежности или невежества, а по собственному выбору.”
Человечество создает своего собственного бога или дьявола. Хотя
результат нельзя предсказать, одно можно сказать наверняка. Если нечто,
напоминающее “постчеловечество”, возникнет как коллективный факт,
наше мировоззрение потеряет все три своих определяющих, пересекающихся предмета: человечество, природу и божественность. Наша идентичность как людей может существовать только на фоне непроницаемой природы, но если жизнь станет чем-то, чем можно
полностью манипулировать с помощью технологий, она потеряет свой
“естественный” характер. Полностью контролируемое существование лишено смысла, не говоря уже о прозорливости и чуде. То же самое, конечно, относится к любому ощущению божественного. Человеческий опыт “бога” имеет смысл только с точки зрения человеческой конечности и смертности. Как только мы станем homo deus и создадим свойства, которые кажутся “сверхъестественными” с нашей старой человеческой точки зрения, “боги”, какими мы их знали, исчезнут. Вопрос в том, что останется, если вообще что-нибудь останется. Будем ли мы поклоняться искусственному
интеллекту, который мы создали?
Есть все основания беспокоиться о том, что техногностические видения
постчеловеческого мира являются идеологическими фантазиями,
скрывающими бездну, которая нас ожидает. Само собой разумеется,
потребуется более чем шестимесячная пауза, чтобы гарантировать, что люди не станут ненужными, а их жизни бессмысленными в не слишком
отдаленном будущем.
