Хлеба и зрелищ, предоставляемых такими информационными технологиями, как интернет и социальные сети, уже недостаточно для того, чтобы подавить беспорядки и тревоги, выходящие на поверхность. Применение соцсетей в качестве оружия стало эффективным инструментом для пропаганды в краткосрочной перспективе, но будет неизбежно иметь весьма неприятные последствия, усугубив неудовлетворённость населения и породив беспорядки. Хватит ли нам интеллекта и дальновидности, чтобы сформировать траекторию технологического развития? Какие ценности нужно будет закрепить, если мы хотим передать нашим детям мир, в котором стоит жить?
Новые технологии (искусственный интеллект, геномика, робототехника, нейронаука, нанотехнологии и так далее) являются не просто инструментами Нового мирового порядка. Они будут определять и структурировать этот порядок. Самоуправляемые транспортные средства дают подходящую метафору: технология перемещается в кресло водителя в качестве основного детерминанта судьбы человечества. Этот внешне простой фактор так и не оценён большинством политических лидеров, которые редко понимают науку или социальные последствия технологических инноваций.
Тем не менее перспектива технологической безработицы (этим термином Джон Мейнард Кейнс описал, как растущая автоматизация решения задач ведёт к сокращению рабочих мест и снижению заработной платы) уже заставляет мировых лидеров задуматься о том, что дегуманизирующее воздействие технологических достижений будет всё более преобладать, если не найти эффективные средства компенсации ущерба тем, кому приходится платить за прогресс и эффективность. Однако потеря работы – это больше, чем просто потеря дохода. Для многих это потеря смысла существования и жизни в целом.
Появление автономных систем летального действия (lethal autonomous weapons systems – LAWS), которые сами выбирают цели и уничтожают живую силу без существенного контроля со стороны людей, является ещё одним символом технологической дегуманизации. Солдаты на поле боя не будут иметь шансов против автономных пулемётов с временем реакции в несколько миллисекунд. Они также будут беззащитны против роя крошечных беспилотных летательных аппаратов. Подготовка, эффективность и мужество солдата теряют смысл.
К сожалению, автономность летального действия не ограничивается боевым оружием или беспилотными летательными аппаратами. Автономность летального действия не является оружием в прямом смысле слова. Это набор функций, который можно добавить в любую систему вооружений, включая мощные боеприпасы и беспилотные подводные лодки, способные запускать ядерное оружие. Совмещение искусственного интеллекта с оружием ослабит барьеры для начала новых войн и непреднамеренно усугубит существующие военные конфликты. Ещё более пугающая перспектива суперинтеллектуальности заключена в вероятности того, что мы передадим машинам ответственность за принятие решений во всех сферах жизни.
Человечество вступило в переломный момент истории. Механическое развёртывание технологических возможностей будет определять новый мировой порядок, если только лидеры не станут сознательно работать над предотвращением дегуманизирующих последствий. При максимальном использовании преимуществ новых технологий для общественного здравоохранения и повышения производительности труда важно также проявлять бдительность для смягчения рисков и нежелательных социальных последствий. К сожалению, быстрый и экспоненциально возрастающий темп развёртывания новых технологий намного опережает нашу способность внедрять соответствующий этический/правовой надзор. Без быстрого принятия решений и контроля над новыми вызовами общество столкнётся с перспективой перехода от кризиса к кризису. Уже нет времени для раздумий относительно принятия ответственных решений. Налицо серьёзная потребность в новых, гибких и адаптивных формах управления. Институты мирового порядка, созданные после Второй мировой войны и основанные на государственном суверенитете, уже неэффективны в мире, в котором всё чаще доминируют транснациональные компании, особенно технологические гиганты, более мощные, чем многие страны.
Мир не только разделён между странами, возглавившими четвёртую промышленную революцию, и менее развитыми экономиками. Государства всё чаще делятся на те, которые получают выгоды от повышения производительности, и те, чьё благосостояние застопорилось или снижается. Это очень дестабилизирующая ситуация. Общества будут либо создавать эффективные средства для перераспределения результатов повышения производительности, либо породят кризис дестабилизации, когда граждане теряют веру в государство.
Хлеба и зрелищ, предоставляемых такими информационными технологиями, как интернет и социальные сети, уже недостаточно для того, чтобы подавить беспорядки и тревоги, выходящие на поверхность. Применение социальных сетей в качестве оружия стало эффективным инструментом для пропаганды в краткосрочной перспективе, но будет неизбежно иметь весьма неприятные последствия, усугубив неудовлетворённость населения и породив беспорядки.
Хватит ли нам интеллекта и дальновидности, чтобы сформировать траекторию технологического развития? Готовы ли политические лидеры смириться с неизбежностью будущего и дегуманизирующими последствиями новых технологических возможностей? Неопределённость всегда была и остаётся фундаментальной характерной особенностью жизни, и всё же будущее может быть в некоторой степени сформировано уже сейчас посредством усиления определённой системы ценностей. Какие ценности нужно будет закрепить, если мы хотим передать нашим детям мир, в котором стоит жить?
http://ru.valdaiclub.com/a/highlights/khleba-i-zrelishch-novye-tehnoligii/
