Cистемы искусственного интеллекта не только определяют развитие робототехники, но и меняют принципы ведения войны. Фото Reuters

Искусственный интеллект (ИИ) в военной сфере сравнивают с изобретением пороха или созданием ядерного оружия. Помимо технических проблем появляются философско-этические вопросы о будущей роли человека и робота с ИИ, их взаимодействии. Возможна ли, например, диктатура искусственного интеллекта?

Искусственным интеллектом называют набор технологий для построений систем анализа данных, позволяющих быстро принимать решения на основе собираемой информации. Однако ИИ уже наделяют свойствами терминатора и сверхсущества.

Брак с резиновой Зиной

Человек был и еще остается производительной силой. Сегодня люди постепенно перестают быть нужны. На передовых японских предприятиях по сборке автомобилей людей в цехах практически нет, все делают роботы. Это так называемое дискретное производство. Все это – уже проявление угрозы цифровой диктатуры ИИ.

Да, технологии сами по себе нейтральны. Зло они или благо, решает человек. ИИ – часть информационно-коммуникационных технологий. Но так называемого сильного ИИ, который может представлять угрозу для человека, сегодня нет, и появится он очень не скоро.

Вот опасность «роботизации сознания» человека существует. Например, по навигатору в автомобиле водители едут туда, куда им указывает программа, а не собственное понимание. Мы живем алгоритмами, повинуясь воле их создателя.

Проникновение информационных технологий в жизнь человека диктует необходимость глобального документа, регулирующего этику ИИ. Это будет способствовать информационной безопасности.

В некоторых странах были попытки наделить роботов правами. Оппоненты говорят, это может привести к технофашизму. Некоторые пророчат появление «ювенальной юстиции» для ИИ. Роботы будут защищать права роботов. Например, дрон, защищая права другого дрона, прилетит и сожжет ваше жилище.

На международных конференциях высокого уровня обсуждаются отношения ИИ и человека. В это трудно поверить, но допускается возможность брака человека и робота, куклы в секс-индустрии. Причина и источник таких фантастических идей – конечно, большие деньги, интересы корпораций, другая система ценностей. Большая часть мирового сообщества против субъективизации ИИ. Пока побеждает человекоцентристский подход.

Искусственный интеллект может служить человеку и в сферах, пока неведомых. На земле можно синтезировать столько химических соединений, что их число превысит количество атомов во Вселенной. Может быть, среди этих соединений есть лекарства от всех болезней, материалы с универсальными свойствами… Сегодня ИИ проявляется в распознавании образов, навигации, транспорте, в совершенствовании сенсоров («органов чувств») у роботов. И конечно, в военном деле.

Целевая рабочая группа по вопросам будущего обороны США рекомендовала Пентагону сконцентрировать внимание на разработках в сфере ИИ. Это необходимо, чтобы конкурировать с Китаем и Россией.

В 2020 году учреждено новое объединение 14 стран и Евросоюза, получившее название Глобального партнерства по искусственному интеллекту (GPAI). Инициатива нацелена на выработку общих подходов к развитию и внедрению технологий ИИ. Участники обязуются поддерживать исследования и прикладную деятельность в сфере ИИ. Среди прочего обсуждается вопрос о перспективах использования ИИ в борьбе с пандемией коронавируса.

Первой национальную стратегию развития ИИ приняла в 2017 году Канада. В России также принята Национальная стратегия развития искусственного интеллекта и «Дорожная карта развития технологий искусственного интеллекта и нейросенсорики».

Этические принципы ИИ необходимы, поскольку внедрение систем ИИ в вооружение и военную технику вызывает множество вопросов. Например, насколько правомерно применять в войне автономные системы вооружения и какую угрозу они представляют для мирного населения в зоне боевых действий. Всего этических принципов использования систем искусственного интеллекта в военных целях пять: ответственность, беспристрастность, прослеживаемость, надежность, подчинение.

Затоскуют руки по штурвалу

Военная авиация все дальше уходит от ручного управления. Истребители пятого поколения (американские F-22 Raptor, F-35 Lightning и российский Су-57) устроены так, что человек участвует в их работе минимально. Они летают на малых высотах, огибая препятствия, рассчитывают тактику боя, предотвращают ошибки при сложном маневре, способны вернуться на аэродром вылета без подсказок диспетчеров. Су-57 уже выполнил полностью автоматический полет: пилот находился в кабине, но управления не касался. Так отрабатывали использование элементов шестого поколения авиатехники, полностью роботизированного. Привлекает военных и то, что робот всегда готов к бою, а его потеря влечет только финансовые издержки, но не гибель человека.

ИИ все еще пугает непредсказуемостью, поэтому человек остается у штурвала управления даже самой современной военной техникой. Су-57 уже сейчас может считаться истребителем шестого поколения. Он может управлять и другими объектами в воздухе, на земле и воде, решая совместные боевые задачи. Но из него, при всех его умениях, не убрали кресло пилота. «Контролер» может находиться и в тысячах километров от боевой машины. Дрон MQ-9 Reaper уничтожает цели в Афганистане и Пакистане, а его оператор сидит в Европе или Америке.

ВВС США планируют принять на вооружение беспилотные ведомые Loyal Wingman и новую систему управления ими. Случится это не ранее 2023 года. Loyal Wingman длиной 11 м и с размахом крыла 11,7 м сможет выполнять полеты на удалении до 3,7 тыс. км, неся дополнительное вооружение или системы обнаружения и наблюдения.

Министерство обороны США модифицирует учебные самолеты L-39 Albatros чешского производства, чтобы ими могла управлять система ИИ. Тема и цель модификации – развитие воздушного боя. Система ИИ сможет брать управление самолетом на себя и вести маневренный ближний воздушный бой. Система будет учиться воздушному бою аналогично курсантам, начиная с простых маневров и заканчивая фигурами высшего пилотажа.

А конечная цель – создание ИИ для боевых беспилотников. Сюда включены ведомые БЛА, которые будут прикрывать пилотируемые истребители. Новая система ИИ сможет вести воздушный бой быстрее и эффективнее человека, существенно снижая нагрузку на летчика и предоставляя ему время для принятия тактических решений в рамках более масштабной боевой задачи.

Выбор цели

Штаб Сил специальных операций (ССО) США работает над развитием средств по лучшему пониманию местного населения и влиянию на него. 90% размышлений военного командования, по статистике, уходит на передвижение и стрельбу, на то, чтобы понять, о чем думает противник, и как на это повлиять. В будущих информационно-боевых операциях ССО большую роль будет играть ИИ. Командование создает новый штаб, в котором ИИ будет применяться для перевода, сканирования захваченных ноутбуков и сотовых телефонов, борьбе с сообщениями противника.

В 2021 году командование ССО США начало реализовывать программу по предоставлению боевым командирам улучшенных средств ИИ. Это, в частности, создание программного обеспечения по визуализации, которое позволит отображать актуальную тактическую информацию: численность населения, тренды в социальных сетях, анализ чувств и другие социальные аспекты. Предполагается, что это даст командирам понимание обстановки в социальной и психологической сфере в местах, где им придется действовать. ССО взаимодействуют с Объединенным центром искусственного интеллекта и реализует 30 проектов, в которых применяется ИИ и автоматическое обучение.

В США пытаются модернизировать управление военной техникой с помощью ИИ. Сегодня управление танками такое же, как и сорок лет назад. Ими управляют вручную механики-водители, наводчики вручную обнаруживают, идентифицируют и поражают цели – вручную же выбранными боеприпасами.

За помощью военные обратились к Командованию по развитию боевых возможностей. И получили усовершенствованную систему наведения и управления огнем ATLAS. В ней новые датчики, алгоритмы машинного обучения и новый сенсорный дисплей для автоматизации процесса поиска и поражения целей. Экипажи смогут поражать несколько целей за время, в которое сейчас поражается одна цель.

Такой механизм – прототип будущего танка или боевой машины, в которую будет интегрирован ИИ. Когда цель обнаружена и находится в прицеле, оператор может согласиться с рекомендациями ИИ и нажать на спусковой крючок. Или перед нажатием отрегулировать настройки и даже отказаться от боя. От обнаружения цели до открытия огня проходят секунды. После уничтожения цели оператор на сенсорном экране выбирает следующую.

Подмена противника и слежка за своими

Американские военные разработчики из DARPA просят промышленность разработать алгоритмы ИИ, способные имитировать активное поведение противника во время военных игр. Эти алгоритмы должны будут выдавать реакцию, трудно воспроизводимую людьми. Проект называется «Создание сражения в машинном боевом обучении с тактикой противника». Алгоритмы ИИ будут генерировать модели поведения противника на бригадном уровне.

Идея в том, чтобы быстро разработать несколько возможных направлений действий противника, найти оптимальные решения и обосновать рекомендации. ИИ будет играть за противника, чтобы стимулировать разработку новой тактики боя. На смену традиционному тактическому поведению противника придут с помощью ИИ неожиданные новые действия. Методы ИИ раньше не применялись в этой сфере. Первоначальные алгоритмы и поведение искусственного интеллекта противника будут разработаны в соответствии с пособием «Русский способ войны: организация, тактика и модернизация Сухопутных войск России». Оно выпущено Управлением по военным исследованиям армии США (Army Foreign Military Studies Office).

Количество атак на информационные системы растет каждый год. При этом атаки становятся все изощреннее, все больше потенциальных целей, ущерб от атак все выше. Традиционные средства антивирусной борьбы не могут справиться с эпидемиями атак. Остра нехватка опытных специалистов по обеспечению безопасности. На помощь для обеспечения кибербезопасности позвали ИИ.

Другая функция ИИ – контроль поведения сотрудников. Например, обнаружение неадекватного поведения: запрос ненужных по работе данных и другое.

Искусственный интеллект позволит преодолевать противодействие средств РЭБ или обнаруживать новые угрожающие источники электромагнитного излучения.

Умножить на десять

Лондонский Международный институт стратегических исследований пришел к выводу: ИИ является продуктом возможностей компьютера по выполнению функцией человека, но на скоростях, недоступных ему. Эти технологии уже применялись в боевых операциях. Например, программное обеспечение по обработке данных разведки применялось в операциях по борьбе с терроризмом. Современные ракетные системы ПВО и ПРО большой дальности используют алгоритмы компьютерного обучения для борьбы с баллистическими и крылатыми ракетами.

По итогам военных игр американской армии признано: пехотный взвод, усиленный ИИ, может увеличить свои наступательные возможности в десять раз, сместив баланс в пользу атакующих действий. ИИ позволяет снизить количество личного состава и техники при проведении боевых операций.

В гипотетическом сценарии войны США с Китаем или Россией американские командиры, поддержанные средствами ИИ, могут, как они полагают, быстро вывести из игры китайские или российские РЛС, высокоточные платформы, гиперзвуковые ракеты. ИИ может быть использован ВС США для ведения маневренной войны во всех сферах – многодоменной, как говорят в Пентагоне. Маневренная война в XXI веке будет зависеть от быстрых и верных решений, а решения, в свою очередь, – от информационного превосходства и доминирования в киберпространстве. Но структура военных формирований США заточена на ведение войны на истощение, а не на войну маневром с использованием ИИ.

Игры разума в России

До 2023 года в России в рамках национального проекта «Наука» будут созданы девять научных центров мирового уровня. Особое внимание уделено передовым цифровым технологиям, робототехнике, кибербезопасности, искусственному интеллекту.

Для Минобороны России планируется разработать системы с ИИ на основе нейронных сетей. НИР называется «Исследования по созданию экспериментального образца комплекса разработки, обучения и реализации глубоких нейронных сетей для нового поколения военных систем с искусственным интеллектом» (шифр «Каштан»). Работы должны быть завершены до ноября 2022 года.

ИИ, который еще только предстоит создать – это машинная система, способная обучаться и использовать знания и опыт, решать задачи наподобие человеческого мозга, выстраивать стратегии и применять абстрактные концепции. Ждать не придется долго, поскольку технологии сегодня развиваются очень быстро. В доказательство приведем несколько примеров.

Концерн «Автоматика» госкорпорации Ростех разработал систему управления робототехническими комплексами «Гипноз». При помощи технологий ИИ и виртуальной реальности роботы будут выполнять экстремальные задачи в условиях радиации, высоких и низких температур, плохой видимости.

Разработка может применяться при добыче, обогащении и производстве ядерного топлива, для обслуживания реакторов атомных электростанций, для контроля радиационного фона на объектах хранения облученного ядерного топлива, для ликвидации аварий в рудниках без участия человека, для решения других специальных задач.

У системы есть пульт управления, комплекс датчиков и видеокамер, бортовые вычислительные машины, лидар, высокоскоростной беспроводной канал управления, ретранслятор для увеличения дальности связи. Оператор удаленно управляет комплексом при помощи VR-очков, на которые выводится информация с камер и датчиков робота. Технологии ИИ позволяют автоматически определять и подсвечивать объекты, с которыми работает робототехника.

Объединенная двигателестроительная корпорация Ростеха тестирует платформу промышленного интернета вещей на производственном комплексе «Салют». Система с элементами ИИ будет отслеживать изготовление двигателей и позволит моделировать их испытания в виртуальной среде.

Система определяет, как характеристики деталей влияют на качество двигателя, и строит математическую модель испытаний. В эту модель загружается информация о новых компонентах двигателя и условиях его сборки, создается элемент цифрового двойника будущего изделия. ИИ анализирует данные и прогнозирует, насколько успешными будут реальные испытания двигателя. По итогам тестирования будет сформирована методика тиражирования опыта на других предприятиях Ростеха.

Российским специалистам есть на кого ориентироваться, тем более что конкурент дышит в спину. Руководство КНР не раз заявляло, что Китай собирается к 2030 году стать мировым лидером в области технологий ИИ и крупнейшим центром инноваций. А США приняли так называемую «Третью компенсационную стратегию», которая будет внедрять инновации в военную сферу. К таким инновациям Пентагон относит искусственный интеллект

В ближайшие годы, по прогнозам, ведущие державы будут втянуты в гонку инновационных вооружений. Президент Путин еще в 2017 году говорил: «Искусственный интеллект – это будущее не только России, это будущее всего человечества. Здесь колоссальные возможности и трудно прогнозируемые сегодня угрозы. Тот, кто станет лидером в этой сфере, будет властелином мира». Экономисты уже подсчитали: на развитие ИИ в России до 2024 года потребуется 244 млрд руб.

https://nvo.ng.ru/concepts/2021-04-01/1_1135_ai.html

 Администрация Джозефа Байдена пока не находит баланса в засекречивании и открытии секретной информации. Фото Reuters

Законодательные меры, предусматривающие совершенствование процессов рассекречивания информации, относящейся к сфере национальной безопасности США, предложенные председателем комитета Сената по финансам Роном Уайденом, были включены в утвержденный 4 августа закон «О бюджетных ассигнованиях на цели разведывательных служб в 2022 финансовом году».

Однако они вошли только в закрытое приложение к этому законодательному акту. Поэтому их содержание и последующая реализация остаются недоступны американской общественности.

ЗАСЕКРЕЧЕННОЕ РАССЕКРЕЧИВАНИЕ

Руководитель проекта Федерации американских ученых по государственной тайне Стивен Афтергуд, автор рубрики «Новости секретности» (Secrecy News), опубликовал статью под заголовком «Новые реформы о рассекречивании секретны».

В статье приведены слова автора поправок к новому закону. «Я остаюсь глубоко обеспокоен неудачами устаревшей системы рассекречивания федерального правительства», – написал Уайден в заявлении, которое было включено в отчет спецкомитета Сената по разведке по новому закону. И отметил, что он удовлетворен включением в этот акт его предложений, направленных на ускорение процесса реформирования системы открытия данных, ранее существовавших под разными грифами секретности.

Один из сотрудников спецкомитета по этому поводу заявил, что засекречивание предложений по рассекречиванию является абсурдом. Он также заметил: «Отбросив в сторону иронию насчет того, что поправки к рассекречиванию могут быть найдены только в секретном приложении, я подтверждаю, что мы следим за их внедрением».

Как пишет Афтергуд, часто выступающий с критикой политики федеральных ведомств в области режима секретности, «требуются некоторые усилия в осмыслении реформ по рассекречиванию, которые сами по себе являются полностью закрытыми». Он считает такой подход парадоксальным.

Но при этом эксперт отмечает, что в ряде государственных структур действуют закрытые руководства по рассекречиванию данных, поскольку в них детализируются точные границы секретной информации. По мнению Афтергуда, во всех директивных документах по раскрытию засекреченных сведений прежде всего должны быть четко определены тематические области данных, с которых снимаются грифы секретности.

ЮРИДИЧЕСКАЯ ЗАЩИТА ДАННЫХ МИНОБОРОНЫ

В настоящее время в законодательстве США действует около 500 нормативно-правовых актов, регламентирующих вопросы информационной безопасности – начиная с закона «О свободе информации» и кончая директивой президента «Национальная политика США в области безопасности систем связи автоматизированных информационных систем».

Однако до сих пор в юридическом поле Америки отсутствует какой-либо нормативно-правовой акт, аналогичный Федеральному закону РФ «О государственной тайне» от 21.07.1993 № 5485–1, запрещающему разглашение государственной тайны (ГТ). Конгресс США не раз отказывал в принятии соответствующего закона, и сегодня, как следствие, раскрытие ГТ США вообще не является преступлением. По данным некоторых СМИ и по информации экспертов, федеральные власти нередко по каким-то причинам сами организовывали утечки ГТ в прессе и в открытых документах.

По законодательству США, преследование лиц, нарушающих нормы охраны сведений государственного значения, ведется только за разглашение определенных видов секретной информации. И то лишь при определенных обстоятельствах, что довольно часто приводит к необходимости проверки судами корректности отнесения содержимого каждого документа к тому или иному типу секретной информации.

В США действуют три уровня секретности:

1. «Совершенно секретно» (Topsecret). При разглашении возникает угроза национальной безопасности и возможен «исключительно серьезный» ущерб обороноспособности страны.

2. «Секретно» (Secret). При разглашении возможен «серьезный» ущерб национальной безопасности.

3. «Конфиденциально» (Confidential). При разглашении возможен определенный ущерб национальной безопасности.

За океаном существуют и другие категории ограничения доступа информации, разглашение которой может оказать негативное влияние на национальную безопасность Америки. С марта прошлого года они определяются как «Контролируемая несекретная информация».

Однако, по мнению экспертов МО, защита военной информации не обеспечивается должным образом и не является достаточно надежной. Особенно это относится к данным открытого характера, разглашение которых может нанести ущерб национальной безопасности США. А отсутствие перечня конкретной информации, относимой к ГТ, создает трудности и для определения фактов нарушения законодательства лицами, разгласившими такие сведения.

ИНСТРУКЦИЯ ДЛЯ АМЕРИКАНСКИХ ВОЕННЫХ

6 марта 2020 года замминистра обороны по разведке и безопасности Джозеф Кернан утвердил инструкцию за номером 5200.48 «Контролируемая несекретная информация». В ней определяется политика, распределяются обязанности официальных лиц, установлен порядок обращения с КНИ во всех подразделениях и службах МО в соответствии с исполнительным указом президента 13566 «Классифицированная информация национальной безопасности», частью 2002 раздела 32 Кодекса федеральных правил и Дополнения к Федеральным правилам о закупках МО, разделы 252.204–7008 и 252.204–7012.

Инструкция включает пять разделов. Этим документом, объем которого превышает 40 страниц, обязаны руководствоваться аппараты министра обороны, министерств видов ВС, председателя Объединенного комитета начальников штабов и Объединенного штаба, административные структуры специальных и объединенных командований, канцелярия генерального инспектора МО, самостоятельные управления МО и все другие административные подразделения военного ведомства.

Договоренности, соглашения, контракты и другие документы, фиксирующие достижение согласия инстанций, осуществляющих взаимодействия, требующие доступа к КНИ, включают, но не ограничиваются грантами, лицензиями, сертификатами, меморандумами о согласии и т. п., а также соглашениями об обмене информацией.

В рамках поэтапного процесса реализации программы «КНИ МО», в соответствии с меморандумом Управления по надзору за информационной безопасностью от 21 августа 2019 года, назначение, обработка и снятие обозначения КНИ, включая идентификацию, совместное использование, маркировку, охрану, хранение, распространение, уничтожение и управление записями, должны будут проводиться в соответствии с настоящей инструкцией и указаниями, содержащимися в разделах 252.204–7008 и 252.204–7012 DFARS.

Все несекретные данные МО должны находиться под контролем до тех пор, пока не будут дано разрешение на свободный доступ к ним, в соответствии с инструкциями МО (DoDIs) 5230.09, 5230.29 и 5400.04 или руководством МО (DoDM) 5400.07. Официальная информация МО, которая не классифицируется как КНИ, также должна рассматриваться и оцениваться до ее появления в свободном доступе в соответствии с DoDI 5230.09 или 5230.29.

Важной особенностью инструкции является вменение в обязанность всем военным структурам руководствоваться Национальным реестром КНИ, который издается Федеральным архивом США и соответствующим образом доработан МО. Реестр КНИ МО содержит такие категории, как «Контролируемая техническая информация», «Информация о безопасности критической инфраструктуры МО», «Информация о ядерных двигателях ВМС», «Экспортный контроль» и т. д. В большей части этих категорий объясняется, как обозначенная таким образом информация связана с обеспечением обороноспособности США.

УЧЕНЫЕ НЕ СОГЛАСНЫ

19 июля ФСБ РФ разместила на портале НПА, предназначенном для общественного обсуждения нормативно-правовых актов, проект приказа директора службы Александра Бортникова «Перечень сведений в области военной, военно-технической деятельности РФ, которые при их получении иностранным государством, его государственными органами, международной или иностранной организацией, иностранными гражданами или лицами без гражданства могут быть использованы против безопасности РФ».

Проект состоит из двух частей:

I. Сведения в области военной деятельности РФ, не содержащие сведений, составляющих государственную тайну;

II. Сведения в области военно-технической деятельности РФ, не содержащие сведений, составляющих государственную тайну.

Первая часть содержит 22 пункта. Еще 39 включены во вторую. В тексте документа указано, что запрещается распространение сведений об оценке и прогнозах развития военно-политической, стратегической (оперативной) обстановки, о прохождении гражданами РФ военной службы, персональных данных военнослужащих и членов их семей, в том числе адреса проживания, посещаемые образовательные и медицинские организации, используемые транспортные средства и личные средства связи.

Под запретом оказались даже сведения о проблемах, в том числе финансово-экономических, сдерживающих развитие госкорпорации «Роскосмос» в одной или нескольких областях деятельности. А также сведения об экспорте и импорте космической техники, о техническом состоянии и готовности к выполнению задач космических аппаратов и многое другое.

Ученые моментально подвергли критике предлагаемый проект. Одним из первых высказался доктор физико-математических наук, ведущий научный сотрудник Государственного астрономического института им. П. К. Штернберга, профессор РАН Сергей Попов. Ученый считает, что опубликованный ФСБ перечень включает большое количество пунктов, относящихся к темам, связанным в том числе и с научным исследованием космоса, не являющимся государственной тайной.

«В практике ведущих космических агентств мира такая ситуация считается ненормальной. Принятие такого списка приведет к затруднениям в сотрудничестве с «Роскосмосом» и другими российскими организациями, занимающимися мирным исследованием и освоением космоса, и нанесет ущерб имиджу этих организаций как в России, так и в мире. Кроме того, принятие списка поставит под удар ученых, научных журналистов, популяризаторов науки, рассказывающих об успехах и планах российской космонавтики», – заявил астрофизик.

Популяризатор биологии, член Королевского биологического общества Георгий Куракин отметил, что «проект приказа выглядит абсолютно бесполезным в плане обеспечения безопасности РФ». Но при этом «проект приказа опасен в плане усиления давления на независимых журналистов, ученых, специалистов, чье мнение могло бы помочь в модернизации космической отрасли РФ и тем самым способствовать укреплению ее безопасности». Ученый считает, что «такая тактика выглядит как попытка спрятаться от страшных ночных существ под одеялом», и  что «так проблемы безопасности не решаются, особенно в космонавтике».

Существует и ряд других критических высказываний в адрес ФСБ по поводу предлагаемой юридической нормы. Но все критики сходятся в одном: приказ, с виду выглядящий как документ из области безопасности, может ограничить целые области научных. Формально рассуждающему о «Роскосмосе» или пишущему о Российской армии ничто не грозит, если он не передает данные за рубеж и не имеет иностранного спонсора. Но беспокойство вызывает возможность широкой трактовки положений законодательства об «иностранных агентах».

Ученые и просветители направили свои отзывы разработчику проекта приказа через портал НПА и надеются на его доработку. Какова будет ответная реакция – пока непонятно. Но разум все-таки должен восторжествовать.

https://nvo.ng.ru/concepts/2021-09-23/7_1159_secrecy.html