— Игорь Иванович, как Вы оцениваете текущую ситуацию в мире с регулированием искусственного интеллекта в контексте прав человека?

— Я бы разделил позиции стран на две большие группы. Одна группа стран считает, что никакого законодательного урегулирования ИИ не нужно: как процесс цифровизации и внедрения ИИ развивается, так пусть и развивается. Другие считают, что необходимо законодательное урегулирование и ограничение возможностей стран при наделении ИИ теми или иными функциями.

Категорически отрицающие возможность регулирования законодательным путем — это в первую очередь КНР и США, которые сравнительно недавно тоже стали разделять эту позицию. Мотивируют они ее тем, что любое законодательное ограничение означает ограничение науки, прогресса, возможности продвижения своей страны на пути совершенствования технологий.

В США вообще произошла интересная трансформация: несколько лет назад Илон Маск выступил с заявлением, даже с предупреждением об осторожном отношении к внедрению технологий ИИ, сказав, что они несут серьезную угрозу всему человечеству. А сегодня тот же Илон Маск и новая администрация во главе с президентом Д. Трампом ратуют за то, чтобы снять любые ограничения по развитию технологий, потому что это, по их мнению, ограничивает конкурентные возможности их страны.

Другая большая группа стран — это в первую очередь континентальная Европа и Великобритания, которые считают необходимым тщательное законодательное регулирование и технологий по производству ИИ, и использования ИИ.

— Какова Ваша позиция в этом вопросе?

— ИИ — объективная реальность. Разумеется, возникают вопросы не только об ответственности за возможное причинение вреда с его помощью, но и об осмыслении самого феномена с правовых позиций. Особенно важно обеспечение прав человека при использовании искусственного интеллекта. Юридическое оформление этого процесса сегодня находится практически на нуле, поэтому законодательные ограничения по использованию ИИ, я считаю, однозначно необходимы.

— Какие на сегодня действуют международные акты, документы в части формировании стандартов и норм для этичного использования ИИ в контексте прав человека?

— В сентябре прошлого года ООН принят Глобальный цифровой договор, который регулирует вопросы цифровизации и в том числе производства и использования ИИ.

13 марта 2024 года Европарламент принял Закон об ИИ, а в мае того же года в Совете Европы была принята Рамочная конвенция об искусственном интеллекте и правах человека, демократии и верховенстве права.

Естественно, на Казахстан законодательство Европарламента не распространяется, а что касается рамочной конвенции, то она открыта для подписания не только для членов Совета Европы, но и для иных государств. Насколько мне известно, пока вопрос о присоединении Казахстана к этой конвенции не поднимался.

— У нас в Мажилисе ведь тоже рассматривается собственный законопроект об ИИ, в скором времени будет принят в работу Цифровой кодекс РК.

— Глава государства еще в позапрошлом году дал поручение разработать Цифровой кодекс. В этом году по инициативе депутатов разработан и внесен в Парламент законопроект об ИИ.

Правда, казахстанские юристы и некоторые зарубежные эксперты слегка недоумевают, зачем нужно два таких законодательных акта, потому что кодексы принимаются на основе кодифицирования, обработки, объединения различных нормативных актов, в том числе законов. И с точки зрения юристов, положение об ИИ должно входить составной частью в Цифровой кодекс. Пока решили, видимо, в первую очередь принять закон, а ЦК — значительно позже.

На телеграм-канале Комиссии по правам человека была открыта дискуссия по некоторым положения ЦК и в целом ИИ. Некоторые участники дискуссии высказывали сомнения в целесообразности принятия этого закона. Некоторые даже говорили о неконституционности самой попытки законодательного регулирования этих процессов, поскольку все эти моменты, по их мнению, уже должны быть урегулированы подзаконными актами.

— Какие вопросы в отношении ИИ, на Ваш взгляд, должны быть урегулированы законодательно в первую очередь?

— Как нам представляется, и эта позиция разделяется, в принципе, всеми участниками дискуссии-юристами, должны быть урегулированы три группы вопросов.

Первое — кто несет ответственность за вред, причиненный использованием технологий или самого ИИ. То есть оператор, который использовал ИИ, фирма, которая его произвела, программисты. В некоторых случаях за рубежом даже уже ставился вопрос о наделении ИИ правосубъектностью: то есть сам ИИ и должен нести ответственность. Ну, это, я думаю, вопросы научной фантастики. Пока вопрос о правосубъектности ИИ на достаточно серьезном уровне не ставился.

Второе — это вопросы авторского права: кому принадлежит продукция, произведенная ИИ. Речь о научных исследованиях, картинах, музыке и прочем. Пока вопрос не решен, и в том числе, насколько мне известно, в разработанном нашими депутатами законопроекте эти проблемы не решаются.

Третья проблема, которая сегодня выходит уже на первый план, — это как предотвратить использование ИИ в мошеннических целях. Общеизвестно, что сегодня ИИ используется достаточно широко различными преступными элементами, которые подделывают и голоса, и внешний облик того или иного субъекта, таким образом вымогая деньги, совершая другие преступления. В этом направлении, я думаю, в первую очередь необходимо поработать при подготовке этого законопроекта.

На мой взгляд, все же те вопросы, которые будет регулировать закон, в случае его принятия, относятся большей частью к технологическим проблемам. Насколько это серьезно, важно, сейчас, наверное, трудно утверждать. Но, думаю, если этот закон будет принят, скорее всего, он будет рамочным и до конца не решит вопросы обеспечения прав человека, защиты его безопасности. Хотя определенные сдерживающие элементы наверняка будет содержать.

Мне кажется, наши депутаты проявили большую смелость, что не стали дожидаться, когда в каких-то странах где-то будут приняты соответствующие законы, а взялись за разработку своего закона. И за это их надо похвалить. Они также не стали замыкаться и прятать законопроект: он выложен на сайте Парламента.

— Навскидку, какой опыт стоило бы перенять нашим депутатам в ходе разработки законопроекта об ИИ?

— Необходимо, как мне представляется, чтобы юристы и специалисты других научных отраслей оказали им всемерную помощь.

Мне также кажется, что недостаточно здесь использован потенциал зарубежных специалистов. У нас, например, в Комиссии есть неплохие контакты с французскими, немецкими, российскими специалистами в этой сфере. В их числе директор Института права, экономики и государственного управления Университета Лотарингии (Франция) профессор Пьер Тиффин, директор Института законодательства и сравнительного правоведения при Правительстве РФ Талия Хабриева, профессор МГИМО Элина Сидоренко.

Особенно, я полагаю, мы могли бы эффективно использовать потенциал экспертов Венецианской комисссии Совета Европы. В декабре 2023 года она уделила свое внимание вопросу внед­рения цифровых технологий и искусственного интеллекта в ходе избирательных процессов. В целом неплохо было бы направить этот законопроект венецианцам. У Казахстана всегда были очень хорошие, плодотворные отношения с ними, они часто нам помогали и давали очень серьезные развернутые заключения по тем или иным законопроектам, которые мы отправляли для дачи заключения. Я думаю, было бы неплохо получить методологическую, теоретическую помощь и от этой всемирно известной экспертной организации.

В России, кстати, тоже интересный опыт: законодатель не пошел по пути принятия Цифрового кодекса или закона об ИИ, хотя не исключено, что такая работа ведется. Но вот сравнительно недавно был принят закон, суть которого сводится к тому, чтобы создать механизмы по противодействию преступного использования ИИ и цифровых технологий.

Я думаю, что нашим криминологам и специалистам, которые занимаются изучением причин и условий, способствующих совершению преступлений и предлагающих различные меры предупреждения и пресечения преступных и околопреступных проявлений, нужно самым серьезным образом войти в эти проблемы и помочь разработчикам и правоохранительным структурам создать в первую очередь правовые механизмы, препятствующие совершению правонарушений с использованием цифровых технологий и ИИ. Здесь, я думаю, есть над чем поработать.

— Как Вы относитесь к использованию ИИ в правоохранительных органах и судебной системе? Как это может повлиять на справедливость и равенство перед законом?

— В Казахстане уже сейчас начинают использовать искусственный интеллект в правосудии. Сравнительно недавно Верховный суд презентовал соответствующий механизм, который готовит проекты решений по гражданским делам. Стороны заранее, до судебного процесса могут ознакомиться с тем вариантом, который предлагает ИИ.

Естественно, реальное решение выносит судья. Искусственный интеллект таким правом, конечно, не наделен. Но, тем не менее, судья в той или иной степени связан вариантом, предложенным ИИ, ведь в программу закладывается информация всех законодательных массивов, материалов судебной практики.

Судья, разумеется, вправе, руководствуясь своим правосознанием, чувством справедливости, принять решение, отличающееся от варианта искусственного интеллекта. Но хочет он того или нет, поскольку стороны уже знакомы с проектом ИИ, ему придется мотивировать свои действия. Таким образом, резко сужается возможность коррупционных мотивов и вероятность профессиональных ошибок при вынесении судебных решений.

В обозримом будущем придется пересматривать соответствующие институты и в уголовном, и в гражданском праве, и в ряде других отраслей права.

— Какие еще изменения Вам хотелось бы увидеть в области развития ИИ в контексте защиты прав человека в ближайшее время?

— Наука-то способна на многое. О том, что нужно делать, любой юрист-теоретик расскажет, а вот как это сделать, как сформулировать на практике ту или иную норму закона и иного нормативно-правового акта, — здесь сложность очень большая.

Дело в том, что нужно так построить тот или иной нормативно-правовой акт, чтобы он эффективно решал ту задачу, ради которой принимается, то есть обеспечивал безопасность общества и государства и конкретно каждого человека, вовлеченного в процесс использования ИИ. С другой стороны, он не должен быть препятствием для развития этих технологий и самого ИИ, его построения. Вот совместить эти, казалось бы, трудносовместимые задачи, в этом, наверное, и искусство юристов и специалистов в области IТ-технологий.

Ну, заламывать руки и повторять «Ах, как сложно», наверное, не самый продуктивный путь. Важно, как мне кажется, осознавая сложность этих задач, все-таки двигаться вперед и решать их поэтапно, всегда ставя на первый план именно интересы прав человека, защиты его жизни, чести, достоинства, безопасности общества и государства. Будем надеяться, что это у нас получится.

Нельзя забывать и о том, что мы стоим на пороге создания единого цифрового пространства на территории ЕАЭС. Необходимость синхронизации законодательства наших стран в сфере цифровизации очевидна. При этом важно не только обеспечить эффективность такого законодательства, но и соблюсти суверенитет всех государств, входящих в экономический союз.

В Казахстане осуществляется переход на качественно новую концепцию цифровизации госуправления, где в цент­ре госполитики находится человек, его нужды и интересы. Такой «человекоцентричный» подход будет гарантировать, что цифровизация в наших странах станет благом для граждан, и не приведет к ограничениям их прав и свобод.