Этико-правовые рамки для искусственного интеллекта

Формирование правовой базы для сферы искусственного интеллекта (ИИ) Павел Крашенинников назвал одним из приоритетов в работе возглавляемого им Комитета Думы по государственному строительству и законодательству. И это можно только приветствовать. Поскольку стремительное внедрение генеративных технологий привносит в нашу жизнь многочисленные риски, общество остро нуждается в превентивной и выверенной юридической защите своих интересов.

Кстати, если уж говорить о превенции, то это меры, которые предпринимаются заранее, чтобы не допустить возникновения угроз, правонарушений или кризисных ситуаций, способных нанести ущерб жизни, здоровью, правам и законным интересам людей, а также материальным и духовным ценностям социума. Проще говоря, это не реакция на уже свершившееся зло, а работа на опережение: выявление рисков и принятие мер до того, как ущерб будет причинён. Кажется, в этом компоненте мы уже значительно отстаем от темпов внедрения ИИ в нашу жизнь. Но лучше с опозданием, чем совсем не никак.

На этом фоне обращает на себя внимание предложение директора института законодательства и сравнительного правоведения при правительстве России Талии Хабриевой о введении концептуальных правил использования ИИ в управлении: (1) решения, требующие усмотрения, остаются за должностным лицом; (2) вводится презумпция ответственности за автоматизированное решение того органа, в чью компетенцию входит такое решение; (3) гражданин вправе требовать рассмотрения своего дела человеком. Идея изложена в ходе IV Международной научно-практической конференции «Управление через право», состоявшейся 30 сентября 2026 года на базе Института законодательства и сравнительного правоведения при Правительстве Российской Федерации.

Оценивая предложение, стоит отметить, что идея внедрения четких правил применения искусственного интеллекта (ИИ) в государственном управлении не просто удачна, а критически необходима. Госуправление напрямую связано с реализацией властных полномочий, ограничением прав граждан и распределением бюджетных ресурсов. Ошибки здесь имеют несопоставимо более высокую цену, чем в коммерческом секторе.

Обычно юристы, говоря о «трех правилах», опираются на классическую триаду: прозрачность (объяснимость) в смысле подконтрольности алгоритмов человеку; окончательное слово за человеком как жесткий запрет на наделение ИИ возможностью принимать юридически значимые решения.; безопасность и конфиденциальность как основа защиты персональных данных граждан.

Безусловно, такой подход способствует созданию базового этического и правового каркаса для столь чувствительной области общественных отношений. Правила защищают граждан от «цифрового произвола». Мы не должны попасть в абсурдную, по сути, ситуацию, когда система поставит черную метку или откажет в пособии, а чиновник только руками разведет: «Так решила программа». А ведь прецедент уже создан. С 1 января 2026 года действует обновлённый перечень из 12 критериев для выявления и предотвращения мошеннических операций, утверждённый приказом Банка России от 05.11.2025 № ОД-2506. Так что ИИ уже принимает важные решения, руководствуясь формальными критериями и часто безапелляционно лишая добропорядочных граждан возможности пользоваться их собственными денежными средствами. Все это подается под благовидным предлогом борьбы с мошенничеством, хотя на деле речь о беспрецедентном наступлении на святая святых – право собственности. А инструментом выступает ИИ. Как говорится: к машине претензии есть? Ответ – нет, так как вопросы юридической ответственности за вред, причиненный с использованием технологий искусственного интеллекта в законодательстве не урегулированы.

Если говорить о минусах подхода, предложенного не конференции, то следует отметить, что эти три правила слишком декларативны. С учетом повсеместного внедрения больших языковых моделей (LLM) и генеративного ИИ в госсектор, эти принципы размываются. Например, современный нейросетевой ИИ часто работает как «черный ящик» — его логику математически невозможно «объяснить» до конца, а чиновники склонны слепо доверять подсказкам системы (эффект автоматизации), из-за чего правило «человек принимает решение» попросту превратится в формальность.

Нужна конкретизация этих правил, позволяющая реально поставить использования ИИ в госуправлении под жесткий контроль.

Например, целесообразно ввести абсолютный запрет на автоматическое принятие решений в таких сферах, как: правосудие и следствие; опека и попечительство; применение силы органами власти.

Нужны функциональные ограничения в законотворчестве, где ИИ следует оставить функцию анализа, но не позволять программе писать тексты законов самостоятельно. Формулирование государственной политики - исключительно человеческая прерогатива.

«Иными словами: ИИ в государстве должен выполнять роль «умного экскаватора», который «разгребает» рутину, автоматизируя процесс обработки терабайтов данных и готовит аналитику для специалистов. А вот «архитектором» и «контролером», должен оставаться человек, способный нести юридическую и моральную ответственность перед другими людьми гражданами», - уверен доцент Ставропольского филиала Президентской академии Геннадий Шевченко.