Обзор нормативно-правовой базы РФ регулирования ИИ и международного опыта

Документ

Дата

Основное содержание и роль

Национальная стратегия развития ИИ до 2030 года (Указ Президента РФ № 490)

2019 (актуализация в 2024)

Базовый документ, определяющий принципы, цели и приоритеты. В новой редакции сделан акцент на технологическом суверенитете и стандартизации.

Концепция развития регулирования отношений в сфере технологий ИИ и робототехники до 2024 года (Распоряжение Правительства РФ № 2129-р)

2020

Концепция заложила подходы к регулированию, включая ключевой инструмент – экспериментальные правовые режимы (ЭПР), позволяющие тестировать инновации в "регуляторных песочницах".

Национальный проект "Экономика данных и цифровая трансформация государства" (включает ФП "Искусственный интеллект")

2025

Обеспечивает меры господдержки и финансирования конкретных проектов по разработке и внедрению ИИ.

Приказ ФСТЭК № 117 (Требования о защите информации, содержащейся в государственных информационных системах, иных информационных системах государственных органов, государственных унитарных предприятий, государственных учреждений)

2025

Документ содержит первые в России формализованные требования к безопасности ИИ при использовании этой технологии в системах государственных организаций. Среди требований предусмотрена защита не только инфраструктуры, но и данных, моделей, параметров, процессов.

Перечень поручений Президента РФ по итогам конференции "Путешествие в мир искусственного интеллекта" (№ Пр-22)

2026

Задает новую фазу регулирования: форсированное внедрение, технологический суверенитет, разработка Национального плана внедрения, развитие инфраструктуры ЦОДов, экспорт технологий.

Горизонт планирования

Период

Ключевые задачи и документы (согласно Пр-22)

Ожидаемые результаты

Краткосрочный (оперативный)

2026 г.

Утвердить Национальный план внедрения ИИ. Создать межведомственную комиссию при Президенте. Внедрить показатели ИИ в рейтинг цифровой трансформации регионов. Подготовить предложения по экспорту ИИ-решений и гармонизации стандартов с дружественными странами.

Переход от экспериментов к массовому внедрению в госуправлении и экономике. Появление единого координирующего органа и системы оценки эффективности для регионов и ведомств.

Среднесрочный (тактический)

2026–2030 гг.

Реализация Национального плана внедрения. Развитие инфраструктуры: утверждение плана развития центров обработки данных (ЦОДов) на период до 2030 г. Строительство новых ЦОДов, в т.ч. на базе атомной генерации ("Росатом"). Приоритетное использование российских фундаментальных моделей ИИ в госсекторе и на объектах КИИ.

Создание самодостаточной инфраструктуры для ИИ. Масштабная цифровизация госуслуг и отраслей на базе отечественного ПО. Формирование доказательной базы эффективности ИИ.

Долгосрочный (стратегический)

до 2036 г.

Выполнение долгосрочных планов развития инфраструктуры ЦОДов (до 2036 г.) и энергогенерации для них. Формирование устойчивого экспортного потенциала российских ИИ-решений и стандартов на рынках дружественных стран. Обучение мультимодальных моделей на данных о российской культуре, истории и ценностях.

Обеспечение технологического суверенитета. Формирование альтернативного нормативно-технологического полюса на базе ЕАЭС, БРИКС, ШОС.

Критерий

Россия (новая фаза 2026+)

Европейский Союз

США

Китай

Основной подход

Директивное стратегическое планирование и форсированное внедрение. Государство – главный заказчик, координатор и потребитель. Создана Комиссия при Президенте как высший координационный орган [Указ №116].

Риск-ориентированный закон. Жесткие требования к системам высокого риска, запрет неприемлемых практик.

Либеральный, отраслевой. Упор на инновации, фрагментарное регулирование на уровне штатов и ведомств.

Жесткий государственный контроль. Фокус на соцстабильности, кибербезопасности и госнадзоре за алгоритмами.

Наличие единого закона

Нет (используются стратегии, планы, отраслевое регулирование, "мягкое право").

Да (EU AI Act) — первый всеобъемлющий закон в мире.

Нет на федеральном уровне.

Нет единого; действуют жесткие отраслевые законы.

Цель регулирования

Технологический суверенитет, цифровизация госуправления, экспорт решений и стандартов.

Защита фундаментальных прав граждан, создание безопасного и единого рынка ИИ.

Сохранение технологического лидерства через стимулирование инноваций.

Социальная стабильность, глобальное лидерство, контроль над информацией.

Наличие центрального координирующего органа

Комиссия при Президенте РФ. Координирует все аспекты: от стратегии и образования до безопасности и международного сотрудничества [Указ №116]. Также создаются региональные комиссии.

Европейский офис по ИИ (AI Office). Создан в 2024 г. как часть Еврокомиссии. Специализируется на имплементации EU AI Act, контроле за моделями общего назначения (GPAI) и координации с национальными надзорными органами.

Несколько специализированных органов: - Белый дом (определяет политику). - NIST AI Safety Institute (AISI) (разрабатывает стандарты). - Двухпартийная рабочая группа Конгресса (рекомендации для законодателей)

ЦЕНТРАЛИЗОВАННЫЙ ПОДХОД. Несколько органов с четким разделением функций, но под общим контролем партии/государства: • Государственное управление по киберпространству (CAC) (ключевой регулятор контента и алгоритмов) . • Министерство промышленности и информатизации (MIIT) (промышленная политика).

Ключевые инструменты

Национальные планы, межведомственная комиссия, госинвестиции, ЭПР, отраслевые кодексы этики, анализ угроз по базе ФСТЭК.

Регламент (закон) с классификацией систем по уровням риска.

Отраслевые руководства (FDA, FTC), судебный прецедент, инициативы Белого дома.

Госпланы, законы о рекомендательных алгоритмах, цензуре контента.

Безопасность и этика

Акцент на безопасности КИИ, защите данных, контроле за обучением моделей (культура, история). Применение структурированного подхода к оценке угроз на всех этапах жизненного цикла ИИ.

Прозрачность, недискриминация, объяснимость алгоритмов, human oversight.

Защита прав потребителей, кибербезопасность, невмешательство в инновации.

Госбезопасность, социальная стабильность, идеологический контроль.

Наличие и характер реестра (банка) угроз ИИ

Банк данных угроз безопасности информации систем искусственного интеллекта ФСТЭК России содержит детализированное описание угроз, разделенных по этапам жизненного цикла ИИ-системы (разработка и эксплуатация). Угрозы классифицированы по инфраструктуре и способам их реализации, также определены объекты воздействия для каждого этапа. БДУ ФСТЭК носит обязательный характер для разработчиков и операторов при оценке угроз в соответствии с методикой ФСТЭК для систем государственных организаций и объектов критической информационной инфраструктуры.

Нет единого общедоступного реестра, аналогичного российскому. Требования к управлению рисками и каталогизации угроз для систем высокого риска устанавливаются Европейским советом по искусственному интеллекту. Отдельные базы угроз и уязвимостей ведут национальные агентства по кибербезопасности (например, ENISA публикует отчеты, но не оперативный реестр).

Национальный институт стандартов и технологий (NIST) разрабатывает фундаментальные руководства, такие как NIST AI 100-2 (Adversarial Machine Learning), где подробно классифицируются типы атак и угрозы для ИИ. Эти документы являются лучшими практиками и добровольными для применения.

Информация о конкретных базах угроз ИИ в открытых источниках отсутствует. Учитывая централизацию управления и фокус на безопасности, можно предположить, что подобные реестры ведутся соответствующими регуляторами во внутреннем контуре для целей надзора и стандартизации.

Ответственность

На человеке (разработчике/пользователе). Разработчик и оператор несут ответственность за оценку угроз согласно методике ФСТЭК России.

Смешанная, с возможным облегчением доказывания для потерпевших от систем высокого риска. Штрафы до 35 млн евро или 7% глобального оборота за разработки в категории абсолютно запрещенных, представляющих неприемлемую угрозу основным правам, демократии или безопасности.

Определяется судами на основе общих принципов деликтного права.

Отраслевая, с приоритетом госинтересов.

Роль государства

Главный инвестор, регулятор и первый потребитель. ФСТЭК России выступает как методологический центр по безопасности и источник списка угроз. Минцифры России выступает как центр содействия и стимулирования развития и внедрения технологии.

Регулятор и надзиратель за соблюдением правил рынка.

Наблюдатель и координатор, создающий условия.

Абсолютный центр планирования, контроля и надзора.

Страна / Регион

Ключевые индустриальные фреймворки и модели зрелости

Россия

Активное формирование экосистемы отраслевых и вендорских фреймворков: 1. SAIMM (Swordfish Security AI Maturity Model) • Разработчик: Swordfish Security • Дата выхода: Октябрь-ноябрь 2025 г. • Суть: Бесплатная методология оценки зрелости компаний в области безопасности ИИ, включающая таксономию угроз (около 80 уязвимостей) и дорожную карту развития. • Ключевые особенности: - Учитывает требования российских регуляторов и специфику отечественных ИИ-систем . - Базируется на международных классификациях (OWASP Top-10, NIST AI RMF, ENISA, MITRE ATLAS), адаптируя их под российскую специфику. - Включает угрозы: компрометация моделей, обход ограничений, раскрытие чувствительной информации, конфликт иерархии инструкций. - Учитывает положения национального проекта "Искусственный интеллект в КИИ". - Применим для любой отрасли (финтех, ритейл, госсектор). 2. AI-SAFE v1.0 (Yandex Cloud) • Разработчик: Yandex Cloud (команда Yandex B2B Tech) • Дата выхода: Ноябрь 2025 г. • Суть: Фреймворк для моделирования угроз и защиты ИИ-агентов, объединяющий OWASP LLM Top 10, MCP Top 10 и угрозы для RAG-систем в единую пятиуровневую модель безопасности. • Ключевые особенности: - Предлагает пятиуровневую архитектурную модель угроз: 1) Интерфейс взаимодействия (Prompt Injection); 2) Исполнение и инструменты (Tool Poisoning); 3) Инфраструктура и оркестрация; 4) Ядро и логика (Jailbreaking); 5) Данные и знания (атаки на RAG) . - Опирается на международные практики OWASP, NIST и MITRE ATT&CK . - Содержит практические рекомендации для разработчиков и инженеров по безопасности на каждом уровне. - Включает анализ реальных инцидентов (дипфейк-мошенничество в банках, утечки в облачных сервисах). 3. Guidelines AI (Лаборатория Касперского) • Разработчик: «Лаборатория Касперского» (при участии научных экспертов) • Дата выхода: Декабрь 2024 г. • Суть: Руководство по безопасной разработке и внедрению систем на основе ИИ, содержащее детальные практические советы для разработчиков, DevOps-команд и системных администраторов. • Ключевые особенности: - Охватывает полный жизненный цикл ИИ-систем: от разработки до эксплуатации . - Предлагает 8 ключевых принципов безопасности: • Информирование и обучение сотрудников; • Моделирование угроз с использованием STRIDE, OWASP; • Безопасность облачной инфраструктуры (нулевое доверие); • Защита цепочки поставок и данных; • Регулярное тестирование и мониторинг; • Защита от специфичных угроз (промпт-инъекции, отравление данных); • Регулярное обновление библиотек и фреймворков; • Соответствие международным стандартам . - Особое внимание уделяет защите от атак на этапе обучения (инъекция нерелевантных данных для повышения устойчивости) и использованию Bug Bounty . Общая характеристика российских индустриальных фреймворков: • Практико-ориентированность: Все три фреймворка созданы для реального применения в бизнесе, содержат чек-листы и конкретные технические рекомендации. • Гармонизация с международными стандартами: При разработке учитывались OWASP, NIST, MITRE, ENISA, но с обязательной адаптацией под российскую специфику и требования регуляторов (ФСТЭК, Минцифры). • Бесплатный доступ: SAIMM и Guidelines AI распространяются бесплатно, что способствует быстрому распространению экспертизы на рынке. • Отраслевая коллаборация: Разработчики активно взаимодействуют с регуляторами и индустриальными объединениями (Ассоциация ФинТех, Консорциум по безопасности ИИ) .

Европейский Союз

Преимущественно регуляторный подход с дополнением индустриальных инициатив: • ENISA публикует отчеты и рекомендации, но не оперативные реестры угроз. • Национальные агентства (например, испанская AESIA) разрабатывают практические руководства по имплементации требований для высокорисковых систем. • Индустриальные фреймворки представлены фрагментарно, в основном на уровне отдельных компаний или исследовательских проектов.

США

Мировое лидерство в развитии добровольных фреймворков и моделей зрелости: • NIST AI Risk Management Framework — комплексный подход к управлению рисками ИИ (Govern, Map, Measure, Manage) . • NIST IR 8596 (Cyber AI Profile) — расширение CSF 2.0 для учета ИИ-специфичных рисков . • OWASP AIMA (AI Maturity Assessment) — специализированная модель зрелости, включающая 8 функций: Responsible AI, Governance, Data Management, Privacy, Design, Implementation, Verification, Operations. Дополняется фреймворком OWASP SAMM, адаптируемым для ИИ-разработки . • MITRE ATLAS — база знаний тактик и техник атак на ИИ-системы, активно используется для моделирования угроз . • CSA STAR for AI Level 2 — новая программа сертификации (ноябрь 2025), сочетающая ISO/IEC 42001 и специализированный опросник AI-CAIQ для оценки зрелости AI-безопасности .

Китай

Централизованный государственный подход с элементами индустриальных стандартов: • Фреймворк безопасного управления ИИ, версия 2.0 — разработан под руководством Управления киберпространства Китая (CAC). Содержит классификацию рисков, методы их предотвращения и управления, динамически обновляется. • Информация о независимых индустриальных фреймворках (аналогичных SAIMM или AI-SAFE) в открытых источниках практически отсутствует, что свидетельствует о доминировании государственных стандартов над рыночными инициативами. • Вероятно, существуют внутренние отраслевые стандарты для конкретных секторов (финансы, госуправление), но они не публичны.