Компаниям необходимо защищать процесс принятия решений ИИ
2026-07-05 20:40
Компании, внедряющие искусственный интеллект, должны переходить от защиты ИТ-периметра к защите самого процесса принятия решений ИИ. Об этом заявил директор по развитию безопасных технологий искусственного интеллекта Swordfish Security Юрий Шабалин.
По его словам, ИИ уже стал частью производственных и бизнес-процессов, однако существующие подходы к безопасности по-прежнему ориентированы на защиту инфраструктуры, а не поведения моделей.
«К 2026 году ИИ перестал быть экспериментом и превратился в автономного агента, а защита по-прежнему строится вокруг периметра сети, а не поведения модели», — отметил Юрий Шабалин.
В Swordfish Security к основным угрозам относят непрямые инъекции промптов, джейлбрейки, компрометацию RAG-систем, атаки на цепочку поставок моделей и состязательные атаки. Для снижения рисков эксперт рекомендует внедрять подход MLSecOps, использовать AI-шлюзы, контролировать жизненный цикл моделей и регулярно проводить Red Teaming.
«Защищать нужно не только данные, но и сам процесс принятия решений моделью», — подчеркнул Юрий Шабалин.