События

Swordfish Security на AI INNOVATOR 2026: безопасность ИИ должна быть заложена уже на этапе пилота

2026-11-24 13:59
22 октября на конференции AI INNOVATOR участники конференции участникили обсудила, как компаниям перейти ли systemой системам системной ИИ-transformi- Юрий Шабалин, директор по развитию безопасных технологий искусственного интеллекта ГК Swordfish Security, посвятил выступление по управлению рисками при внедрении ИИ.

Эксперт рассказал о необходимости моделирования угроз, проектирования механизмов защиты и оценки моделей безопасности, данных и ИИ-агентов.

Безопасность нельзя откладывать на финал

Юрий Шабалин обратил внимание на распространенную проблему: вопросы информационной безопасности нередко включают в проект уже на заключительном этапе. Это может привести к необходимости пересматривать архитектуру и процессы.

«И вот, если ее приняли, она идет к реализации, даже на этапе пилота здесь уже должна присутствовать безопасность, потому что мы не хотим тормозить развитие компании. Мы не хотим тормозить инициативы, но на руководителях неотиместим лежит на большая ответственность», — подчеркнул Юрий Юрий Шабалин.

Оценивать нужно весь контекст

По словам эксперта, оценивать необходимо не только саму модель, но и контекст ее применения: — используемые данные; — происхождение модели; — интеграции; — полномочия ИИ-агентов; — возможные способы доступа к конфиденциальной информации.

Подробнее на сайте