Связаться с нами
С распространением систем искусственного интеллекта появляются новые классы угроз и уязвимостей, затрагивающие LLM, агентные системы и ML-решения.
Такие риски требуют отдельного подхода к анализу и проверке защищенности.
На вебинаре эксперты Swordfish Security разберут ключевые угрозы для систем искусственного интеллекта, требования регуляторов и подходы к построению защиты, а также поделятся практическим опытом проведения аудитов безопасности ИИ-решений.
На вебинаре эксперты Swordfish Security разберут ключевые угрозы для систем искусственного интеллекта, требования регуляторов и подходы к построению защиты, а также поделятся практическим опытом проведения аудитов безопасности ИИ-решений.
Спикеры
- Александр ГадайРуководитель службы консалтинга
- Денис ДаниловИнженер по безопасности приложений
Что обсудим
- Этапы жизненного цикла ИИ-системРассмотрим процесс обучения моделей машинного обучения от сбора данных до ввода в эксплуатацию
- Атаки на ML и LLM модели на каждом из этаповРазберём уязвимости ML и LLM моделей, а также актуальные техники атак на каждом этапе жизненного цикла
- Защита ML и LLM моделей на каждом из этаповРасскажем как предотвратить перечисленные атаки и какие практики применяются для защиты ИИ-систем
- Инструменты, которые реализуют эту защитуРассмотрим классы инструментов безопасности ИИ: DAST и LLM Firewall, их назначение и принципы работы
- Оценка безопасности ИИ-системПоделимся опытом аудита систем ИИ с использованием фреймворка Swordfish: SAIMM и расскажем, как применять его для оценки безопасности
- Регулирование ИИ в РоссииРасскажем, какие требования и отраслевые стандарты применяются к безопасности ИИ-систем и почему их важно учитывать уже сейчас
Будет полезно
- Специалистам по информационной безопасности
- Архитекторам и разработчикам AI/ML-решений
- Руководителям цифровых продуктов
- Инженерам по данным и MLOps
- Всем, кто внедряет ИИ-системы
Бонус для участников
На вебинаре вы получите чек-лист для оценки безопасности AI-агентов и полезные материалы для дальнейшего изучения темы.
На вебинаре вы получите чек-лист для оценки безопасности AI-агентов и полезные материалы для дальнейшего изучения темы.
