Искусственный интеллект меняет не только инструменты защиты и атак, но и сам характер киберугроз.
По словам директора по развитию безопасных технологий ИИ Юрия Шабалина, современные AI-системы сложнее традиционного ПО, а их защиту зачастую проще обойти.
Эксперт выделил основные угрозы для ИИ: Prompt Injection, Jailbreak, утечки данных через RAG-системы, атаки на цепочку поставок ML и состязательные атаки на модели компьютерного зрения.
«AI-системы имеют свои особенности, устроены сложнее, а их защиту обойти зачастую проще, чем традиционное ПО», — отметил Юрий Шабалин.
Эксперты Swordfish Security разработали открытую таксономию AI-угроз, включающую около 80 типов уязвимостей — от компрометации моделей и обхода ограничений до раскрытия конфиденциальной информации. По словам Юрия Шабалина, база поможет российским компаниям выстраивать процессы защиты ИИ и доступна бесплатно.
Подробнее на сайте
По словам директора по развитию безопасных технологий ИИ Юрия Шабалина, современные AI-системы сложнее традиционного ПО, а их защиту зачастую проще обойти.
Эксперт выделил основные угрозы для ИИ: Prompt Injection, Jailbreak, утечки данных через RAG-системы, атаки на цепочку поставок ML и состязательные атаки на модели компьютерного зрения.
«AI-системы имеют свои особенности, устроены сложнее, а их защиту обойти зачастую проще, чем традиционное ПО», — отметил Юрий Шабалин.
Эксперты Swordfish Security разработали открытую таксономию AI-угроз, включающую около 80 типов уязвимостей — от компрометации моделей и обхода ограничений до раскрытия конфиденциальной информации. По словам Юрия Шабалина, база поможет российским компаниям выстраивать процессы защиты ИИ и доступна бесплатно.
Подробнее на сайте