Swordfish Security представила SAIMM 2.0, фреймворка оценки зрелости AI Security. Методология доступна ИБ-командам бесплатно и помогает компаниям оценить текущее состояние защиты ИИ, определить приоритеты и сформировать план дальнейших действий.
Фреймворк опирается на существующие домены и практики, позволяя компании оценить текущее состояние контроля, определить приоритеты и сформировать последовательность дальнейших действий.
«Фреймворк в версии 2.0 стал более ориентированным на практику. Компания может пройти по вопросам фреймворка, зафиксировать свое текущее состояние и получить маршрут развития: определить, куда двигаться дальше и какие шаги дадут наибольший эффект в ближайшей перспективе», — отметил генеральный директор Swordfish Security Александр Пинаев.
В новой версии появились два домена, посвящённые безопасности агентных систем и RAG-пайплайнов. Первый домен сфокусирован на контроле поведения агентов. Вопросы, связанные с их действиями и использованием инструментов, выделены в нём в самостоятельный контур оценки.
Второй домен охватывает контроль данных в ИИ-системах, понимание их связи с моделями, а также учёт версий и происхождения компонентов.
«Такой подход необходим и при работе с моделями с открытыми весами, и при использовании проприетарных моделей. Если мы не знаем, на каких данных обучалась модель и как формировался ее контекст, мы не можем в полной мере прогнозировать ее поведение», — подчеркнул Александр Пинаев.
Подробнее на сайте
Фреймворк опирается на существующие домены и практики, позволяя компании оценить текущее состояние контроля, определить приоритеты и сформировать последовательность дальнейших действий.
«Фреймворк в версии 2.0 стал более ориентированным на практику. Компания может пройти по вопросам фреймворка, зафиксировать свое текущее состояние и получить маршрут развития: определить, куда двигаться дальше и какие шаги дадут наибольший эффект в ближайшей перспективе», — отметил генеральный директор Swordfish Security Александр Пинаев.
В новой версии появились два домена, посвящённые безопасности агентных систем и RAG-пайплайнов. Первый домен сфокусирован на контроле поведения агентов. Вопросы, связанные с их действиями и использованием инструментов, выделены в нём в самостоятельный контур оценки.
Второй домен охватывает контроль данных в ИИ-системах, понимание их связи с моделями, а также учёт версий и происхождения компонентов.
«Такой подход необходим и при работе с моделями с открытыми весами, и при использовании проприетарных моделей. Если мы не знаем, на каких данных обучалась модель и как формировался ее контекст, мы не можем в полной мере прогнозировать ее поведение», — подчеркнул Александр Пинаев.
Подробнее на сайте