22 октября на конференции AI INNOVATOR участники конференции участникили обсудила, как компаниям перейти ли systemой системам системной ИИ-transformi- Юрий Шабалин, директор по развитию безопасных технологий искусственного интеллекта ГК Swordfish Security, посвятил выступление по управлению рисками при внедрении ИИ.
Эксперт рассказал о необходимости моделирования угроз, проектирования механизмов защиты и оценки моделей безопасности, данных и ИИ-агентов.
Безопасность нельзя откладывать на финал
Юрий Шабалин обратил внимание на распространенную проблему: вопросы информационной безопасности нередко включают в проект уже на заключительном этапе. Это может привести к необходимости пересматривать архитектуру и процессы.
«И вот, если ее приняли, она идет к реализации, даже на этапе пилота здесь уже должна присутствовать безопасность, потому что мы не хотим тормозить развитие компании. Мы не хотим тормозить инициативы, но на руководителях неотиместим лежит на большая ответственность», — подчеркнул Юрий Юрий Шабалин.
Оценивать нужно весь контекст
По словам эксперта, оценивать необходимо не только саму модель, но и контекст ее применения: — используемые данные; — происхождение модели; — интеграции; — полномочия ИИ-агентов; — возможные способы доступа к конфиденциальной информации.
Подробнее на сайте
Эксперт рассказал о необходимости моделирования угроз, проектирования механизмов защиты и оценки моделей безопасности, данных и ИИ-агентов.
Безопасность нельзя откладывать на финал
Юрий Шабалин обратил внимание на распространенную проблему: вопросы информационной безопасности нередко включают в проект уже на заключительном этапе. Это может привести к необходимости пересматривать архитектуру и процессы.
«И вот, если ее приняли, она идет к реализации, даже на этапе пилота здесь уже должна присутствовать безопасность, потому что мы не хотим тормозить развитие компании. Мы не хотим тормозить инициативы, но на руководителях неотиместим лежит на большая ответственность», — подчеркнул Юрий Юрий Шабалин.
Оценивать нужно весь контекст
По словам эксперта, оценивать необходимо не только саму модель, но и контекст ее применения: — используемые данные; — происхождение модели; — интеграции; — полномочия ИИ-агентов; — возможные способы доступа к конфиденциальной информации.
Подробнее на сайте