Аппарат правительства России завершил пилотное внедрение сервисов искусственного интеллекта и признал их использование целесообразным. ИИ применялся для подготовки справок, сравнения документов, составления протоколов и выполнения других рутинных задач, при этом окончательные решения оставались за сотрудниками.
В Swordfish Security положительно оценили использование двухконтурной архитектуры для защиты данных, однако отметили, что этого недостаточно для безопасной эксплуатации ИИ-систем.
«Двухконтурная архитектура — абсолютно правильный и необходимый шаг. Однако важно учитывать и внутренние риски, такие как промпт-инъекции или ошибки модели, связанные с обучающими данными. Поэтому защита должна включать постоянный мониторинг безопасности ИИ, анализ защищенности моделей, а также контроль легитимности запросов и ответов», — подчеркнула руководитель направления по взаимодействию с регуляторами Swordfish Security Альбина Аскерова.
По словам эксперта, при использовании ИИ в государственных процессах особое внимание необходимо уделять защите конфиденциальной информации и проверке достоверности ответов модели. Контроль результатов со стороны специалистов остается обязательным условием безопасного применения искусственного интеллекта.
В Swordfish Security также рекомендуют внедрять механизмы верификации ответов ИИ, обеспечивать строгую локализацию данных и разрабатывать внутренние политики, определяющие правила передачи информации в ИИ-сервисы.
Подробнее на сайте
В Swordfish Security положительно оценили использование двухконтурной архитектуры для защиты данных, однако отметили, что этого недостаточно для безопасной эксплуатации ИИ-систем.
«Двухконтурная архитектура — абсолютно правильный и необходимый шаг. Однако важно учитывать и внутренние риски, такие как промпт-инъекции или ошибки модели, связанные с обучающими данными. Поэтому защита должна включать постоянный мониторинг безопасности ИИ, анализ защищенности моделей, а также контроль легитимности запросов и ответов», — подчеркнула руководитель направления по взаимодействию с регуляторами Swordfish Security Альбина Аскерова.
По словам эксперта, при использовании ИИ в государственных процессах особое внимание необходимо уделять защите конфиденциальной информации и проверке достоверности ответов модели. Контроль результатов со стороны специалистов остается обязательным условием безопасного применения искусственного интеллекта.
В Swordfish Security также рекомендуют внедрять механизмы верификации ответов ИИ, обеспечивать строгую локализацию данных и разрабатывать внутренние политики, определяющие правила передачи информации в ИИ-сервисы.
Подробнее на сайте