На площадке Ассоциации ФинТех (АФТ) эксперты протестировали сервисы на базе российских GPT-моделей и ИИ-агентов перед их внедрением в финансовые организации. Swordfish Security выступила наблюдателем в пилотном проекте, посвящённом апробации применения мультиагентных систем в банковской и страховой отрасли.
Основной целью проекта стала наработка практического и методологического опыта внедрения ИИ-агентов в финансовом секторе. В рамках работы были определены ключевые сценарии применения технологий, включая клиентскую поддержку, цифровых помощников для сотрудников, анализ документов, комплаенс-контроль, поддержку разработки и создание персонализированных финансовых продуктов.
Участники также протестировали методологию оценки экономического эффекта от внедрения ИИ, разработанную на базе отраслевого клуба ИИ в финансовой сфере.
Рабочая группа, в которую вошли представители банковского сектора и эксперты в области кибербезопасности, подготовила предложения по совершенствованию продуктов и нормативно-правовой базы. Кроме того, была скорректирована референсная архитектура платформы ИИ, которая станет основой будущих методических рекомендаций.
Итоговые наработки и успешные кейсы были загружены в базу знаний Лаборатории ИИ Ассоциации ФинТех для использования другими участниками отрасли.
Особое внимание в ходе пилотирования уделялось вопросам безопасного и доверенного применения искусственного интеллекта в финансовых сервисах.
«Использование технологий искусственного интеллекта в финансовом секторе – важная часть ускорения работы сервисов, с помощью ИИ они должны стать еще удобнее для клиентов, но прежде, чем внедрить новую технологию, ее необходимо тщательно протестировать на безопасность. Спектр уязвимостей ИИ-систем широк. Это и намеренное заражение данных обучения, и хищение чувствительных данных с помощью специальных промптов, и перегруз ИИ-агента модифицированными запросами. Тестирование ИИ-технологий на безопасность — следующий важный этап совместной работы на площадке АФТ» — отметил сооснователь ГК Swordfish Security Юрий Сергеев.
Подробнее на сайте
Основной целью проекта стала наработка практического и методологического опыта внедрения ИИ-агентов в финансовом секторе. В рамках работы были определены ключевые сценарии применения технологий, включая клиентскую поддержку, цифровых помощников для сотрудников, анализ документов, комплаенс-контроль, поддержку разработки и создание персонализированных финансовых продуктов.
Участники также протестировали методологию оценки экономического эффекта от внедрения ИИ, разработанную на базе отраслевого клуба ИИ в финансовой сфере.
Рабочая группа, в которую вошли представители банковского сектора и эксперты в области кибербезопасности, подготовила предложения по совершенствованию продуктов и нормативно-правовой базы. Кроме того, была скорректирована референсная архитектура платформы ИИ, которая станет основой будущих методических рекомендаций.
Итоговые наработки и успешные кейсы были загружены в базу знаний Лаборатории ИИ Ассоциации ФинТех для использования другими участниками отрасли.
Особое внимание в ходе пилотирования уделялось вопросам безопасного и доверенного применения искусственного интеллекта в финансовых сервисах.
«Использование технологий искусственного интеллекта в финансовом секторе – важная часть ускорения работы сервисов, с помощью ИИ они должны стать еще удобнее для клиентов, но прежде, чем внедрить новую технологию, ее необходимо тщательно протестировать на безопасность. Спектр уязвимостей ИИ-систем широк. Это и намеренное заражение данных обучения, и хищение чувствительных данных с помощью специальных промптов, и перегруз ИИ-агента модифицированными запросами. Тестирование ИИ-технологий на безопасность — следующий важный этап совместной работы на площадке АФТ» — отметил сооснователь ГК Swordfish Security Юрий Сергеев.
Подробнее на сайте