Безопасный ИИ как ядро цифрового будущего: Swordfish Pro DevSecOps Conf 2025

14 октября в Москве состоялась первая конференция ГК Swordfish Security, посвященная безопасному цифровому будущему с ИИ

На одной площадке выступили 32 эксперта: топ-менеджмент ГК Swordfish Security, руководители продуктов AppSec Solutions, лидеры направлений по ИБ крупных российских компаний, а также представители регуляторных органов, Ассоциация ФинТех и Консорциум ИИ. Участники обсудили ключевые тренды DevSecOps в условиях активного внедрения ИИ, рассмотрели риски и возможности, которые открывают нейросети, вопросы сертификации РБПО, а также познакомились с новыми продуктами AppSec Solutions — высокоскоростным SAST-анализатором кода AppSec.Wave, решением для тестирования ИИ-моделей на киберустойчивость AppSec.GenAI и протектором мобильных приложений AppSec.Cryptex

ИИ — уже не инструмент, а бизнес-парадигма
По словам Юрия Сергеева, управляющего партнера ГК Swordfish Security, искусственный интеллект перестал быть просто технологией для оптимизации — он становится фундаментом цифровой архитектуры компаний.

«Сегодня нейросеть должна быть не надстройкой, а ядром архитектуры. Это ДНК бизнеса. Но именно такая модель создаёт новые риски, которые часто остаются незамеченными из-за недостатка инструментов мониторинга и оценки», — отметил Юрий Сергеев.

Он подчеркнул, что классические подходы к киберзащите больше не справляются с вызовами недетерминизма, предвзятости моделей и их непрозрачности. По мнению эксперта, фокус должен сместиться от поиска уязвимостей к построению механизмов доверия при работе с LLM.

Риски ИИ уже здесь

Юрий Шабалин, старший директор по развитию технологий искусственного интеллекта ГК Swordfish Security, представил результаты исследования, проведенного совместно с Ассоциацией ФинТех.

Согласно данным, четверть крупнейших финансовых компаний уже столкнулись с инцидентами, связанными с ИИ, а основными угрозами респонденты назвали утечки данных, предвзятость и ошибки моделей.

«Мы по риск-скорингу находимся не просто в красной, а уже в бордовой зоне. ИИ-технологии встраиваются во все процессы часто без понимания последствий. Даже подключение безобидного чат-бота, подкрепленного ИИ на сайт, может дать злоумышленнику путь к внутренним данным компании», — отметил Юрий Шабалин.

Также на конференции был представлен фреймворк AI Security от Swordfish Security для снижения рисков, связанных с использованием ИИ. Методология включает карту угроз, рекомендации по безопасной разработке и дорожную карту внедрения, адаптированные под российское регулирование.

Новые решения AppSec Solutions

Руководители продуктов AppSec Solutions поделились, что было реализовано в 2025 году и какие нововведения ждут решения в 2026-м. На конференции были представлены новинки экосистемы: высокоскоростной SAST-анализатор кода AppSec.Wave, протектор мобильных приложений AppSec.Cryptex и решение для тестирования ИИ-моделей на киберустойчивость AppSec.GenAI. Также эксперты показали, как можно использовать совместно сканер AppSec.Wave и нейроинженера AppSec.CoPilot для автоматизации рутинных процессов и ускорения анализа уязвимостей.

«AppSec-команды тратят часы на разбор тысяч срабатываний SAST-сканеров и анализ потенциальных уязвимостей. Совместное использование AppSec.Wave и AppSec.CoPilot позволяет автоматизировать большую часть рутины, концентрируясь только на критических результатах. Это сокращает время на анализ и ускоряет принятие решений, обеспечивая максимум эффективности и качества работы», — подчеркнула Мария Усачева, руководитель продукта AppSec.CoPilot.

Доверие, сертификация и регуляторика: как защитить ИИ и бизнес

О практическом аспекте доверия к ИИ рассказал Дмитрий Служеникин, секретарь Консорциума исследований безопасности технологий ИИ.

По данным исследования, которое провела Ассоциация ФинТех совместно с Swordfish Security, 25% крупнейших финансовых компаний уже столкнулись с инцидентами с участием ИИ; при этом три из четырех финтех-компаний назвали утечку конфиденциальной информации ключевой угрозой.

«В мире до сих пор нет единых требований к доверию ИИ. Мы видим свою задачу в создании системы сертификации, которая позволит подтвердить безопасность и надежность ИИ-решений — не на бумаге, а на практике», — отметил Дмитрий Служеникин.

В отдельной сессии участники обсудили сертификацию РБПО. Вартан Падарян, руководитель органа по сертификации РБПО, ИСП РАН, рассказал о методологии, подходах и типовых ошибках в процессах РБПО. Эксперты обсудили, как правильно подготовиться к сертификации по ФСТЭК и выстроить процессы разработки безопасного программного обеспечения в соответствии с ГОСТ Р 56939−2024.

Дополнительно прошла открытая сессия вопросов и ответов по регуляторике с Альбиной Аскеровой, руководителем направления по взаимодействию с регуляторами Swordfish Security, где участники получили практические рекомендации.

Учим защищать будущее

На конференции спикеры выступили с практическими кейсами по развитию экспертизы внутри команд и выстраиванию культуры безопасности. Рассказали о построении центров компетенций и образовательных практиках для AppSec-команд, поделились опытом обучения через практику и CTF.

Также на конференции представили обновленную платформу Swordfish Academy. Павел Анников, руководитель Swordfish Academy, рассказал о методологии обучения и назвал приоритеты при разработке курсов: глубинная экспертиза через интересные материалы, кастомизация под стек технологий клиента и максимум практики на реальных кейсах.

«Мы подводим к знаниям через шаги внутри реальных кейсов — вместо скучной лекции знание приходит через понимание и сразу отрабатывается на практике. Реальные бизнес-ситуации, понятные роли и задачи сразу погружают слушателей в настоящий контекст вопросов кибербезопасности», — отметил Павел Анников.

Душевно PRO DevSecOps

Вечером прошел спидран-сет, где участники обсудили, что общего между скоростными играми и безопасной разработкой. Гости поиграли на ретро-автоматах и пообщались в неформальной обстановке в формате спид митинга и открытых дискуссий, где делились опытом, обсуждали практики и идеи будущих проектов.

Swordfish Pro DevSecOps Conf 2025 стала площадкой для профессионального диалога между экспертами по ИБ, разработчиками и лидерами индустрии.

Обсуждения показали: искусственный интеллект стремительно меняет правила игры, и только комплексный подход — технологии, люди и культура безопасности — позволит бизнесу оставаться в доверии и двигаться вперед.