Повсеместное внедрение искусственного интеллекта (ИИ) в бизнес-процессы бросает новые вызовы рынку. Так, уже растет спрос на услуги специалистов по кибербезопасности в области ИИ (MLSecOps). По подсчетам аналитиков платформы hh.ru, в 2024 году количество вакансий разработчиков и аналитиков, связанных с защитой ИИ-решений, увеличилось в 5 раз. 

Эксперты отмечают, что такие угрозы, как "Prompt Injection", "Best-of-N Jailbreaking" и "Data Poisoning", требуют новых подходов к безопасности. Специалисты MLSecOps играют ключевую роль в предотвращении утечек данных и обеспечении конфиденциальности моделей. Без должной защиты компании рискуют потерять не только данные, но и доверие клиентов.

Образование в этой области также развивается. Вузы начинают предлагать специализированные курсы по безопасности ИИ. Однако нехватка квалифицированных кадров остаётся актуальной проблемой, что ведёт к росту заработных плат и конкуренции среди работодателей.

Потребность в продвинутых дата-аналитиках с функциями LLM Security будет расти в ближайшие годы, прогнозирует директор по талантам ГК Swordfish Security Дарья Фигуркина. 

«Компании-новаторы в том или ином формате уже активно применяют большие языковые модели в работе, но массово вопрос кибербезопасности ИИ встанет позже. Безопасность всегда следует рука об руку с разработкой, поэтому в ближайшие два-три года мы ожидаем роста запросов на создание центров компетенций по LLM Security (MLSecOps) для коммерческих компаний».

Подробнее читайте по ссылке