...Согласно исследованию Swordfish Security и данным hh.ru, число вакансий, связанных с работой в сфере LLM Security (безопасность больших языковых моделей) в 2024 году выросло почти в 5,5 раз - с 154 до 878.

По оценкам экспертов, около 40% крупных компаний в России так или иначе внедряют искусственный интеллект в бизнес-процессы. Ожидается, что спрос на специалистов по LLM Security в 2025 году вырастет на четверть. 

Среди потенциальных рисков внедрения ИИ, которые назвали эксперты, - репутационные потери из-за отсутствия этики у чат-ботов, внедрение вредоносного кода в запросы к нейросетям, выдача ошибочной информации за истину на этапе обучения модели и даже кража ИИ-модели злоумышленниками. Если компании не учитывают риски, это может привести к потерям, указали аналитики.

"Потребность в продвинутых Data-аналитиках с функциями LLM Security будет расти в ближайшие годы. Если мы говорим про супер-массовое использование ИИ для бизнеса, очень востребованными будут разработчики, которые понимают, как поставить большую языковую модель себе на службу, при этом минимизируя потенциальные риски. Компании-новаторы в том или ином формате уже активно применяют большие языковые модели в работе, но массово вопрос кибербезопасности ИИ, полагаю, остро встанет чуть позже", - отметила директор по талантам Swordfish Security Дарья Фигуркина.

Также, в ближайшие два-три года ожидается рост запросов на создание центров компетенций по LLM Security для коммерческих компаний. Подробнее читайте по ссылке