Спросили об этом эксперта по безопасности приложений ГК Swordfish Security Валентина Мамонтова ⬇️

🤖DeepSeek продемонстрировала технологический прорыв, предложив мощную модель по низкой цене. Она стремительно набрала популярность, тк сервис доступен без VPN из России, что делает его удобной альтернативой. Кроме того, стоимость API дешевле на 95% по сравнению с OpenAI, а эффективность сопоставима c ChatGPT-4.

Однако у малоизученных сервисов часто возникают проблемы с безопасностью, и DeepSeek не стала исключением.

Компания KELA выявила ряд уязвимостей в LLM моделях, используя комбинацию устаревших и более продвинутых методов взлома.

" Одна из уязвимостей связана с атакой jailbreak, которая позволяет обходить запреты и генерировать незаконный контент. DeepSeek также предоставляла детальные процессы рассуждений, что может способствовать получению большего количества запрещенной информации. ...Кроме того, модель нарушала конфиденциальность: при запросе тестовых данных она генерировала информацию о реальных пользователях, включая ФИО, адрес и электронную почту."

Важно отметить, что ChatGPT от OpenAI на старте (версия 3) также имел подобные уязвимости, но в последних версиях разработчики значительно усилили фильтрацию контента и внедрили строгие механизмы безопасности.

☠️ Наиболее критичной проблемой для DeepSeek стало отношение к хранению пользовательских данных. Исследование Wiz выявило открытую базу данных с миллионами записей о запросах пользователей, персональных сведениях и технических логах. Эти данные находились в общем доступе без защиты, что значительно упрощало несанкционированный доступ. Это не просто уязвимость, а серьезное нарушение безопасности, ставящее под угрозу конфиденциальность пользователей по всему миру.

В отличие от DeepSeek, западные аналоги соблюдают стандарты ИИ-безопасности и защиту данных. При этом стоит учесть, что и к ChatGPT нельзя относиться как к полностью безопасному сервису. Подробнее читайте в ТACC