DeepSeek-R1 выдает уязвимый код при политических запросах: эксперты выявили скрытую угрозу безопасности

В начале 2025 года китайская языковая модель DeepSeek-R1 произвела настоящий фурор среди программистов, быстро став популярным инструментом для автоматизации написания кода. Однако независимые специалисты решили проверить, насколько безопасен код, который она генерирует, особенно если в запросах встречаются политически чувствительные слова. Для этого команда экспертов провела масштабное тестирование: они подготовили 50 задач по безопасности, использовали 121 вариант формулировок с разными триггерными словами и повторили каждую задачу пять раз. В итоге было собрано более 30 тысяч примеров кода, которые оценивались по уровню уязвимости.

Результаты оказались тревожными. Если в запросах встречались такие слова, как «Тибет», «уйгуры» или «Фалуньгун», DeepSeek-R1 часто генерировала код с серьезными дырами в безопасности. В таких случаях в программах появлялись жестко прописанные секретные ключи, небезопасная обработка пользовательских данных, а иногда и вовсе недопустимые решения. Вероятность получить уязвимый код при наличии политических терминов возрастала почти в полтора раза по сравнению с обычными запросами.

Особенно опасными оказались сложные задания, где модель создавала полноценные приложения с регистрацией, базами данных и административными панелями. В этих случаях DeepSeek-R1 часто забывала про базовые механизмы защиты: не реализовывала полноценную аутентификацию, слабо защищала пароли, а иногда и вовсе не хэшировала их. До трети таких решений были потенциально опасны для пользователей. Для простых задач, например, связанных с футбольными сайтами, подобных проблем возникало заметно меньше.

Интересно, что почти в половине случаев, когда запрос касался политики, DeepSeek-R1 просто отказывалась выдавать код, хотя изначально строила план решения. Анализ показал, что модель как бы «цензурирует» себя, что, вероятно, связано с внутренними ограничениями, заложенными разработчиками в соответствии с китайским законодательством.

Эксперты пришли к выводу: политическая составляющая напрямую влияет на качество и безопасность кода, который генерирует DeepSeek-R1. Это создает дополнительные риски для компаний, использующих такие инструменты. Поэтому перед внедрением кода, созданного ИИ, рекомендуется проводить тщательное тестирование, а также не забывать о классических средствах защиты — антивирусах и брандмауэрах. В противном случае в корпоративных системах могут появиться уязвимости, связанные с особенностями работы самой модели. Евгений Ивченко