ФСТЭК вводит новые требования к безопасности систем искусственного интеллекта

Федеральная служба по техническому и экспортному контролю России впервые официально классифицировала киберугрозы, связанные с использованием технологий искусственного интеллекта. Эти риски внесены в специальный банк данных угроз информационной безопасности, что обязывает разработчиков программного обеспечения для государственных информационных систем и критической информационной инфраструктуры учитывать их при создании и внедрении ИИ-решений. Данный шаг регулятора отражает растущую интеграцию алгоритмов машинного обучения в различные сферы и соответствующее увеличение векторов для потенциальных кибератак.

В перечне специфичных для ИИ технологий, уязвимости которых могут быть использованы злоумышленниками, выделены несколько ключевых компонентов. К ним относятся сами модели машинного обучения, обучающие наборы данных (датасеты), а также современные архитектурные подходы, такие как Retrieval Augmented Generation и LoRA-адаптеры. Эксплуатация слабых мест в этих элементах позволяет осуществлять целенаправленное воздействие на результаты работы алгоритмов, приводить к утечке конфиденциальных данных или полному выводу системы из строя (фото: ru.freepik.com).

Регулятор также детализировал основные векторы возможных атак на системы с искусственным интеллектом. В их число входят обнаружение и использование уязвимостей в специализированных программных фреймворках для ИИ, несанкционированная модификация системных промптов или конфигураций автономных агентов. Отдельной угрозой признаны атаки типа «отказ в обслуживании», нацеленные на исчерпание вычислительных ресурсов или квот на выполнение запросов к коммерческим ИИ-сервисам, что парализует их работу. Включение этих угроз в официальный перечень означает, что российские разработчики и интеграторы технологий искусственного интеллекта обязаны на системной основе проводить оценку соответствия своих продуктов новым требованиям кибербезопасности, чтобы минимизировать потенциальные риски. Ярослав Игнатьев