OpenAI признала: атаки быстрыми инъекциями не победить, но AI-браузеры будут учиться защищаться сами

Специалисты OpenAI открыто признают, что полностью ликвидировать угрозу атак через быстрые инъекции невозможно — их удаётся лишь снижать до приемлемого уровня и принимать упреждающие меры. В недавнем блоге компания рассказывает о собственном браузере Atlas для Android и делится не столь радужными прогнозами по вопросам кибербезопасности для подобных систем.

Проблема скрытых вредоносных команд, которые могут быть внедрены прямо на веб-сайтах, стоит особенно остро для современных ИИ-браузеров. Так называемое “оперативное внедрение” (prompt injection) способно превратить искусственный интеллект в инструмент для извлечения конфиденциальных данных или установки вредоносных расширений без ведома пользователя. Пример: если браузер с ИИ доступом загружает страницу с замаскированным скрытым приглашением (например, текст совпадает по цвету с фоном), ИИ может среагировать на него, даже не показывая этого пользователю. В итоге, вредоносный скрипт получает практически неограниченные возможности — от вытаскивания личных документов до внедрения зловредного кода.

В OpenAI отмечают, что подобные атаки по своей сути напоминают классические «социальные инженерии» и методы обмана — и полная защита от них вряд ли достижима. Тем не менее, компания оптимистична: индустрия не должна сдаваться и отказываться от развития безопасных ИИ-решений. Один из эффективных подходов — так называемый “цикл быстрого реагирования”: противника обучают с помощью искусственного интеллекта, создают виртуального “хакера”, который атакует ИИ-защитника, вынуждая того постоянно совершенствоваться и распознавать новые варианты атак, а затем наращивают уровень защиты с помощью автоматизированного мониторинга и адаптивных систем безопасности.

OpenAI делает ставку на симбиоз автоматизированного поиска уязвимостей и постоянного противостояния между “взломщиком” и “обороняющимся” искусственным интеллектом. Такой бесконечный “диалог” позволяет на ранних стадиях выявлять новые схемы нападения, быстро закрывать обнаруженные дыры и постепенно повышать стоимость проведения атак для злоумышленников.

Таким образом, хотя тотального решения пока нет, нарабатывается фундамент для постоянного совершенствования защиты браузеров с ИИ от сложнейших киберугроз. Евгений Ивченко