Как эффективно защититься от угроз ИИ?

Ответ на этот вопрос ищут компании Keysight и NSS.

Компания РУТЕСТ, лидер в области тестирования ИТ/ИБ решений и инфраструктуры, рассказала, что независимые методики тестирования систем защиты ИИ способны дать реальную оценку их эффективности.

Быстрый рост технологий ИИ значительно меняет ландшафт угроз в области информационной безопасности, создавая новые, ранее неизвестные риски, которые можно разделить на две основные категории:

1. Угрозы, которые порождает сам ИИ (использование его возможностей для атак)
2. Угрозы, направленные на системы ИИ (атаки на модели, данные и инфраструктуру)

В первом случае злоумышленники применяют ИИ как «усилитель» традиционных атак, что делает их более быстрыми, масштабными и трудными для обнаружения. Например, если корпоративный ИИ-ассистент интегрирован с электронной почтой и CRM, атаки типа prompt injection (внедрение обманных запросов) могут заставить его раскрыть конфиденциальные данные, а атаки data poisoning (отравление данных) могут привести к неверной классификации запросов или опасным ответам. В 2025 году было зафиксировано увеличение таких атак с использованием ИИ на 89%. Многие из них стали «безфайловыми», что означает отсутствие зловредного кода, но наличие вредоносного результата.

Во второй категории находятся атаки на уникальные уязвимости ИИ, которые отсутствуют у традиционного программного обеспечения. В декабре 2025 года ФСТЭК России впервые выделила риски, связанные с ИИ, как угрозу информационной безопасности.

Очевидно, что новые векторы атак требуют разработки новых технологий защиты и независимого тестирования этих технологий.

В связи с этим известный производитель тестовых систем Keysight Technologies создал решение для оценки систем защиты AIPS (AI Protection System). Аналитическая компания NSS Labs, в свою очередь, разработала независимую программу для оценки и тестирования технологий защиты от угроз на основе ИИ на базе решения Keysight.

Методология AIPS оценивает продукты по семи параметрам безопасности ИИ, включая атаки с использованием обманных данных (prompt injection), риски выдачи неверной информации, утечку конфиденциальных данных, устойчивость к злонамеренным воздействиям и безопасность инструментов защиты, а также возможности мониторинга и аудита работы ИИ. Кроме того, AIPS позволяет оценить влияние систем защиты на производительность и масштабируемость ИИ.

Методология включает сотни тысяч тестовых сценариев, эмулирующих обход, манипуляцию, эксплуатацию или перегрузку систем защиты ИИ. Каждый сценарий выполняется с использованием множества примеров атак и их вариаций, таких как prompt injection, замаскированные запросы, попытки незаконного извлечения конфиденциальных данных и другие виды атак.

Сочетание инновационных тестовых решений Keysight с опытом NSS позволило разработать уникальную методику прозрачной и независимой оценки защищенности систем ИИ. Эта методика помогает понять, насколько эффективно работают системы защиты против реальных угроз и насколько они надежны.

Программа тестирования AIPS от Keysight и NSS представлена в апреле 2026 года. На данный момент на рынке уже доступны решения для тестирования сетевых фабрик ИИ, которые себя зарекомендовали.