Управление состоянием безопасности ИИ: почему обнаружение угроз в процессе выполнения дополняет стратегию безопасности

По мере того как организации внедряют модели ИИ, автономных агентов, приложения RAG, машинные учетные записи и автоматизированные рабочие процессы с поддержкой ИИ, поверхность атак на ИИ стремительно расширяется. Командам безопасности необходима полная видимость существующих ИИ-активов, их конфигураций и мест концентрации рисков.

В этом заключается роль AI Security Posture Management (AI-SPM) — управления состоянием безопасности ИИ.

Однако управление состоянием безопасности решает только часть проблемы. Система может быть настроена абсолютно правильно и при этом находиться под активной атакой злоумышленника, использующего украденные учетные данные, скомпрометированные аккаунты, манипулируемых агентов или легитимные права доступа.

Это создает принципиальное различие между состоянием безопасности (security posture) и безопасностью в режиме выполнения (runtime security).

AI-SPM помогает ответить на вопрос:

Какие ИИ-активы у нас есть, как они настроены и где кроются риски?

Обнаружение угроз во время выполнения (runtime detection) решает другой вопрос:

Злоупотребляет ли кто-то этими активами или доверенными учетными данными прямо сейчас?

Для современных ИИ-сред критически важны ответы на оба этих вопроса.

Главное

• AI Security Posture Management обеспечивает инвентаризацию, проверку конфигураций, контроль прав доступа и видимость рисков в ИИ-средах.
• AI-SPM является превентивным средством защиты: оно выявляет слабые места до того, как ими воспользуются злоумышленники.
• Правильно настроенная система ИИ все равно может быть скомпрометирована с помощью украденных учетных данных, избыточных прав, манипулируемых агентов, отравленного контекста или несанкционированного использования API.
• Обнаружение во время выполнения (runtime detection) выявляет активную вредоносную деятельность после того, как аутентификация или авторизация уже успешно пройдены.
• Киберобман (Cyber deception) создает высокоточные возможности для обнаружения угроз за счет развертывания ложных учетных данных, сервисов и других активов, к которым у легитимных рабочих процессов нет причин обращаться.
• Acalvio 360 Deception расширяет защиту во время выполнения на доступные для ИИ пути атак, а платформа ShadowPlex обеспечивает автоматизированные возможности киберобмана для корпоративных и облачных сред.

Что такое AI Security Posture Management?

AI Security Posture Management (AI-SPM) предназначен для непрерывного обнаружения ИИ-активов, оценки их конфигураций на соответствие политикам безопасности, выявления избыточных прав доступа и приоритезации рисков по всей поверхности атак на ИИ.

Эта концепция аналогична Cloud Security Posture Management (CSPM), но распространяет видимость безопасности на специфические для ИИ компоненты, такие как:

• Модели ИИ и эндпоинты моделей
• ИИ-агенты
• Машинные учетные записи (machine identities)
• API-интеграции
• RAG-приложения
• Векторные базы данных
• Среды разработки ИИ
• Облачные ИИ-сервисы
• Репозитории данных, поддерживающие рабочие нагрузки ИИ

По мере того как предприятия внедряют всё больше автономных агентов и ИИ-приложений, ручное поддержание точной инвентаризации становится практически невозможным.

AI-SPM помогает командам безопасности сформировать эту видимость и устранить недостатки конфигурации до того, как они превратятся в доступные пути для атак.

Это действительно важная и необходимая функция безопасности.

Однако AI-SPM оценивает преимущественно конфигурацию и состояние безопасности. Эта технология не предназначена для определения того, используется ли легитимная учетная запись в вредоносных целях в данный момент.

Это различие и создает слепую зону обнаружения во время выполнения (runtime detection gap).

Слепая зона обнаружения во время выполнения

Современные атакующие все чаще полагаются на легитимный доступ, вместо того чтобы пытаться взломать механизмы аутентификации.

Злоумышленник может получить:

• украденные учетные данные;
• скомпрометированные сервисные аккаунты;
• токены OAuth или API;
• избыточные права доступа;
• облачные учетные записи;
• машинные идентификаторы;
• доступ к ИИ-агенту;
• скомпрометированные сторонние инструменты или интеграции.

Пройдя аутентификацию, атакующий может действовать, используя права, которые организация официально и намеренно предоставила.

С точки зрения управления состоянием безопасности (posture management) среда продолжает оставаться настроенной корректно.

Учетная запись валидна.

Права доступа валидны.

Вызов API санкционирован.

Тем не менее, сама деятельность является вредоносной.

В этом и заключается проблема оценки действий после аутентификации.

AI-SPM может сообщить команде безопасности, что учетная запись имеет доступ к ИИ-сервису. Но она не определяет, использует ли эта учетная запись свой доступ для целевых бизнес-задач или во вред компании.

Вот почему управление состоянием безопасности и обнаружение угроз во время выполнения следует рассматривать как взаимодополняющие, а не конкурирующие подходы.

Как обнаружение во время выполнения дополняет AI-SPM

AI-SPM дает карту среды и показывает места наибольшей концентрации рисков.

Обнаружение во время выполнения (runtime detection) предоставляет доказательства того, что эти активы прямо сейчас находятся под атакой или несанкционированно используются.

Вместе они формируют более полную архитектуру безопасности.

Киберобман является одним из способов генерации высокоточных сигналов в режиме реального времени.

Вместо того чтобы полагаться исключительно на поведенческие аномалии, защитники могут разворачивать ложные учетные данные, honeytokens, приманки-сервисы, пути HoneyPaths и другие реалистичные активы вдоль потенциальных путей атак, к которым у легитимных пользователей и приложений нет причин обращаться.

Когда атакующий взаимодействует с одним из этих активов, само взаимодействие становится бесспорным сигналом безопасности.

Вопрос меняется с:

«Выглядит ли это поведение подозрительным?»

на:

«Почему учетная запись или процесс взаимодействует с активом, который не нужен ни в одном легитимном рабочем процессе?»

Это различие особенно важно в ИИ-средах, где автономные агенты генерируют огромные объемы легитимно выглядящей активности.

Использование данных AI-SPM для приоритезации киберобмана

AI-SPM также помогает определить, где именно технологии обмана должны быть развернуты в первую очередь.

Например, анализ состояния безопасности может выявить:

• машинную учетную запись с доступом к нескольким ИИ-сервисам;
• API, подключенный к конфиденциальным наборам данных;
• открытый эндпоинт ИИ;
• критически важную векторную базу данных;
• привилегированный сервисный аккаунт;
• облачное хранилище с конфиденциальными артефактами ИИ.

Эти данные позволяют точно определить пути атак, где размещение ложных активов принесет наибольшую пользу.

Вместо равномерного распыления ресурсов команды безопасности могут сфокусировать защиту на учетных записях, системах и маршрутах, которые с наибольшей вероятностью станут мишенью.

Четыре уровня архитектуры безопасности ИИ

Зрелая программа безопасности ИИ требует нескольких взаимодополняющих уровней контроля.

1. Инвентаризация активов ИИ и управление состоянием (AI-SPM) — обнаруживает активы ИИ и непрерывно оценивает их конфигурацию и риски.
2. Управление конфигурациями и идентификацией — применяет политики IAM, принцип наименьших привилегий, аутентификацию и контроли безопасной разработки.
3. Обнаружение угроз во время выполнения (Runtime threat detection) — выявляет активные атаки и злоупотребления после прохождения аутентификации и авторизации.
4. Реагирование и расследование — интегрирует сигналы безопасности в процессы SIEM, SOAR и реагирования на инциденты.

Киберобман добавляет к этой архитектуре высокоточный уровень обнаружения.

Он не заменяет IAM, PAM, MFA, EDR, XDR, SIEM или AI-SPM. Вместо этого он предоставляет ценную информацию, помогающую этим системам быстрее выявлять вредоносную активность.

Почему ИИ-среды делают обнаружение во время выполнения еще более важным

Традиционная аналитика безопасности часто полагается на построение профиля нормальной активности и выявление отклонений от него.

Это становится крайне сложной задачей по мере того, как рабочие нагрузки ИИ становятся все более динамичными.

Автономный агент в рамках штатной работы может:

• вызывать различие API в зависимости от задачи;
• обращаться к разным наборам данных;
• взаимодействовать с множеством инструментов;
• создавать временные ресурсы;
• выполнять переменные последовательности действий;
• работать непрерывно без прямого участия человека.

В результате нестандартное действие не всегда указывает на вредоносное поведение.

В то же время вредоносное действие может выглядеть абсолютно легитимным, если оно выполняется с использованием валидных учетных данных.

Возникает сложная задача обнаружения:

Как команды безопасности могут отличить санкционированные действия от санкционированных действий, используемых в несанкционированных целях?

Киберобман предлагает иной источник доказательств.

Если ИИ-агент, сервисный аккаунт или скомпрометированная учетная запись обращается к паролю, API, системе или ресурсу, не имеющему реального бизнес-назначения, это взаимодействие дает максимально четкий сигнал о вредоносной активности.

Acalvio 360 Deception: добавление аналитики времени выполнения

Acalvio 360 Deception выводит киберобман за рамки изолированных ханипотов и статических приманок.

Подход сочетает в себе множество форм обмана, предназначенных для затруднения разведки злоумышленников и вскрытия вредоносных действий, включая:

• ложные учетные данные и сервисы;
• honeytokens;
• приманки-сервисы и фальшивую инфраструктуру;
• фальшивые пути атак (HoneyPaths);
• ложные облачные ресурсы;
• обман на уровне конечных точек и сети;
• доступные для ИИ ложные активы.

Цель состоять в создании среды, в которой атакующие не могут легко получить достоверную информацию об инфраструктуре.

Это особенно эффективно против автоматизированных атак.

Автономные системы атак зависят от информации об окружении для принятия решений о том, что атаковать, какие учетные данные использовать и куда перемещаться дальше. Ложные активы вносят неопределенность в этот процесс принятия решений и создают дополнительные возможности для обнаружения.

Для облачных ИИ-сред ShadowPlex Cloud Security распространяет технологии обмана на облачные ресурсы и пути атак, где злоумышленники могут искать учетные данные, секреты, хранилища и привилегированный доступ.

Результаты учений ВМС США ANTX FY25

Технология киберобмана Acalvio была протестирована в ходе учений ВМС США NIWC Pacific Cyber Resilient Systems ANTX FY25 против подготовленной команды Red Team в условиях реального противоборства.

По данным Acalvio, развертывание платформы обеспечило 100% истинно положительных оповещений и предотвратило выполнение порядка 80% целей атакующих в рамках тестовой среды.

Эти цифры отражают разные показатели.

100% истинно положительных срабатываний означает, что все оповещения, сгенерированные уровнем обмана, соответствовали подтвержденной вредоносной активности. Это не означает, что абсолютно каждый сценарий проникновения был зафиксирован, но указывает на нулевой уровень ложных срабатываний.

Показатель срыва целей на уровне 80% отражает операционную эффективность: степень, в которой технологии обмана помешали Red Team выполнить свои задачи в ходе учений.

Зафиксированные срабатывания охватывали следующие виды активности:

• разведку и сбор данных (enumeration);
• доступ к учетным данным (credential access);
• горизонтальное перемещение (lateral movement);
• повышение привилегий (privilege escalation);
• эксфильтрацию данных.

Эти учения наглядно иллюстрируют роль киберобмана как слоя обнаружения угроз во время выполнения (runtime detection) наряду с традиционными средствами защиты.

AI-SPM и киберобман: взаимодополняющие технологии безопасности

Технология безопасности	Основной вопрос	Функция безопасности
AI Security Posture Management	Какие ИИ-активы у нас есть и как они настроены?	Инвентаризация, оценка конфигураций, управление рисками и их приоритезация
IAM и управление учетными данными	Кто авторизован для доступа к ресурсам?	Управление учетными записями, аутентификация, авторизация и принцип наименьших привилегий
Обнаружение во время выполнения (Runtime Detection)	Ведет ли себя учетная запись, агент или процесс вредоносно прямо сейчас?	Обнаружение активной компрометации и злоупотреблений после аутентификации
Киберобман (Cyber Deception)	Взаимодействовал ли атакующий с объектом, к которому никогда не должно быть доступа?	Высокоточное обнаружение через ложные активы и искусственные пути атак
SIEM/SOAR	Как сопоставлять события безопасности и реагировать на них?	Расследование, оркестрация, реагирование и управление инцидентами

Цель заключается не в том, чтобы заменить одну технологию другой.

Напротив, организации могут использовать AI-SPM для выявления мест, где состояние безопасности ИИ требует внимания, а киберобман во время выполнения — для обнаружения моментов, когда эти среды становятся объектом активных атак или злоупотреблений.

Управление безопасностью ИИ требует непрерывного мониторинга

Стандарты и фреймворки безопасности ИИ все чаще подчеркивают, что управление рисками не должно ограничиваться лишь оценкой конфигураций.

Фреймворк NIST AI Risk Management Framework (AI RMF) выстраивает управление рисками ИИ вокруг четырех функций: Govern (Управление), Map (Картирование), Measure (Измерение) и Manage (Контроль). Непрерывный мониторинг и управление рисками являются критически важными компонентами поддержания безопасности ИИ по мере эволюции систем и угроз.

Аналогично, руководство OWASP Top 10 for LLM Applications выделяет такие риски, как внедрение промптов (prompt injection), избыточная автономность (excessive agency), небезопасная обработка выводов и уязвимости цепочки поставок.

Эти риски требуют сочетания как превентивных мер, так и средств контроля во время выполнения.

Управление конфигурациями снижает риски атаки.

Средства контроля учетных записей ограничивают доступ.

Ограничения моделей и приложений (guardrails) сдерживают нежелательное поведение ИИ.

Обнаружение во время выполнения выявляет вредоносные действия, происходящие вопреки всем этим барьерам.

Киберобман добавляет еще один эффективный инструмент, создавая контролируемые точки взаимодействия, способные с высокой точностью вскрывать несанкционированную активность.

Построение стратегии мониторинга безопасности, готовой к ИИ

Организациям, внедряющим ИИ-агентов и приложения с поддержкой ИИ, следует рассмотреть следующие шаги в рамках эшелонированной архитектуры безопасности:

1. Проведите инвентаризацию поверхности атак на ИИ

Поддерживайте актуальный реестр моделей, агентов, API, машинных учетных записей, хранилищ данных, RAG-систем, инструментов и внешних интеграций.

2. Оцените конфигурации и права доступа

Используйте AI-SPM и системы управления идентификацией для выявления избыточных прав, открытых сервисов, небезопасных конфигураций и излишних доверительных отношений.

3. Мониторьте активность ИИ во время выполнения

Обеспечьте видимость действий агентов, вызовов API, использования учетных записей, обращения к инструментам, доступа к данным и другой активности в режиме реального времени.

4. Внедрите средства высокоточного обнаружения

Используйте киберобман для создания фальшивых учетных данных, honeytokens, приманок-сервисов и путей HoneyPaths на наиболее критичных направлениях атак.

5. Интегрируйте данные с SOC

Передавайте сигналы киберобману и аналитику реального времени в существующие рабочие процессы SIEM, SOAR, XDR и реагирования на инциденты.

6. Проверяйте архитектуру на практике

Регулярно тестируйте системы обнаружения и реагирования с помощью симуляции атак, анализа путей атак и сценариев с использованием ИИ.

Главная цель — обеспечить непрерывность между управлением рисковыми зонами и активным обнаружением угроз.

Управление состоянием безопасности ИИ плюс обнаружение во время выполнения

AI-SPM становится важнейшим компонентом корпоративной безопасности ИИ, поскольку организации не могут защитить активы, о существовании которых они не знают или которые не понимают.

Но знание того, что ИИ-среда правильно настроена, не гарантирует ее безопасности в режиме реальной работы.

Легитимная учетная запись может быть скомпрометирована.

Разрешенный API может быть использован во вред.

ИИ-агентом могут сманипулировать.

Сервисный аккаунт может быть перенаправлен на выполнение несанкционированных задач.

В каждом из этих случаев конфигурация может оставаться неизменной, в то время как ситуация с безопасностью меняется кардинально.

Именно поэтому для безопасности ИИ необходима как видимость состояния (posture visibility), так и обнаружение во время выполнения (runtime detection).

AI-SPM помогает организациям понять, что существует в инфраструктуре, как оно настроено и где сконцентрированы риски. Обнаружение во время выполнения помогает определить, пытаются ли злоумышленники прямо сейчас эксплуатировать эту среду.

Добавляя киберобман в архитектуру безопасности, компании создают возможности высокоточного обнаружения атак на доступных для ИИ направлениях и повышают эффективность прошлых инвестиций в IAM, PAM, EDR, SIEM, XDR и облачную безопасность.

Укрепите вашу стратегию безопасности ИИ вместе с Acalvio

По мере того как ИИ-агенты и автономные процессы всё глубже интегрируются в корпоративные среды, командам безопасности требуется видимость не только того, как настроены ИИ-системы, но и того, как они ведут себя во время атаки.

Технологии 360 Deception и ShadowPlex от Acalvio обеспечивают обнаружение угроз во время выполнения на основе киберобману, предназначенное для вскрытия несанкционированного использования учетных данных, горизонтального перемещения, несанкционированного доступа и другой вредоносной активности в корпоративных, облачных, идентичностных и ИИ-средах.

Компания Softprom является официальным дистрибьютором Acalvio и помогает организациям оценить, как обнаружение угроз во время выполнения на базе киберобману может дополнить их существующую инфраструктуру AI-SPM и общую архитектуру безопасности.

Узнайте, как решения Acalvio помогают устранить слепую зону между управлением состоянием безопасности ИИ и обнаружением угроз в режиме реального времени.