Управління станом безпеки ШІ: чому виявлення під час виконання доповнює стратегію безпеки

У міру того як організації впроваджують моделі ШІ, автономних агентів, додатки RAG, машинні облікові записи та автоматизовані робочі процеси з підтримкою ШІ, поверхня атак на ШІ стрімко розширюється. Командам безпеки потрібна повна видимість існуючих ШІ-активів, їхніх конфігурацій та місць концентрації ризиків.

У цьому полягає роль AI Security Posture Management (AI-SPM) — управління станом безпеки ШІ.

Однак управління станом безпеки вирішує лише частину проблеми. Система може бути налаштована абсолютно правильно і при цьому перебувати під активною атакою зловмисника, який використовує вкрадені облікові дані, скомпрометовані акаунти, маніпульованих агентів або легітимні права доступу.

Це створює принципову різницю між станом безпеки (security posture) та безпекою в режимі виконання (runtime security).

AI-SPM допомагає відповісти на запитання:

Які ШІ-активи ми маємо, як вони налаштовані та де криються ризики?

Виявлення загроз під час виконання (runtime detection) вирішує інше запитання:

Чи зловживає хтось цими активами або довіреними обліковими даними просто зараз?

Для сучасних ШІ-середовищ критично важливими є відповіді на обидва ці запитання.

Головне

• AI Security Posture Management забезпечує інвентаризацію, перевірку конфігурацій, контроль прав доступу та видимість ризиків у ШІ-середовищах.
• AI-SPM є превентивним засобом захисту: воно виявляє слабкі місця до того, як ними скористаються зловмисники.
• Правильно налаштована система ШІ все одно може бути скомпрометована за допомогою вкрадених облікових даних, надмірних прав, маніпульованих агентів, отруєного контексту або несанкціонованого використання API.
• Виявлення під час виконання (runtime detection) виявляє активну шкідливу діяльність після того, как автентифікацію або авторизацію вже успішно пройдено.
• Кіберобман (Cyber deception) створює високоточні можливості для виявлення загроз за рахунок розгортання фальшивих облікових даних, сервісів та інших активів, до яких у легітимних робочих процесів немає причин звертатися.
• Acalvio 360 Deception розширює захист під час виконання на доступні для ШІ шляхи атак, а платформа ShadowPlex забезпечує автоматизовані можливості кіберобману для корпоративних та хмарних середовищ.

Що таке AI Security Posture Management?

AI Security Posture Management (AI-SPM) призначений для безперервного виявлення ШІ-активів, оцінки їхніх конфігурацій на відповідність політикам безпеки, виявлення надмірних прав доступу та пріоритетизації ризиків по всій поверхні атак на ШІ.

Ця концепція аналогічна Cloud Security Posture Management (CSPM), але поширює видимість безпеки на специфічні для ШІ компоненти, такі як:

• Моделі ШІ та ендпоінти моделей
• ШІ-агенти
• Машинні облікові записи (machine identities)
• API-інтеграції
• RAG-додатки
• Векторні бази даних
• Середовища розробки ШІ
• Хмарні ШІ-сервіси
• Репозиторії даних, що підтримують робочі навантаження ШІ

У міру того як підприємства впроваджують усе більше автономних агентів та ШІ-додатків, ручне підтримка точної інвентаризації стає практично неможливою.

AI-SPM допомагає командам безпеки сформувати цю видимість та усунути недоліки конфігурації до того, як вони перетворяться на доступні шляхи для атак.

Це дійсно важлива та необхідна функція безпеки.

Однак AI-SPM оцінює переважно конфігурацію та стан безпеки. Ця технологія не призначена для визначення того, чи використовується легітимний обліковий запис у шкідливих цілях наразі.

Ця відмінність і створює сліпу зону виявлення під час виконання (runtime detection gap).

Сліпа зона виявлення під час виконання

Сучасні нападники все частіше покладаються на легітимний доступ, замість того щоб намагатися зламати механізми автентифікації.

Зловмисник може отримати:

• вкрадені облікові дані;
• скомпрометовані сервісні акаунти;
• токени OAuth або API;
• надмірні права доступу;
• хмарні облікові записи;
• машинні ідентифікатори;
• доступ до ШІ-агента;
• скомпрометовані сторонні інструменти або інтеграції.

Пройшовши автентифікацію, нападник може діяти, використовуючи права, які організація офіційно та навмисно надала.

З точки зору управління станом безпеки (posture management) середовище продовжує залишатися налаштованим коректно.

Обліковий запис є валідним.

Права доступу є валідними.

Виклик API є санкціонованим.

Проте, сама діяльність є шкідливою.

У цьому й полягає проблема оцінки дій після автентифікації.

AI-SPM може повідомити команді безпеки, що обліковий запис має доступ до ШІ-сервісу. Але вона не визначає, чи використовує цей обліковий запис свій доступ для цільових бізнес-завдань чи на шкоду компанії.

Ось чому управління станом безпеки та виявлення загроз під час виконання слід розглядати як взаємодоповнюючі, а не конкуруючі підходи.

Як виявлення під час виконання доповнює AI-SPM

AI-SPM дає карту середовища та показує місця найбільшої концентрації ризиків.

Виявлення під час виконання (runtime detection) надає докази того, що ці активи просто зараз перебувають під атакою або несанкціоновано використовуються.

Разом вони формують повнішу архітектуру безпеки.

Кіберобман є одним із способов генерації високоточних сигналів у режимі реального часу.

Замість того щоб покладатися виключно на поведінкові аномалії, фахівці із захисту можуть розгортати фальшиві облікові дані, honeytokens, приманки-сервіси, шляхи HoneyPaths та інші реалістичні активи вздовж потенційних шляхів атак, до яких у легітимних користувачів та додатків немає причин звертатися.

Коли нападник взаємодіє з одним із цих активів, сама взаємодія стає беззаперечним сигналом безпеки.

Запитання змінюється з:

«Чи виглядає ця поведінка підозрілою?»

на:

«Чому обліковий запис або процес взаємодіє з активом, який не потрібен у жодному легітимному робочому процесі?»

Ця відмінність є особливо важливою в ШІ-середовищах, де автономні агенти генерують величезні обсяги активності, що виглядає легітимно.

Використання даних AI-SPM для пріоритетизації кіберобману

AI-SPM також допомагає визначити, де саме технології обману мають бути розгорнуті в першу чергу.

Наприклад, аналіз стану безпеки може виявити:

• машинний обліковий запис із доступом до кількох ШІ-сервісів;
• API, підключений до конфіденційних наборів даних;
• відкритий ендпоінт ШІ;
• критично важливу векторну базу даних;
• привілейований сервісний акаунт;
• хмарне сховище з конфіденційними артефактами ШІ.

Ці дані дозволяють точно визначити шляхи атак, де розміщення фальшивих активів принесе найбільшу користь.

Замість рівномірного розпилення ресурсів команди безпеки можуть сфокусувати захист на облікових записах, системах та маршрутах, які з найбільшою ймовірністю стануть мішенню.

Чотири рівні архітектури безпеки ШІ

Зріла програма безпеки ШІ вимагає кількох взаємодоповнюючих рівнів контролю.

1. Інвентаризація активів ШІ та управління станом (AI-SPM) — виявляє активи ШІ та безперервно оцінює їхню конфігурацію та ризики.
2. Управління конфігураціями та ідентифікацією — застосовує політики IAM, принцип найменших привілеїв, автентифікацію та контролі безпечної розробки.
3. Виявлення загроз під час виконання (Runtime threat detection) — виявляє активні атаки та зловживання після проходження автентифікації та авторизації.
4. Реагування та розслідування — інтегрує сигнали безпеки в процеси SIEM, SOAR та реагування на інциденти.

Кіберобман додає до цієї архітектури високоточний рівень виявлення.

Він не замінює IAM, PAM, MFA, EDR, XDR, SIEM або AI-SPM. Замість цього він надає цінну інформацію, яка допомагає цим системам швидше виявляти шкідливу активність.

Чому ШІ-середовища роблять виявлення під час виконання ще важливішим

Традиційна аналітика безпеки часто покладається на побудову профілю нормальної активності та виявлення відхилень від нього.

Це стає вкрай складним завданням у міру того, як робочі навантаження ШІ стають усе більш динамічними.

Автономний агент у межах штатної роботи може:

• викликати різні API залежно від завдання;
• звертатися до різних наборів даних;
• взаємодіяти з безліччю інструментів;
• створювати тимчасові ресурси;
• виконувати змінні послідовності дій;
• працювати безперервно без прямої участі людини.

У результаті нестандартна дія не завжди вказує на шкідливу поведінку.

Водночас шкідлива дія може виглядати абсолютно легітимною, якщо вона виконується з використанням валідних облікових даних.

Виникає складна задача виявлення:

Як команди безпеки можуть відрізнити санкціоновані дії від санкціонованих дій, які використовуються в несанкціонованих цілях?

Кіберобман пропонує інше джерело доказів.

Якщо ШІ-агент, сервісний акаунт або скомпрометований обліковий запис звертається до пароля, API, системи або ресурсу, що не має реального бізнес-призначення, ця взаємодія дає максимально чіткий сигнал про шкідливу активність.

Acalvio 360 Deception: додавання аналітики часу виконання

Acalvio 360 Deception виводить кіберобман за межі ізольованих ханіпотів та статичних приманок.

Підхід поєднує в собі безліч форм обману, призначених для ускладнення розвідки зловмисників та викриття шкідливих дій, включаючи:

• фальшиві облікові дані та сервіси;
• honeytokens;
• приманки-сервіси та фальшиву інфраструктуру;
• фальшиві шляхи атак (HoneyPaths);
• фальшиві хмарні ресурси;
• обман на рівні кінцевих точок та мережі;
• доступні для ШІ фальшиві активи.

Мета полягає в створенні середовища, у якому нападники не можуть легко отримати достовірну інформацію про інфраструктуру.

Це особливо ефективно проти автоматизованих атак.

Автономні системи атак залежать від інформації про оточення для прийняття рішень про те, що атакувати, які облікові дані використовувати та куди переміщатися далі. Фальшиві активи вносять невизначеність у цей процес прийняття рішень та створюють додаткові можливості для виявлення.

Для хмарних ШІ-середовищ ShadowPlex Cloud Security поширює технології обману на хмарні ресурси та шляхи атак, де зловмисники можуть шукати облікові дані, секрети, сховища та привілейований доступ.

Результати навчань ВМС США ANTX FY25

Технологія кіберобману Acalvio була протестована під час навчань ВМС США NIWC Pacific Cyber Resilient Systems ANTX FY25 проти підготовленої команди Red Team в умовах реального протиборства.

За даними Acalvio, розгортання платформи забезпечило 100% істинно позитивних сповіщень та запобігло виконанню близько 80% цілей нападників у межах тестового середовища.

Ці цифри відображають різні показники.

100% істинно позитивних спрацьовувань означає, що всі сповіщення, згенеровані рівнем обману, відповідали підтвердженій шкідливій активності. Це не означає, що абсолютно кожен сценарій проникнення було зафіксовано, але вказує на нульовий рівень хибних спрацьовувань.

Показник зриву цілей на рівні 80% відображає операційну ефективність: ступінь, у якій технології обману завадили Red Team виконати свої завдання під час навчань.

Зафіксовані спрацьовування охоплювали такі види активності:

• розвідку та збір даних (enumeration);
• доступ до облікових даних (credential access);
• горизонтальне переміщення (lateral movement);
• підвищення привілеїв (privilege escalation);
• ексфільтрацію даних.

Ці навчання наочно ілюструють роль кіберобману як шару виявлення загроз під час виконання (runtime detection) поряд із традиційними засобами захисту.

AI-SPM та кіберобман: взаємодоповнюючі технології безпеки

Технологія безпеки	Основне запитання	Функція безпеки
AI Security Posture Management	Які ШІ-активи ми маємо та як вони налаштовані?	Інвентаризація, оцінка конфігурацій, управління ризиками та їх пріоритетизація
IAM та управління обліковими даними	Хто авторизований для доступу до ресурсів?	Управління обліковими записами, автентифікація, авторизація та принцип найменших привілеїв
Виявлення під час виконання (Runtime Detection)	Чи поводиться обліковий запис, агент або процес шкідливо просто зараз?	Виявлення активної компрометації та зловживань після автентифікації
Кіберобман (Cyber Deception)	Чи взаємодіяв нападник з об'єктом, до якого ніколи не повинно бути доступу?	Високоточне виявлення через фальшиві активи та штучні шляхи атак
SIEM/SOAR	Як зіставляти події безпеки та реагувати на них?	Розслідування, оркестрація, реагування та управління інцидентами

Мета полягає не в тому, щоб замінити одну технологію іншою.

Навпаки, організації можуть використовувати AI-SPM для виявлення місць, де стан безпеки ШІ вимагає уваги, а кіберобман під час виконання — для виявлення моментів, коли ці середовища стають об'єктом активних атак або зловживань.

Управління безпекою ШІ вимагає безперервного моніторингу

Стандарти та фреймворки безпеки ШІ все частіше підкреслюють, що управління ризиками не повинно обмежуватися лише оцінкою конфігурацій.

Фреймворк NIST AI Risk Management Framework (AI RMF) вибудовує управління ризиками ШІ навколо чотирьох функцій: Govern (Управління), Map (Картування), Measure (Вимірювання) та Manage (Контроль). Безперервний моніторинг та управління ризиками є критично важливими компонентами підтримки безпеки ШІ в міру еволюції систем та загроз.

Аналогічно, керівництво OWASP Top 10 for LLM Applications виділяє такі ризики, як впровадження промптів (prompt injection), надмірна автономність (excessive agency), небезпечна обробка виводів та вразливості ланцюга постачання.

Ці ризики вимагають поєднання як превентивних заходів, так і засобів контролю під час виконання.

Управління конфігураціями знижує ризики атаки.

Засоби контролю облікових записів обмежують доступ.

Обмеження моделей та додатків (guardrails) стримують небажану поведінку ШІ.

Виявлення під час виконання виявляє шкідливі дії, що відбуваються всупереч усім цим бар'єрам.

Кіберобман додає ще один ефективний інструмент, створюючи контрольовані точки взаємодії, здатні з високою точністю викривати несанкціоновану активність.

Побудова стратегії моніторингу безпеки, готової до ШІ

Організаціям, що впроваджують ШІ-агентів та додатки з підтримкою ШІ, слід розглянути такі кроки в межах ешелонованої архітектури безпеки:

1. Проведіть інвентаризацію поверхні атак на ШІ

Підтримуйте актуальний реєстр моделей, агентів, API, машинних облікових записів, сховищ даних, RAG-систем, інструментів та зовнішніх інтеграцій.

2. Оцініть конфігурації та права доступу

Використовуйте AI-SPM та системи управління ідентифікацією для виявлення надмірних прав, відкритих сервісів, небезпечних конфігурацій та зайвих довірчих відносин.

3. Моніторьте активність ШІ під час виконання

Забезпечте видимість дій агентів, викликів API, використання облікових записів, звернення до інструментів, доступу до даних та іншої активності в режимі реального часу.

4. Впровадьте засоби високоточного виявлення

Використовуйте кіберобман для створення фальшивих облікових даних, honeytokens, приманок-сервісів та шляхів HoneyPaths на найважливіших напрямках атак.

5. Інтегруйте дані з SOC

Передавайте сигнали кіберобману та аналітику реального часу в існуючі робочі процеси SIEM, SOAR, XDR та реагування на інциденти.

6. Перевіряйте архітектуру на практиці

Регулярно тестуйте системи виявлення та реагування за допомогою симуляції атак, аналізу шляхів атак та сценаріїв із використанням ШІ.

Головна мета — забезпечити безперервність між управлінням ризиковими зонами та активним виявленням загроз.

Управління станом безпеки ШІ плюс виявлення під час виконання

AI-SPM стає найважливішим компонентом корпоративної безпеки ШІ, оскільки організації не можуть захистити активи, про існування яких вони не знають або які не розуміють.

Але знання того, що ШІ-середовище правильно налаштоване, не гарантує його безпеки в режимі реальної роботи.

Легітимний обліковий запис може бути скомпрометований.

Дозволений API може бути використаний на шкоду.

ШІ-агентом можуть зманіпулювати.

Сервісний акаунт може бути перенаправлений на виконання несанкціонованих завдань.

У кожному з цих випадків конфігурація може залишатися незмінною, тоді як ситуація з безпекою змінюється кардинально.

Саме тому для безпеки ШІ необхідна як видимість стану (posture visibility), так і виявлення під час виконання (runtime detection).

AI-SPM допомагає організаціям зрозуміти, що існує в інфраструктурі, як воно налаштоване та де сконцентровані ризики. Виявлення під час виконання допомагає визначити, чи намагаються зловмисники просто зараз експлуатувати це середовище.

Додаючи кіберобман в архітектуру безпеки, компанії створюють можливості високоточного виявлення атак на доступних для ШІ напрямках та підвищують ефективність минулих інвестицій у IAM, PAM, EDR, SIEM, XDR та хмарну безпеку.

Зміцніть вашу стратегію безпеки ШІ разом із Acalvio

У міру того як ШІ-агенти та автономні процеси все глибше інтегруються в корпоративні середовища, командам безпеки потрібна видимість не лише того, як налаштовані ШІ-системи, але й того, як вони поводяться під час атаки.

Технології 360 Deception та ShadowPlex від Acalvio забезпечують виявлення загроз під час виконання на основі кіберобману, призначене для викриття несанкціонованого використання облікових даних, горизонтального переміщення, несанкціонованого доступу та іншої шкідливої активності в корпоративних, хмарних, ідентифікаційних та ШІ-середовищах.

Компанія Softprom є офіційним дистриб'ютором Acalvio та допомагає організаціям оцінити, як виявлення загроз під час виконання на базі кіберобману може доповнити їхню існуючу інфраструктуру AI-SPM та загальну архітектуру безпеки.

Дізнайтеся, як рішення Acalvio допомагають усунути сліпу зону між управлінням станом безпеки ШІ та виявленням загроз у режимі реального часу.