Acalvio — Автономні атаки ШІ: нова реальність хмарної безпеки

Нещодавні дослідження підтвердили те, чого багато команд з кібербезпеки вже побоювалися: кібератаки більше не є виключно результатом людських дій. Фахівці з безпеки задокументували автономну хмарну атаку, оркестровану ШІ, під час якої зловмисник пройшов шлях від початкового доступу до повних адміністративних привілеїв менш ніж за 10 хвилин.

Такий рівень швидкості й автоматизації означає фундаментальні зміни. Атаки, які раніше тривали години або дні — а іноді й тижні, — тепер можуть виконуватися ШІ-агентами від початку до кінця на машинній швидкості. Для захисників це чіткий відхід від традиційних моделей загроз і потреба в новій стратегії захисту.

Анатомія хмарної атаки, оркестрированої ШІ (LLMjacking)

Зафіксована атака була спрямована на організацію, що використовувала AI- та LLM-навантаження в AWS. Метою зловмисника було отримання несанкціонованого доступу до AWS Bedrock і запуск GPU-ресурсів для навчання моделей — техніка атаки, відома як LLMjacking, за якої противники захоплюють інфраструктуру ШІ для власних потреб.

Експлойт розвивався за багатоступеневим сценарієм:

• Початковий доступ — зловмисник отримав дійсні облікові дані AWS, опубліковані в публічному S3-бакеті.
• Виявлення та розвідка — ШІ-агент швидко проаналізував ролі IAM для пошуку облікових записів з підвищеними привілеями.
• Підвищення привілеїв — зловмисник прийняв адміністративні ролі та впровадив шкідливий код у функції AWS Lambda.
• Закріплення — були створені бекдори для забезпечення довготривалого доступу.
• Виконання та вплив — AI-навантаження були запущені в AWS Bedrock з використанням несанкціонованих GPU-ресурсів.

Кожен етап був автоматизований і виконувався з мінімальною участю людини, що дозволило завершити всю атаку за лічені хвилини.

Чим атаки, оркестрировані ШІ, відрізняються

Хмарні атаки не є новими, і такі техніки, як «Living off the Cloud», використовуються вже багато років. Однак історично ці атаки виконувалися вручну. Навіть висококваліфікованим зловмисникам потрібен був час для аналізу середовища, латерального переміщення та підвищення привілеїв.

Автономні ШІ-агенти усувають ці обмеження. Вони здатні:

• масштабно перераховувати ідентичності та дозволи
• безперервно перевіряти шляхи доступу
• миттєво адаптуватися на основі зворотного зв’язку

У результаті швидкість атак зростає на порядок, роблячи суто реактивні підходи до виявлення неефективними.

Погляд захисника: підхід «assume compromise»

Хоча запобігання залишається важливим, ця атака підкреслює жорстку реальність: початковий доступ часто є неминучим, особливо у великих хмарних середовищах з численними ідентичностями, сервісами та інтеграціями.

Облікові дані можуть бути скомпрометовані, неправильно налаштовані або розкриті способами, які складно повністю усунути. Тому сучасна хмарна безпека має базуватися на принципі assume compromise — припущенні, що зловмисник уже отримав певний рівень доступу.

Ключове питання полягає в тому, наскільки швидко захисники зможуть виявити та зупинити атаку до настання наслідків.

Чому традиційні методи виявлення неефективні проти ШІ-атак

Більшість стратегій виявлення в хмарі спираються на аналіз аномалій — формування базової моделі «нормальної» поведінки та виявлення відхилень. Такий підхід за своєю природою є реактивним.

У динамічних та ефемерних хмарних середовищах базові профілі складно визначити. Коли ШІ-атака досягає мети менш ніж за 10 хвилин, просто не залишається часу для побудови значущих поведінкових патернів або реагування на аномалії.

Захист від таких загроз вимагає проактивного та превентивного підходу.

Превентивний захист: виявлення атак до завдання шкоди

Превентивний захист зосереджується на прогнозуванні поведінки зловмисників і розміщенні механізмів виявлення на ранніх етапах ланцюга атаки. Ключовим елементом цього підходу є кіберобман.

Кіберобман передбачає розгортання реалістичних, але фальшивих активів — honeytoken та приманок — у точках, що становлять інтерес для атакувальників. Будь-яка взаємодія з такими активами є високодостовірним індикатором зловмисної активності та забезпечує миттєве виявлення без хибних спрацювань.

Проєктування обману для атак, оркестрированих ШІ

Ефективна стратегія обману орієнтується на ранні етапи MITRE ATT&CK, найбільш релевантні для ШІ-атак, зокрема:

• Виявлення
• Доступ до облікових даних
• Підвищення привілеїв
• Закріплення

Мета — зупинити атаку до етапів виконання або впливу, де виникає реальна шкода.

Кіберобман для AWS та AI-навантажень

У середовищах AWS обманні активи створюються так, щоб виглядати цінними як для людини, так і для автономних ШІ-агентів. До них належать:

• Identity Honeytokens — фальшиві користувачі та ролі IAM з видимістю адміністративних привілеїв
• Credential Honeytokens — підроблені ключі доступу та секрети, що зберігаються в AWS Secrets Manager
• Cloud Resource Decoys — реалістичні EC2-інстанси, S3-бакети та функції Lambda

У сценарії LLMjacking кіберобман дозволяє виявити атаку вже на етапі переліку та прийняття ролей IAM, зупиняючи експлойт до повного встановлення адміністративного контролю.

Зупинка ШІ-атак на машинній швидкості

Поєднуючи превентивну безпеку та кіберобман, організації можуть виявляти автономних ШІ-агентів під час розвідки, а не після компрометації. Це зміщує баланс на користь захисників — змушуючи атакувальників розкривати себе на ранніх етапах і запобігаючи зловживанню хмарними та AI-ресурсами.

Як офіційний дистриб’ютор Acalvio, Softprom допомагає організаціям впроваджувати масштабовані та автоматизовані стратегії превентивного захисту, що забезпечують безпеку хмарних та AI-навантажень від нового покоління автономних атак.

Висновок

Атаки, оркестрировані ШІ, стискають часові рамки атак до хвилин, майже не залишаючи простору для реактивного захисту. Превентивна безпека, побудована на кіберобмані та honeytoken, забезпечує необхідну видимість і швидкість для виявлення та зупинки атак на найраніших етапах. В епоху автономних противників передбачення поведінки атакувальника стає не просто бажаним — воно є критично необхідним.