Чому технології обману важливі в епоху ШІ-агентів

У міру того як штучний інтелект переходить від експериментів до промислової експлуатації, командам безпеки необхідно приділяти більше уваги тому, що ШІ-системи роблять під час виконання (runtime) — а не лише тому, як вони тестуються перед розгортанням.

Протягом останніх кількох років більша частина дискусій про безпеку ШІ була зосереджена на заходах захисту до розгортання: оцінці моделей, ред-тімінгу та "гардрайлах" (обмежувачах), покликаних запобігти небезпечній поведінці. Усе це залишається життєво важливим. Однак, як тільки ШІ-агент починає працювати всередині корпоративного середовища з реальними обліковими даними, інструментами та дозволами, виникає інший виклик: як організації можуть виявляти те, що агент реально робить під час роботи?

Саме тому технології обману (deception technology) знову привертають до себе підвищену увагу.

Інцидент із Hugging Face наочно проілюстрував цю проблему. У липні компанія Hugging Face повідомила про компрометацію своєї виробничої інфраструктури за участю автономної системи ШІ-агентів. Згодом компанія OpenAI заявила, що її агенти проводили оцінки кібербезпеки передових моделей. На конференції Black Hat у серпні представники OpenAI обговорили цей інцидент та складнощі управління ризиками, пов'язаними з агентами.

Серед захисних підходів, що обговорювалися, були honeytokens та технології обману. Принцип, що лежить в їхній основі, простий: якщо ШІ-агент не може легко відрізнити легітимні облікові дані від фальшивих, створених для виклику тривоги, його дії стають прозорішими для спостереження — і невизначеність починає працювати на користь захисників.

Для корпоративних команд безпеки це порушує важливе запитання: чи можна надійно розгорнути технології обману у великому середовищі, що постійно змінюється?

Чому ШІ-агенти змінюють рівняння безпеки

ШІ-агенти можуть виконувати завдання, досліджувати системи, знаходити облікові дані та взаємодіяти з ресурсами з мінімальною участю людини. Коли агент стикається з обліковими даними або можливим маршрутом до своєї мети, він може спробувати використати їх у межах виконання завдання. У мультиагентних середовищах виявлена інформація також може передаватися між агентами, що потенційно збільшує масштаб наслідків однієї витоку.

Така поведінка створює можливості для захисників.

Правильно розгорнуті фальшиві облікові дані, облікові записи (identity) або ресурси не повинні викликатися легітимними користувачами або схваленими робочими процесами. Тому будь-яка взаємодія з ними дає високоточний сигнал про підозрілу активність. На відміну від традиційних підходів до виявлення, які покладаються на виявлення відомих шаблонів атак, децепція генерує сигнал у момент, коли нападник або агент торкається того, що має залишатися недоторканим.

Ця відмінність є критично важною, коли точну поведінку загрози на базі ШІ важко передбачити. Агенти можуть комбінувати інструменти, облікові дані та техніки способами, які не збігаються зі встановленими правилами виявлення. Децепція додає контекстний сигнал середовища, який не залежить виключно від розпізнавання заздалегідь визначеної техніки атаки.

Проблема не обмежується зовнішніми нападниками. ШІ-агенти, розгорнуті самою організацією, також можуть поводитися несподіваним чином у процесі досягнення поставлених цілей. Агент може мати легітимний доступ до систем, але при цьому обрати небезпечний або несанкціонований шлях для виконання завдання.

Обмежувачі на рівні моделі та політики доступу залишаються важливими, але вони не можуть гарантувати, що кожна можлива поведінка буде передбачена заздалегідь. Моніторинг під час виконання (runtime) та виявлення на рівні середовища забезпечують додаткову видимість того, що відбувається після того, як агент починає роботу.

Чому важлива масштабована децепція

Децепція давно пропонує спосіб виявлення противників за допомогою приманок, honeytokens та фальшивої інфраструктури. Однак традиційні розгортання буває важко підтримувати в масштабах підприємства.

Створення та управління приманками вручну в середовищі, що змінюється, вимагає часу. Активи, облікові записи, додатки та хмарні ресурси безперервно змінюються, і фальшиві елементи повинні залишатися актуальними, не створюючи при цьому надмірних операційних витрат.

Практична платформа децепції повинна забезпечувати послідовне розгортання та управління цими елементами, зберігаючи реалістичність середовища та корисність сигналів виявлення.

Acalvio вирішує це завдання за допомогою своєї платформи ShadowPlex Preemptive Cybersecurity та підходу 360 Deception. Замість того щоб створювати та обслуговувати кожен фальшивий ресурс окремо, платформа може проектувати приманки з централізованої інфраструктури обману та розгортати легкі фальшиві елементи — включаючи honeytokens, "хлібні крихти" (breadcrumbs) та фальшиві облікові записи — в IT, OT, identity та хмарних середовищах.

Цей підхід покликаний допомогти організаціям розширити покриття децепцією, одночасно знижуючи бремя ручного розгортання та постійного обслуговування.

Чому Acalvio

Acalvio фокусується на тому, щоб зробити децепцію практичною для корпоративних середовищ, де критично важливі масштаб, покриття та операційна ефективність.

Її підхід поєднує кілька технік обману, допомагаючи командам безпеки створювати більше можливостей для виявлення підозрілих взаємодій. Розподіляючи фальшиві елементи по різних середовищах, організації отримують видимість активності, що зачіпає облікові дані, записи та ресурси, до яких у легітимних користувачів та процесів не повинно бути доступу.

Платформа Acalvio є актуальною для кількох пріоритетів безпеки:

• Виявлення під час виконання (Runtime detection): виявлення підозрілих взаємодій із фальшивими ресурсами під час роботи систем.
• Захист облікових даних та Identity: використання фальшивих облікових записів та даних для виявлення потенційного зловживання.
• Крос-середовищне покриття: поширення децепції на IT, OT, кінцеві точки, інфраструктуру Identity та хмарні середовища.
• Операційна масштабованість: використання централізованої інфраструктури та автоматизації для скорочення зусиль із розгортання та обслуговування приманок.
• Високоточні сигнали: генерація сповіщень на основі взаємодій із ретельно розміщеними приманками, що допомагає командам розслідувати дійсно важливу активність.

Технологія обману Acalvio також отримала зовнішнє визнання у конкурсі ВМС США з кіберстійкості, організованому NIWC Pacific. Згідно із заявою ВМС, Acalvio посіла перше місце у випробуванні, сценарій якого був побудований на припущенні, що середовище вже може бути скомпрометоване. Таке визнання надає корисний контекст, хоча організаціям усе ж слід оцінювати будь-яку платформу з урахуванням власних технічних вимог та сценаріїв безпеки.

Децепція як частина багаторівневої стратегії безпеки ШІ

Децепція не замінює тестування моделей, моніторинг під час виконання, управління ідентифікацією та доступом або реагування на інциденти. Вона доповнює ці засоби контролю, вводячи інший тип сигналу виявлення.

Багаторівнева стратегія може поєднувати:

• Тестування до розгортання для оцінки моделей та виявлення вразливостей до релізу.
• Обмежувачі (guardrails) та контроль доступу для обмеження того, що агентам дозволено робити.
• Моніторинг під час виконання (runtime) для спостереження за поведінкою агента та виявлення порушень політик.
• Технології обману (deception) для виявлення взаємодій з обліковими даними, записами та ресурсами, до яких не можна торкатися.
• Реагування на інциденти та локалізація для розслідування алертів та обмеження можливого збитку.

Разом ці засоби контролю допомагають організаціям протистояти як очікуваним загрозам, так і несподіваній поведінці, що виникає після того, как ШІ-агент виходить у продакшен.

У міру того як підприємства впроваджують усе більш автономні системи, здатність спостерігати та реагувати на активність під час виконання стає дедалі важливішою. Команди безпеки не можуть передбачити кожну дію, яку може зробити агент — але вони можуть спроектувати середовище так, щоб підозрілу активність було легше виявити.

Змусьте середовище працювати на захисника

ШІ-агенти можуть діяти швидко, досліджувати доступні ресурси та використовувати знайдену інформацію для досягнення своїх цілей. Захисникам потрібні способи перетворити ці взаємодії на практичні сигнали безпеки.

Технології децепції надають саме такий механізм. Розміщуючи реалістичні, але контрольовані приманки там, де з ними може зіткнутися несанкціонована активність, організації можуть зробити підозрілу поведінку більш видимою, не покладаючись виключно на відомі сигнатури атак.

Для підприємств, які прагнуть зміцнити виявлення в реальному часі у складних середовищах, Acalvio пропонує підхід на основі децепції, розроблений для масштабованого розгортання в IT, OT, identity та хмарній інфраструктурі.

Softprom є офіційним дистриб'ютором Acalvio. Зв'яжіться з Softprom, щоб обговорити, як технології обману Acalvio можуть доповнити стратегію кібербезпеки вашої організації та покращити видимість підозрілої активності.