Thales запускає AI Security Fabric для захисту додатків на основі LLM та агентного ШІ

Нове покоління ШІ потребує нового покоління захисту

Thales, світовий лідер у сфері критично важливих рішень для кібербезпеки, оголосила про випуск AI Security Fabric – першого в індустрії комплексного рішення, призначеного для забезпечення безпеки застосунків на основі великих мовних моделей (LLM) та автономного агентного ШІ (Agentic AI). Ця платформа розроблена для усунення унікальних вразливостей, що виникають під час використання LLM і постійно зростаючого функціоналу ШІ-агентів, які можуть самостійно ухвалювати рішення та виконувати дії.

Традиційні методи забезпечення безпеки не здатні впоратися з динамічною та непередбачуваною природою сучасних ШІ-застосунків. Рішення Thales надає унікальний набір засобів керування безпекою та конфіденційністю даних безпосередньо під час виконання ШІ-моделей.

Ключові функціональні можливості AI Security Fabric

AI Security Fabric від Thales зосереджений на забезпеченні контролю, необхідного для безпечного розгортання ШІ у корпоративному середовищі. Рішення включає:

• Захист від атак, специфічних для LLM: Нейтралізація таких загроз, як ін’єкції промптів (Prompt Injection), витоки даних під час їх отримання (Retrieval-Augmented Generation – RAG) та зловживання автономними агентами.
• Контроль доступу до даних і їх маскування: Забезпечення того, щоб LLM мали доступ лише до необхідних даних, а конфіденційна інформація автоматично маскувалася перед обробкою.
• Перевірка цілісності відповідей: Використання передових технік, таких як маркування (Watermarking) та криптографічні докази, для перевірки автентичності та походження вихідних даних, запобігаючи генерації шкідливого або неправдивого контенту.
• Політики використання та відповідність нормативам: Надання організаціям можливості встановлювати суворі політики щодо того, як ШІ-агенти можуть взаємодіяти з корпоративними системами та даними, гарантуючи відповідність регуляторним вимогам.

У міру того, як ШІ змінює бізнес-процеси, організаціям потрібні рішення із забезпечення безпеки, адаптовані до конкретних ризиків, пов’язаних із використанням агентного ШІ та генеративного ШІ. Thales AI Security Fabric пропонує підприємствам спеціалізовані інструменти для захисту ШІ-застосунків із мінімальною складністю експлуатації. Спираючись на багаторічний досвід у сфері безпеки, Thales дозволяє компаніям упевнено масштабувати впровадження ШІ, захищаючи конфіденційні дані, застосунки та взаємодії користувачів.

Чому традиційні методи не працюють?

Поява агентного ШІ, здатного автономно планувати та виконувати багатоетапні завдання, створює принципово нові вектори атак. Зловмисники можуть маніпулювати логікою агентів або їхньою взаємодією з зовнішніми інструментами. Рішення Thales діє як «сторожовий пес» (Guardrail) у режимі реального часу, контролюючи введення (промпти), проміжні кроки та виведення даних із LLM.

Як Thales (Imperva) може допомогти у захисті ШІ

За допомогою AI Security Fabric організації можуть впроваджувати інновації на базі ШІ з упевненістю, що їхні застосунки та конфіденційні дані захищені. Ця платформа не є заміною існуючим засобам кіберзахисту, а представляє собою критично важливий, відсутній рівень безпеки, специфічний для ШІ. Вона забезпечує:

• Конфіденційність: Гарантія того, що приватні або регульовані дані не будуть використані ШІ неналежним чином.
• Цілісність: Захист логіки ШІ-застосунків від маніпуляцій та несанкціонованих дій.
• Доступність: Запобігання збоям і зловживанням, які можуть вивести з ладу критично важливі ШІ-сервіси.

Thales (Imperva) пропонує комплексний підхід, доповнюючи існуючі рішення для захисту застосунків (WAF, API Security) спеціалізованим рівнем для контролю LLM і Agentic AI.

Рекомендація Softprom: Комплексний захист даних

У контексті захисту LLM-застосунків критично важливо не лише контролювати сам ШІ, а й захищати базові дані, які він використовує. Тут у пригоді стають існуючі технології Thales, зокрема рішення для шифрування, керування ключами та захисту баз даних.

Технології Thales (Imperva) у контексті AI Security Fabric:

• Захист даних у стані спокою: Використовуйте Thales Data Protection Platform для шифрування та токенізації даних, які LLM-застосунки можуть отримувати з корпоративних сховищ. Це гарантує, що навіть у разі витоку самі дані залишаться нерозбірливими.
• Захист доступу до даних: Рішення для керування привілейованим доступом (PAM) і моніторингу баз даних (DBF) від Imperva, яка тепер є частиною Thales Group, забезпечують суворий контроль над тим, які користувачі, застосунки або навіть ШІ-агенти звертаються до конфіденційної інформації.