Thales запускает AI Security Fabric для защиты приложений на основе LLM и агентного ИИ

Новое поколение ИИ требует нового поколения защиты

Thales, мировой лидер в области критически важных решений для кибербезопасности, объявила о выпуске AI Security Fabric – первого в отрасли комплексного решения, предназначенного для обеспечения безопасности приложений на основе больших языковых моделей (LLM) и автономного агентного ИИ (Agentic AI). Эта платформа разработана для устранения уникальных уязвимостей, возникающих при использовании LLM и постоянно расширяющегося функционала ИИ-агентов, которые могут самостоятельно принимать решения и выполнять действия.

Традиционные методы обеспечения безопасности не способны справиться с динамической и непредсказуемой природой современных ИИ-приложений. Решение Thales предоставляет уникальный набор средств управления безопасностью и конфиденциальностью данных непосредственно во время выполнения ИИ-моделей.

Ключевые функциональные возможности AI Security Fabric

AI Security Fabric от Thales сосредоточен на предоставлении контроля, необходимого для безопасного развертывания ИИ в корпоративной среде. Решение включает в себя:

• Защита от атак, специфичных для LLM: Нейтрализация таких угроз, как инъекции промптов (Prompt Injection), утечки данных при их извлечении (Retrieval-Augmented Generation - RAG) и злоупотребление автономными агентами.
• Контроль доступа к данным и их маскирование: Обеспечение того, чтобы LLM имели доступ только к необходимым данным, а конфиденциальная информация автоматически маскировалась перед обработкой.
• Проверка целостности ответов: Использование продвинутых техник, таких как маркировка (Watermarking) и криптографические доказательства, для проверки подлинности и происхождения выходных данных, предотвращая генерацию вредоносного или ложного контента.
• Политики использования и соответствие нормативам: Предоставление организациям возможности устанавливать строгие политики в отношении того, как ИИ-агенты могут взаимодействовать с корпоративными системами и данными, гарантируя соответствие требованиям регулирующих органов.

По мере того как ИИ меняет бизнес-процессы, организациям требуются решения по обеспечению безопасности, адаптированные к конкретным рискам, связанным с применением агентного ИИ и генеративного ИИ. Thales AI Security Fabric предлагает предприятиям специализированные инструменты для защиты ИИ-приложений при минимальной сложности эксплуатации. Опираясь на многолетний опыт в области безопасности, Thales позволяет предприятиям уверенно масштабировать внедрение ИИ, защищая конфиденциальные данные, приложения и взаимодействия пользователей.

Почему традиционные методы не работают?

Появление агентного ИИ, способного автономно планировать и выполнять многоэтапные задачи, создает принципиально новые векторы атаки. Злоумышленники могут манипулировать логикой агентов или их взаимодействием с внешними инструментами. Решение Thales действует как “сторожевой пес” (Guardrail) в реальном времени, который контролирует ввод (промпты), промежуточные шаги и вывод данных из LLM.

Как Thales (Imperva) может помочь в защите ИИ

С помощью AI Security Fabric организации могут внедрять инновации на базе ИИ с уверенностью, что их приложения и конфиденциальные данные защищены. Эта платформа не является заменой существующим средствам киберзащиты, а представляет собой критически важный, недостающий уровень безопасности, специфичный для ИИ. Она обеспечивает:

• Конфиденциальность: Гарантия того, что частные или регулируемые данные не будут использованы ИИ не по назначению.
• Целостность: Защита логики ИИ-приложений от манипуляций и несанкционированных действий.
• Доступность: Предотвращение сбоев и злоупотреблений, которые могут вывести из строя критически важные ИИ-сервисы.

Thales (Imperva) предлагает комплексный подход, дополняя существующие решения для защиты приложений (WAF, API Security) специализированным уровнем для контроля LLM и Agentic AI.

Рекомендация Softprom: Комплексная защита данных

В контексте защиты LLM-приложений критически важным является не только контроль самого ИИ, но и защита базовых данных, которые он использует. Здесь на помощь приходят существующие технологии Thales, в частности, решения по шифрованию, управлению ключами и защите баз данных.

Технологии Thales (Imperva) в контексте AI Security Fabric:

• Защита данных в покое: Используйте Thales Data Protection Platform для шифрования и токенизации данных, которые LLM-приложения могут извлекать из корпоративных хранилищ. Это гарантирует, что даже в случае утечки, сами данные останутся нечитаемыми.
• Защита доступа к данным: Решения для управления привилегированным доступом (PAM) и мониторинга баз данных (DBF) от Imperva, теперь часть Thales Group, обеспечивают строгий контроль за тем, какие пользователи, приложения или даже ИИ-агенты обращаются к конфиденциальной информации.