Эволюция искусственного интеллекта: риски безопасности Agentic AI и защита данных с Forcepoint Data Security Cloud

Технологии искусственного интеллекта стремительно эволюционируют. Если классический генеративный ИИ (Generative AI) выступает в роли умного ассистента, отвечающего на запросы, то новая волна автоматизации — автономный ИИ, или Agentic AI — кардинально меняет правила игры. ИИ-агенты способны действовать самостоятельно: формулировать подзадачи, принимать решения, взаимодействовать с внешними сервисами и выполнять комплексные рабочие процессы без постоянного контроля со стороны человека.

Такой скачок продуктивности открывает огромные возможности для бизнеса, но одновременно создает критические риски для информационной безопасности. ИТ-директорам (CIO) и руководителям по ИБ (CISO) необходимо уже сегодня пересматривать подходы к защите корпоративного периметра и конфиденциальных данных.

Главные риски безопасности при использовании Agentic AI

Внедрение автономных агентов расширяет плоскость атаки и создает новые уязвимости, которые невозможно перекрыть традиционными инструментами контроля. Эксперты Forcepoint выделяют несколько фундаментальных угроз, с которыми сталкиваются современные службы безопасности.

Во-первых, это проблема избыточных привилегий и чрезмерного доступа к данным. Чтобы ИИ-агент мог выполнять сложные задачи (например, анализировать воронку продаж или обрабатывать тикеты техподдержки), ему предоставляют широкие права на чтение и запись в корпоративных базах данных, CRM-системах и облачных хранилищах. Это превращает агента в приоритетную цель для злоумышленников: получив контроль над ним, хакер автоматически получает доступ ко всей связанной экосистеме данных.

Во-вторых, возникает риск компрометации цепочки поставок ИИ. Современные агенты часто используют сторонние плагины, библиотеки и внешние сервера интеграции. Появление скрытых Shadow Agents (теневых агентов), развернутых сотрудниками в обход ИТ-департамента, или уязвимых внешних протоколов создает неконтролируемые каналы утечки коммерческой тайны и персональных данных за пределы компании.

Ключевые отличия ИИ-систем и риски утечки

Классический Generative AI

• Принцип работы: Реагирует на прямые запросы пользователя (промпты).
• Уровень автономности: Низкий, полностью контролируется человеком в рамках одной сессии.
• Риск для данных: Ограничен случайной отправкой конфиденциальной информации в окно чата.

Автономный Agentic AI

• Принцип работы: Получает верхнеуровневую цель и самостоятельно планирует шаги для ее достижения.
• Уровень автономности: Высокий, имеет доступ к API, базам данных и сторонним приложениям.
• Риск для данных: Экспоненциальный, из-за неконтролируемого перемещения информации между сервисами и угрозы выполнения вредоносных команд.

Ключевая опасность заключается в феномене, известном как косвенная инъекция промпта (Indirect Prompt Injection). Если ИИ-агент анализирует внешние данные — например, входящие письма или веб-страницы, злоумышленник может внедрить туда скрытые инструкции. Автономный агент выполнит их автоматически. Наглядным примером стала нашумевшая уязвимость EchoLeak, при которой скрытые в документах инструкции заставляли ИИ-ассистентов незаметно отправлять конфиденциальные корпоративные файлы на сторонние сервера атакующих без какого-либо участия пользователя. Это классический пример захвата целей агента (Agent Goal Hijack), когда система начинает работать против своего владельца.

Предоставление ИИ-агентам свободы действий без внедрения контекстной защиты данных — это прямой путь к масштабным инцидентам безопасности и потере контроля над корпоративной информацией.

Защита данных в эпоху автономного ИИ с Forcepoint Data Security Cloud

Чтобы минимизировать риски, связанные с использованием умных агентов, организациям необходима полная видимость и жесткий динамический контроль потоков данных. Традиционные DLP-системы, ориентированные на статические правила, не справляются с динамической средой ИИ. Эффективным решением этой проблемы становится облачная платформа Forcepoint Data Security Cloud, которая объединяет возможности передового DLP и управления состоянием безопасности данных (DSPM).

Это облачное решение обеспечивает сквозной мониторинг и защиту информации везде, где бы она ни находилась — в облачных хранилищах, веб-трафике, на конечных точках сотрудников или в каналах интеграции ИИ-сервисов. Forcepoint Data Security Cloud позволяет безопасно внедрять инновации благодаря следующим технологическим преимуществам:

• Сетевая архитектура классификации AI Mesh: Forcepoint использует интеллектуальную структуру AI Mesh для молниеносной и сверхточной классификации как структурированных, так и неструктурированных данных. Система точно определяет степень конфиденциальности информации (персональные данные, интеллектуальная собственность, исходный код) и блокирует ее передачу неавторизованным ИИ-агентам.
• Непрерывный поиск данных и DSPM: Платформа ведет постоянный автоматический аудит цифровой среды организации, помогая бороться с неконтролируемым разрастанием данных (data sprawl). Это позволяет ИБ-специалистам видеть, где находятся критические файлы и какие ИИ-приложения имеют к ним доступ.
• Адаптивный ИИ-ассистент ARIA: Встроенный интеллектуальный помощник ARIA (Adaptive Risk Intelligence Assistant) анализирует миллионы сигналов безопасности в режиме реального времени. ARIA помогает администраторам мгновенно выявлять пробелы в защите и активировать правила безопасности с помощью запросов на естественном языке, сохраняя полный контроль над политиками.
• Контроль каналов интеграции (API и Web): Решение отслеживает действия автономных агентов и запросы к веб-ресурсам, предотвращая несанкционированный экспорт информации в неблагонадежные ИИ-сервисы и блокируя использование несанкционированных инструментов (Shadow IT).

Использование Forcepoint Data Security Cloud позволяет CISO и ИТ-директорам развертывать инструменты автоматизации на базе ИИ с уверенностью, что корпоративные секреты и регуляторные данные остаются под надежной защитой, а любые аномалии в поведении систем будут мгновенно остановлены.

Почему стоит обратиться к Softprom

Внедрение комплексных систем защиты данных требует глубокой экспертизы и понимания ландшафта современных ИИ-угроз. Компания Softprom является официальным дистрибьютором решений Forcepoint и предлагает экспертную поддержку на каждом этапе проекта. Специалисты компании помогут провести аудит рисков, развернуть бесплатный пилотный проект Forcepoint Data Security Cloud в вашей инфраструктуре и обеспечат квалифицированное техническое сопровождение. Обращайтесь за консультацией.