Как обеспечить видимость и контроль данных в управлении рисками ИИ: практическое руководство для CISO

Многие программы управления рисками искусственного интеллекта выглядят безупречно исключительно на слайдах презентаций. В них правильно указаны стандарты, назначены ответственные руководители и заполнены реестры рисков. Однако простой вопрос о том, какие ИИ-агенты или сотрудники имели доступ к конфиденциальной информации клиентов на этой неделе и что именно они с ней сделали, часто остается без ответа. Этот разрыв между формально принятой политикой и реальным отсутствием контроля — ключевая причина остановки инициатив по безопасности ИИ.

Проблема кроется не в отсутствии регламентов, а в технической невозможности отследить реальные потоки данных. Компания Softprom, официальный дистрибьютор решений Forcepoint, предлагает разбор причин сбоя стандартных подходов к управлению рисками ИИ и рассказывает, как построить сквозную защиту с помощью платформы Forcepoint AI Data Security.

Где ломается фреймворк NIST AI RMF

При оценке рисков ИИ большинство специалистов по безопасности опираются на популярный фреймворк NIST AI Risk Management Framework. Он построен на четырех базовых функциями: Govern (Управление), Map (Картирование), Measure (Измерение) и Manage (Реагирование). На практике эта цепочка рушится посередине.

Невозможно измерить уровень риска в системе, которую вы не смогли правильно картировать, и невозможно картировать то, что вы не отслеживаете на уровне данных.

Рассмотрим, как работают функции NIST AI RMF и на каком этапе возникают критические проблемы:

Govern (Управление)

• Задачи: Формирование политики допустимого использования, назначение ответственных лиц и создание регламентов оценки сторонних ИИ-инструментов.
• Реальность: Большинство организаций успешно создают комитеты и публикуют правила. Однако политика часто создается до того, как появляется реальная картина использования ИИ в компании.

Map (Картирование)

• Задачи: Определение контекста работы каждой ИИ-системы, анализ обрабатываемых данных и возможных угроз.
• Реальность: Политика может запрещать ввод чувствительных данных в сторонние ИИ-сервисы, но этап Map требует точно знать, попали ли данные туда уже сейчас и через какие каналы. Без специализированных инструментов это сделать невозможно.

Measure (Измерение)

• Задачи: Количественная и качественная оценка рисков на основе данных картирования.
• Реальность: Функция полностью зависит от точности стадии Map. Если система не зафиксировала Shadow AI или автономных агентов, итоговые оценки рисков оказываются недостоверными.

Manage (Реагирование)

• Задачи: Внедрение технического контроля и принятие мер по снижению рисков на основе полученных измерений.
• Реальность: Принятие решений на основе неполных данных приводит к появлению скрытых угроз и искажению реального уровня защищенности организации.

Три главных фактора снижения контроля ИИ-безопасности

Исследования показывают, что более 50% руководителей ИТ и CISO считают снижение рисков ИИ крайне сложной задачей. Это связано с тремя основными сценариями:

• Shadow AI (Теневой ИИ): Сотрудники активно подключают расширения для браузеров, используют бесплатные учетные записи веб-чатов и встроенные функции ИИ в корпоративном ПО. Аудит по списку разрешенных вендоров фиксирует лишь малую часть реального объема использования ИИ.
• Автономные ИИ-агенты: Агенты самостоятельно вызывают API, читают и записывают данные в корпоративных системах без постоянного участия человека. Традиционный мониторинг не способен связать действие агента с конкретным пользователем и вовремя выявить аномалию.
• Потеря контекста классификации: Данные, корректно размеченные внутри файловых хранилищ, часто теряют метки классификации при попадании в ИИ-промпты, контекст агента или обучающие выборки. Чувствительность информации остается, а контроль над ней исчезает.

Решение от Forcepoint: защита на уровне данных

Попытки решить проблему за счет создания новых внутренних бюрократических процедур не дают результата. Требуется инструментарий, работающий непосредственно на уровне данных.

Специализированный комплекс Forcepoint AI Data Security обеспечивает непрерывную видимость и контроль за распределением корпоративной информации в средах искусственного интеллекта. Политикой безопасности и классификаторами охватываются любые каналы взаимодействия — от локальных Copilot до сторонних облачных сервисов.

Ключевые возможности Forcepoint AI Data Security

• Автоматическое обнаружение Shadow AI: Непрерывный мониторинг санкционированных и несанкционированных ИИ-приложений в сети компании.
• Инспекция промптов в реальном времени: Предотвращение утечек данных через текстовые запросы и файлы, отправляемые в модели ИИ.
• Аудит и контроль ИИ-агентов: Полная привязка действий автономных агентов к учётным записям и процессам для создания надежного аудиторского следа.
• Сквозное сохранение классификации: Защита данных сохраняется независимо от того, где и в какой форме они обрабатываются ИИ-системами.

Команда Softprom помогает предприятиям внедрять решения Forcepoint, обеспечивая полную экспертную поддержку на всех этапах проектирования и пилотирования системы безопасности.