Как запускать и защищать AI-агентов в масштабе: Akamai Inference и Agent Sandbox

Предприятия, переводящие AI из пилота в продакшн, сталкиваются с фрагментированным стеком: инфраструктура обслуживания, доступ к данным, маршрутизация, governance и жесткие границы вокруг кода, который пишут и выполняют агенты. Сборка этих компонентов у разных поставщиков увеличивает задержки, стоимость и поверхность атаки. Akamai объединяет их на единой глобальной платформе, охватывающей ключевые GPU-регионы и более 4 350 edge-локаций. Softprom является официальным дистрибьютором Akamai.

Что было анонсировано

Akamai (Nasdaq: AKAM) выпустила два базовых продукта для своего AI-стека: Akamai Inference и Akamai Agent Sandbox. Компания также расширила GPU-парк кластерами NVIDIA Blackwell Ultra и готовит дата-центры к платформе NVIDIA Vera Rubin в 2027 году. Akamai Cloud уже заключила многолетние контракты общей стоимостью более 14 млрд долларов.

Akamai Inference предоставляет управляемый доступ к open-weight и кастомным моделям через OpenAI-совместимые API. В стартовом каталоге — 12 open-weight моделей от 8 миллиардов до 2,8 триллиона параметров, в том числе NVIDIA Nemotron 3 Ultra, OpenAI gpt-oss-120b и Google Gemma 4, а также embedding-модели для RAG. Доступны serverless pay-per-use или выделенные развертывания.

Akamai Agent Sandbox поставляется как open source компонент фреймворка Spin и дает разработчикам изолированную среду для агентов и сгенерированного ими кода, используя WebAssembly-изоляцию для ограничения вычислений, памяти, исходящих соединений и системных возможностей.

Akamai Inference и Akamai Agent Sandbox добавляют уровни inference и выполнения, которые превращают нашу AI-инфраструктуру в полноценный AI-стек, а портфолио безопасности защищает каждый его уровень

Почему это важно

Для CIO, CISO и руководителей закупок переход к agentic AI создает новые векторы риска: автономное выполнение кода, неконтролируемые исходящие вызовы и вариативность производительности в shared-tenancy. Единая платформа, объединяющая inference, изоляцию агентов, резидентность данных и безопасность, снижает интеграционные затраты и число вендоров. Выделенные GPU-кластеры снимают ограничения по скорости и очереди, давая командам контроль над версиями моделей и сроками вывода из эксплуатации.

Технические детали

• Inference API: OpenAI-совместимый, serverless или выделенный.
• Каталог моделей: 12 open-weight моделей, от 8B до 2.8T параметров.
• GPU-парк: NVIDIA RTX PRO 6000 Blackwell Server Edition и кластеры Blackwell Ultra.
• Узел Blackwell Ultra: 8 GPU, 288 ГБ HBM3e на GPU, 2,3 ТБ суммарно.
• Изоляция агентов: WebAssembly через фреймворк Spin (open source).
• Edge-сеть: более 4 350 edge-локаций, соединенных с core-регионами.
• Доступность: оба продукта в бета-версии; NVIDIA B300 GPU — через Akamai Sales.

Часто задаваемые вопросы

Что такое Akamai Inference?

Это управляемый сервис для запуска open-weight и кастомных AI-моделей через OpenAI-совместимые API на Akamai Cloud, с опциями serverless или выделенного развертывания и 12 моделями на старте.

Как Akamai Agent Sandbox изолирует код агентов?

Используется WebAssembly-изоляция через open source фреймворк Spin, ограничивающая вычисления, память, исходящие соединения и системные возможности, так что сгенерированный код выполняется отдельно от runtime агента.

Какие GPU доступны для self-hosted тюнинга моделей?

NVIDIA RTX PRO 6000 Blackwell Server Edition для inference с низкой задержкой и кластеры NVIDIA Blackwell Ultra для построения и тюнинга frontier-моделей, Vera Rubin ожидается в 2027 году.

Softprom и Akamai

Softprom является официальным дистрибьютором Akamai. Наша команда сопровождает предприятия в оценке, внедрении и масштабировании сервисов Akamai Cloud, безопасности и AI.

Подготовлено редакцией Softprom по материалам вендора (Softprom DistriFlow). Источник: оригинальная статья.