Як запускати та захищати AI-агентів у масштабі: Akamai Inference і Agent Sandbox

Підприємства, які переводять AI з пілоту в продакшн, стикаються з фрагментованим стеком: інфраструктура обслуговування, доступ до даних, маршрутизація, governance і жорсткі межі навколо коду, який пишуть і виконують агенти. Збирання цих частин у різних постачальників збільшує затримки, витрати та поверхню атаки. Akamai об'єднує їх на одній глобальній платформі, що охоплює ключові GPU-регіони та понад 4 350 edge-локацій. Softprom є офіційним дистриб'ютором Akamai.

Що було анонсовано

Akamai (Nasdaq: AKAM) випустила два базові продукти для свого AI-стеку: Akamai Inference та Akamai Agent Sandbox. Компанія також розширила GPU-парк кластерами NVIDIA Blackwell Ultra та готує дата-центри до платформи NVIDIA Vera Rubin у 2027 році. Akamai Cloud уже забезпечила багаторічні контракти загальною вартістю понад 14 млрд доларів.

Akamai Inference надає керований доступ до open-weight та кастомних моделей через OpenAI-сумісні API. У стартовому каталозі — 12 open-weight моделей від 8 мільярдів до 2,8 трильйона параметрів, зокрема NVIDIA Nemotron 3 Ultra, OpenAI gpt-oss-120b та Google Gemma 4, а також embedding-моделі для RAG. Доступні serverless pay-per-use або виділені розгортання.

Akamai Agent Sandbox постачається як open source компонент фреймворку Spin і дає розробникам ізольоване середовище для агентів та згенерованого ними коду, використовуючи WebAssembly-ізоляцію для обмеження обчислень, пам'яті, вихідних з'єднань та системних можливостей.

Akamai Inference та Akamai Agent Sandbox додають рівні inference і виконання, які перетворюють нашу AI-інфраструктуру на повний AI-стек, а портфоліо безпеки захищає кожен його рівень

Чому це важливо

Для CIO, CISO та керівників закупівель перехід до agentic AI створює нові вектори ризику: автономне виконання коду, неконтрольовані вихідні виклики та варіативність продуктивності у shared-tenancy. Єдина платформа, що об'єднує inference, ізоляцію агентів, резидентність даних та безпеку, зменшує інтеграційні витрати та кількість вендорів. Виділені GPU-кластери знімають обмеження швидкості та черги, даючи командам контроль над версіями моделей і термінами виведення з експлуатації.

Технічні деталі

• Inference API: OpenAI-сумісний, serverless або виділений.
• Каталог моделей: 12 open-weight моделей, від 8B до 2.8T параметрів.
• GPU-парк: NVIDIA RTX PRO 6000 Blackwell Server Edition та кластери Blackwell Ultra.
• Вузол Blackwell Ultra: 8 GPU, 288 ГБ HBM3e на GPU, 2,3 ТБ загалом.
• Ізоляція агентів: WebAssembly через фреймворк Spin (open source).
• Edge-мережа: понад 4 350 edge-локацій, з'єднаних із core-регіонами.
• Доступність: обидва продукти в бета-версії; NVIDIA B300 GPU — через Akamai Sales.

Часті запитання

Що таке Akamai Inference?

Це керований сервіс для запуску open-weight та кастомних AI-моделей через OpenAI-сумісні API на Akamai Cloud, з опціями serverless або виділеного розгортання та 12 моделями на старті.

Як Akamai Agent Sandbox ізолює код агентів?

Використовує WebAssembly-ізоляцію через open source фреймворк Spin, обмежуючи обчислення, пам'ять, вихідні з'єднання та системні можливості, тож згенерований код виконується окремо від runtime агента.

Які GPU доступні для self-hosted тюнінгу моделей?

NVIDIA RTX PRO 6000 Blackwell Server Edition для inference з низькою затримкою та кластери NVIDIA Blackwell Ultra для побудови й тюнінгу frontier-моделей, Vera Rubin очікується у 2027 році.

Softprom та Akamai

Softprom є офіційним дистриб'ютором Akamai. Наша команда супроводжує підприємства в оцінці, впровадженні та масштабуванні сервісів Akamai Cloud, безпеки та AI.

Підготовлено редакцією Softprom за матеріалами вендора (Softprom DistriFlow). Джерело: оригінальна стаття.