MaaS
- Что покупает команда
- Готовый serving и часть масштабирования.
- Что остаётся у команды
- Интеграция, данные, качество, лимиты и деградация.
- Когда рассматривать
- Небольшой или нерегулярный спрос, допустимая внешняя граница.
AI Platform
AI-платформа — набор общих контрактов и возможностей, который помогает нескольким продуктовым сценариям безопасно проходить путь от запроса до наблюдаемого результата.
Модель и инфраструктура входят в платформу, но не заменяют правила работы с данными, критерии качества, SLO, маршрутизацию и ответственность.
Признаки, что одного API уже недостаточно
- Несколько команд используют общие модели или провайдеров.
- Качество и выпуск изменений требуют общих критериев.
- Появились стабильные имена моделей, маршруты, политики и лимиты.
- Очередь, capacity, SLO и деградация стали общей эксплуатационной задачей.
- Нужно одинаково соблюдать границы данных и доступа.
- Стоимость и ответственность нужно связывать с конкретными сценариями.
От отдельного сценария к платформе
- 01
Отдельный сценарий
Один продукт, один провайдер, локальные правила.
- 02
Общие контракты
Стабильные имена, лимиты и границы данных.
- 03
Control plane
Доступ, маршруты, политики и выпуск конфигурации.
- 04
Управляемый inference
Пулы ресурсов, планирование, память и кэш.
- 05
Качество и эксплуатация
Evals, SLO, инциденты и стоимость результата.
Три способа исполнения — без универсального победителя
Self-hosted
- Что получает команда
- Контроль над runtime и размещением.
- Что добавляется
- Capacity, обновления, наблюдаемость, дежурство и лицензии.
- Когда рассматривать
- Проверенный workload, подходящая граница данных и готовность владеть serving.
Hybrid
- Что даёт
- Разные execution paths для разных классов данных и задач.
- Что добавляется
- Routing policy, объяснимость маршрута и две эксплуатационные поверхности.
- Когда рассматривать
- Требования и workload действительно различаются.
Где вы сейчас
Один сценарий работает через MaaS, общей платформы пока нет.
Что зафиксировать до появления второго сценария?
Открыть маршрутНесколько команд делят модели, политики и лимиты.
С каких контрактов начинается control plane?
Открыть маршрутКомпания рассматривает локальный inference.
Какая загрузка и ответственность делают self-hosted оправданным?
Открыть маршрутПлатформа уже работает, но её нужно эксплуатировать и развивать.
Как связать качество, стоимость и инциденты в один контур ответственности?
Открыть маршрутОбласти AI Platform
Стратегия и границы
Запланировано
Как выбрать полезные ИИ-сценарии, определить границы платформы и решить, когда нужен внешний или собственный сервис моделей.
Управляющий контур (Control Plane)
Запланировано
Как платформа управляет доступом к моделям, маршрутизацией запросов, лимитами и выпуском настроек.
Контур инференса (Inference Plane)
Проверено
Как платформа запускает модели, распределяет нагрузку и управляет ресурсами для генерации, распознавания речи и векторизации.
Контекст и исполнение агентов (Context & Agent Runtime)
Запланировано
Как система находит контекст, подключает инструменты, хранит состояние сессии и ограничивает память агента.
Качество и жизненный цикл
Запланировано
Как команда проверяет качество данных, моделей, промптов и агентов перед выпуском и после него.
Эксплуатация и экономика
Запланировано
Как команда следит за доступностью, нагрузкой, инцидентами и стоимостью работы ИИ-сценариев.
Безопасность и ответственность
Запланировано
Как команда защищает данные, управляет доступом, проверяет действия системы и закрепляет ответственность.
Один путь уже разобран полностью
- 01
Inference Plane
Где исполняется модельная нагрузка.
- 02
Prefix Cache
Когда повторный prefill становится платформенной ответственностью.
- 03
Agent session cache reuse — синтетический кейс
Как порядок tools меняет cache identity.
- 04
audit-prompt-caching
Как проверить форму payload и собрать evidence.
Открыть карту
Вводный материал: «AI-платформа начинается не с GPU»