Хэндбук по ИИ-платформам в продакшене

Двенадцать зон ответственности: от сценариев до владельцев.

Семь уровней: от API-ключа до AI-native операционной модели.

Выберите первый маршрут по текущей платформенной проблеме.

Почему production AI стоит мыслить как платформу, а не как выбор модели.

Стратегическое решение, а не религиозный спор.

Точка управления доступом, квотами, маршрутизацией, политиками и стоимостью.

Маршрутизация пути исполнения: direct, RAG, agentic или ручная проверка.

Решения по развёртыванию LLM, STT, эмбеддингов и rerankers.

STT как полноценная production-нагрузка, а не предварительная обработка.

Embeddings и rerankers как слой качества, задержки и жизненного цикла.

Стоимость принятого результата, а не сырая цена токена.

Как форма промпта, схемы инструментов и маршрутизация влияют на кеш.

Цикл выкатки, который не даёт качеству деградировать незаметно.

Минимальная телеметрия для модели, промпта, стоимости, задержки и результата.

Политики, телеметрия, путь отката и ответственность, а не одна магическая библиотека.

Кто владеет качеством, стоимостью, инцидентами и контрактами платформы.

Локальная диагностика нестабильных префиксов и дрейфа схем.

Оценка реальной стоимости с кешированными входными токенами.

Локальная проверка готовности перед выкаткой.

Шаблон перехода сценария с MaaS на self-hosted или гибридный контур.

Prod, stage, debug, canary, резерв и стоимость принятого результата.

Шаблон для выбора между MaaS, обезличиванием, self-hosted, batch и hybrid.