С чего начать
Как выбрать маршрут чтения по текущей проблеме ИИ-платформы.
Проблема
Демо уже работает. Дальше начинаются вопросы: кто владеет качеством, где смотреть стоимость, почему задержка скачет, как менять модель и как не дать продуктовым командам построить AI-зоопарк.
Эта страница помогает выбрать первый маршрут. Хэндбук не нужно читать подряд.
Быстрый выбор
- Нужна общая картина -> Карта Production AI Platform.
- Нужно объяснить зрелость руководству -> Модель зрелости ИИ-платформы.
- Выбираете MaaS, self-hosted или гибридный подход -> MaaS vs Self-hosted.
- Переезжаете с MaaS на self-hosted -> MaaS vs Self-hosted, инференс-рантайм, контроль качества ИИ, экономика инференса, наблюдаемость.
- Растёт стоимость или задержка -> Экономика инференса и Prefix Cache.
- Агент ест токены без видимой причины -> Semantic Router, Prefix Cache, экономика инференса и наблюдаемость.
- Плывёт качество после смены модели или промпта -> контроль качества ИИ.
- Не хватает логов для разборов -> Чеклист наблюдаемости LLM.
- Непонятно, кто отвечает за ИИ-сценарий -> Ответственность и операционная модель.
Думаете переехать с MaaS на self-hosted?
Не начинайте с выбора модели и GPU. Начните со сценария: какие данные обрабатываются, какой SLA нужен, как выглядит нагрузка, как будет проверяться качество и кто будет владельцем эксплуатации.
Маршрут для первого ревью:
- Сценарий: что именно переносим?
- Данные: можно ли обезличить вход и остаться в MaaS?
- SLA: нужен ответ в реальном времени, длинный контекст или пакетная обработка?
- Качество: есть проверки до переезда?
- Экономика: посчитаны прод, стейджинг, тесты, отладка, дежурства и резерв?
Если на эти вопросы нет ответов, self-hosted пока будет не стратегией, а дорогим экспериментом.
Перед GPU
Если нет проверок качества и baseline стоимости, миграцию в self-hosted лучше начинать не с GPU, а с описания сценария.
Ментальная модель
ИИ-платформа в production - это не один слой. Это связка продуктовых сценариев, AI Gateway, маршрутизации, инференса, кеша, проверки качества, наблюдаемости, стоимости, защитных контуров и ответственности.
Начинайте не с самой модной темы, а с текущей боли. Если болит стоимость - идите в экономику и кеш. Если болит качество - в оценку качества. Если болит хаос между командами - в AI Gateway и ответственность.
Для разных ролей
- AI Platform Lead: карта, Semantic Router, AI Gateway, экономика, prefix cache, наблюдаемость, ответственность.
- Staff Engineer: инференс-рантайм, prefix cache, бюджет контекста, стабильность tools, проверки router.
- CTO / Head of Engineering: модель зрелости, MaaS vs self-hosted, экономика инференса, операционная модель.
- Product Engineer: стартовая страница, AI Gateway, чеклист наблюдаемости, контроль качества.
Что читать первым
- ✓Если нет общей карты, начните с Platform Map.
- ✓Если нет общего языка зрелости, начните с Maturity Model.
- ✓Если есть спор MaaS vs self-hosted, начните со стратегической главы.
- ✓Если кеш не даёт эффекта, начните с Prefix Cache.
- ✓Если релизы моделей опасны, начните с контроля качества.
Как применять
Читайте главу как чеклист ревью. После чтения должно быть понятно:
- какой слой платформы затронут;
- какой владелец нужен;
- какие метрики смотреть;
- что может сломаться в production;
- какой следующий документ или инструмент открыть.
Пример
Команда жалуется: "модель стала дороже". Не начинайте с замены модели. Проверьте маршрут, повторы, кешированные токены, стабильность схемы инструментов, долю принятых результатов и события резервного маршрута. Это обычно быстрее приводит к реальной причине.