Статья · Блог
Ловушка гибридных резонеров
Почему один checkpoint с thinking и non-thinking режимами не превращается в универсальный inference-инстанс и когда общий пул всё же имеет смысл.
Читать статьюСергей Нотевский
AI Platform Lead в Битрикс24
Сейчас
Подкаст
Зачем Битрикс24 своя AI-платформа?
Разговор о том, зачем компании своя AI-платформа и как выбирать между MaaS и self-hosted: модели, GPU, тесты качества, контекст, префикс-кэш и команда.
AI Platform
Inference Plane
Как платформа запускает модели, распределяет нагрузку и управляет ресурсами для генерации, распознавания речи и векторизации.