Доклад
Подходы к выбору языковых моделей для встраивания в продукты и услуги, оценка их эффективности
Как выбирать языковую модель для продукта: что сравнивать, когда смотреть на MaaS или собственный хостинг и какие вопросы задать до интеграции.
Автор — Сергей Нотевский
- Площадка
- Ural Digital Weekend 2025 · Пермь
- Формат
- Доклад
- Дата выступления
Ключевые выводы
- Рынок моделей. Одного привычного ориентира уже недостаточно: кандидатов нужно сравнивать в контексте конкретного продукта. 3:05:02
- Критерии выбора. Контекст, скорость, языки, мультимодальность и специализацию модели сопоставляем с требованиями сценария.
- MaaS или свой хостинг. Способ доступа меняет расчёт стоимости, работу с лицензиями и набор задач, которые остаются у команды.
- Изменения рынка. Новые модели, поставщики и тарифы быстро меняют исходные условия, поэтому старое сравнение нельзя считать постоянным ответом.
- Проверочный список. Перед выбором модели фиксируем требования продукта и вопросы, на которые должен ответить пилот.
О чём доклад
1 августа 2025 года я выступил на Ural Digital WeekendВнешняя ссылка, откроется в новой вкладке в Перми. Разбирал, как выбирать языковую модель для продукта, какие характеристики сравнивать и как меняется решение при переходе от MaaS к собственному хостингу.
Мой доклад начинается на 3:05:02Внешняя ссылка, откроется в новой вкладке общей трансляции секции «Управление разработкой».
Пять вопросов перед выбором модели
- Какие модели подходят под задачу продукта, если не считать один сервис универсальной точкой отсчёта?
- Какой контекст, скорость, язык, мультимодальность и специализация нужны сценарию?
- Что команда получает и за что отвечает при MaaS и собственном хостинге?
- Как стоимость, лицензии, юридические ограничения и дообучение влияют на выбор?
- Какие изменения рынка заставят пересмотреть принятое решение?