Размеры модели

Три размера, одна азербайджанская модель

Prometheus выпускается в размерах 587B, 99B и 39B параметров, поэтому вы можете соотнести точность с бюджетом на оборудование, не переходя на другую, менее способную модель.

Обзор

Размеры 587B, 99B и 39B

Не каждой задаче нужна самая большая модель, и не каждый бюджет позволяет её запустить. Prometheus предлагается в трёх размерах — 587B, 99B и 39B параметров, — так что вы выбираете подходящую точку на кривой «точность — оборудование», сохраняя во всех трёх одну и ту же нативную азербайджанскую основу.

Что это даёт

Размер модели — под задачу

✓

Три размера — 587B, 99B и 39B параметров — одной нативно азербайджанской модели.

✓

Соотносите требования к точности с бюджетом на оборудование, не меняя поставщика.

✓

Все размеры созданы нативно для азербайджанского и используют один и тот же нативный токенизатор.

✓

В 4,6 раза эффективнее на азербайджанском тексте, что снижает стоимость и задержку вывода в любом размере.

✓

Работает локально в любом размере, поэтому контроль над данными не зависит от выбранного варианта.

Как это работает

Выбор размера

1Оцените требования к точности и нагрузку
2Сопоставьте их с имеющимся оборудованием
3Выберите 587B, 99B или 39B
4Разверните локально и подключите через API
Вопросы

Частые вопросы

В каких размерах выпускается Prometheus?

В трёх: 587B, 99B и 39B параметров. У всех одна и та же нативная азербайджанская основа.

Теряют ли меньшие размеры владение азербайджанским?

Все размеры созданы нативно для азербайджанского и используют один и тот же нативный токенизатор; выбор — это баланс между точностью и бюджетом на оборудование.

Меньшая модель дешевле в эксплуатации?

Да. Prometheus в 4,6 раза эффективнее на азербайджанском тексте, а меньший размер дополнительно снижает затраты на оборудование и вывод.

Смотрите также

Что ещё умеет Prometheus

Начать

Посмотрите Prometheus на вашей инфраструктуре

Запросите демо — и увидите Prometheus в работе на ваших собственных серверах: понимание азербайджанского, подбор размера модели и интеграция через API, от начала до конца.