Подбор: модель по цене и задаче
Найдите самое выгодное предложение под вашу нагрузку в месяц, посчитайте токены запроса, переведите цену между единицами.
Подбор по стоимости
Сколько токенов в месяц вы отправляете модели (вход) и получаете от неё (выход), в миллионах. Например, чат-бот на 1000 диалогов в день — это примерно 10 млн вход и 2 млн выход. Не знаете своих чисел — посчитайте ниже, в «Оценке токенов».
Модель: Llama 3.1 70B Euryale ×
| Модель | Провайдер | Ваша цена/мес, $ | Вход, $ | Выход, $ | Контекст |
|---|---|---|---|---|---|
| Llama 3.1 70B Euryale | deepinfra | $1.02 | $0.85 | $0.85 | 131K |
| Llama 3.1 70B Euryale | edenai через DeepInfra | $1.02 | $0.85 | $0.85 | 131K |
| Sao10K: L3.1 70B Euryale v2.2 | fastrouter | $1.02 | $0.85 | $0.85 | 131K |
| L3.1-70B-Euryale-v2.2 | meganova | $1.02 | $0.85 | $0.85 | 131K |
| Llama 3.1 70B Euryale | trustedrouter через DeepInfra | $1.08 | $0.90 | $0.90 | — |
Оценка токенов
Не знаете свою нагрузку в токенах? Вставьте пример своего запроса, укажите, сколько таких запросов в месяц и какой длины ответ, — получится нагрузка в месяц. Кнопка подставит её в подбор выше и сразу покажет предложения.
Перевод цены
Провайдеры пишут цену за токен, за 1 тыс. или за 1 млн токенов: одна и та же цена во всех трёх.
ИИ-подбор
Опишите задачу своими словами — что должна делать модель, как быстро, бюджет, регион — и получите короткий список моделей и провайдеров с объяснением выбора.
Скоро.