Ferramentas: escolha um modelo pelo custo
Encontre a oferta mais barata para o seu volume mensal, conte os tokens de um prompt e converta unidades de preço.
Escolha por custo
Quantos tokens por mês envia ao modelo (entrada) e recebe de volta (saída), em milhões. Por exemplo, um chatbot com 1.000 conversas por dia são cerca de 10 M de entrada e 2 M de saída. Não sabe os seus números? Calcule-os abaixo, no estimador de tokens.
Modelo: Llama-3.1-70B-Instruct ×
| Modelo | Provedor | Seu custo/mês, $ | Entrada, $ | Saída, $ | Contexto |
|---|---|---|---|---|---|
| Llama-3.1-70B-Instruct | requesty via DeepInfra | $0.31 | $0.23 | $0.40 | 131K |
| Llama-3.1-70B-Instruct | deepinfra | $0.48 | $0.40 | $0.40 | 131K |
| Llama-3.1-70B-Instruct | edenai via DeepInfra | $0.48 | $0.40 | $0.40 | 131K |
| Meta: Llama 3.1 70B Instruct | trustedrouter | $0.51 | $0.42 | $0.42 | 131K |
| Llama 3.1 70B | aihubmix | $0.53 | $0.44 | $0.44 | — |
| Llama-3.1-70B-Instruct | cloudflare-workers-ai | $0.74 | $0.29 | $2.25 | — |
| Aihubmix Llama 3.1 70B Instruct | aihubmix via AIHubMix | $0.76 | $0.60 | $0.78 | — |
| Meta: Llama 3.1 70B Instruct | kilo | $0.86 | $0.72 | $0.72 | 131K |
| Meta: Llama 3.1 70B Instruct | openrouter | $0.86 | $0.72 | $0.72 | 131K |
| Llama 3.1 70B Instruct | vercel | $0.86 | $0.72 | $0.72 | 128K |
| Llama-3.1-70B-Instruct | edenai via Arkanecloud | $0.96 | $0.80 | $0.80 | 131K |
| Llama 3.1 70B Instruct (free) | aihubmix | — | $0.02 ⚠ | $0.02 | — |
Estimador de tokens
Não sabe o seu volume em tokens? Cole um exemplo do seu prompt, indique quantos pedidos assim faz por mês e o tamanho de uma resposta: obtém o volume mensal. O botão leva-o para o seletor acima e mostra as ofertas.
Unidades de preço
Os provedores cobram por token, por 1K ou por 1M de tokens: o mesmo preço nas três.
Escolha por IA
Descreva a tarefa com suas palavras – o que o modelo deve fazer, com que rapidez, o orçamento, a região – e receba uma lista curta de modelos e provedores com os motivos.
Em breve.