AI Rate CardFerramentas: escolha um modelo pelo custo
Encontre a oferta mais barata para o seu volume mensal, conte os tokens de um prompt e converta unidades de preço.
Escolha por custo
Quantos tokens por mês envia ao modelo (entrada) e recebe de volta (saída), em milhões. Por exemplo, um chatbot com 1.000 conversas por dia são cerca de 10 M de entrada e 2 M de saída. Não sabe os seus números? Calcule-os abaixo, no estimador de tokens.
Modelo: Llama 3 8B Instruct ×
| Modelo | Provedor | Seu custo/mês, $ | Entrada, $ | Saída, $ | Contexto |
|---|---|---|---|---|---|
| Llama 3 8B Instruct | deepinfra | $0.038 | $0.03 | $0.04 | 8K |
| Llama 3 8B Instruct | edenai via DeepInfra | $0.042 | $0.03 | $0.06 | 8K |
| Llama 3 8B Instruct | cloudflare-workers-ai | $0.18 | $0.12 | $0.27 | — |
| Llama 3 8B Instruct | cloudflare-workers-ai | $0.45 | $0.28 | $0.83 | — |
| Meta Llama 3 8B | aihubmix | $0.66 | $0.55 | $0.55 | — |
Estimador de tokens
Não sabe o seu volume em tokens? Cole um exemplo do seu prompt, indique quantos pedidos assim faz por mês e o tamanho de uma resposta: obtém o volume mensal. O botão leva-o para o seletor acima e mostra as ofertas.
Unidades de preço
Os provedores cobram por token, por 1K ou por 1M de tokens: o mesmo preço nas três.
Escolha por IA
Descreva a tarefa com suas palavras – o que o modelo deve fazer, com que rapidez, o orçamento, a região – e receba uma lista curta de modelos e provedores com os motivos.
Em breve.