Outils : choisir un modèle selon le coût
Trouvez l'offre la moins chère pour votre volume mensuel, comptez les tokens d'un prompt, convertissez les unités de prix.
Choix par coût
Combien de tokens par mois vous envoyez au modèle (entrée) et recevez en retour (sortie), en millions. Par exemple, un chatbot à 1 000 conversations par jour, c'est environ 10 M en entrée et 2 M en sortie. Vous ne connaissez pas vos chiffres ? Calculez-les plus bas, dans l'estimateur de tokens.
Modèle: OpenMath-CodeLlama-13b-Python-hf ×
| Modèle | Fournisseur | Votre coût/mois, $ | Entrée, $ | Sortie, $ | Contexte |
|---|---|---|---|---|---|
| OpenMath-CodeLlama-13b-Python-hf | featherless | $1.92 | $1.50 | $2.10 | 4K |
Calculateur de coût : images, vidéo et voix
Combien coûte un travail chez chaque modèle vendu à l'image, à la seconde de vidéo, au caractère de voix ou à la minute de transcription - prix du jour, l'offre la moins chère de chaque modèle.
Calculateur de budget : ce que N $ par mois permettent
Saisissez votre budget mensuel et une requête type : combien de requêtes par mois (et par jour) il permet sur chaque modèle chez le vendeur le moins cher, avec la classe.
Calculateur de coût d'indexation RAG
Ce que coûte la recherche documentaire d'un assistant IA (RAG) en embeddings et reranking : documents vectorisés une fois, la part modifiée chaque mois, les requêtes et le reranking des passages - chez le vendeur le moins cher de chaque modèle.
Calculateur de coût d'un agent de code
Ce que coûte par mois un agent de code sur chaque modèle : tâches par jour, appels au modèle par tâche, contexte de chaque appel, réponse et raisonnement, part lue du cache - chez le vendeur temps réel le moins cher de chaque modèle.
Abonnement ou API : lequel coûte moins
Le prix mensuel d'un abonnement de chat face au même usage payé au token via l'API : chez le vendeur le moins cher du modèle et sur l'API de son créateur, et à partir de combien de messages par jour l'abonnement est rentable.
Calculateur d'économies : cache de prompt et batch
Vos tokens mensuels chez chaque vendeur d'un modèle : le prix normal, le prix quand une partie du prompt est lue depuis le cache, et les offres batch / flex si la tâche peut attendre.
Classes de modèles S/A/B/C/D
La force d'un modèle de base dans une direction, en une lettre : S au sommet, D en bas. Chaque lettre repose sur au moins deux sources publiques indépendantes ; une seule source donne un score sans lettre.
Estimateur de tokens
Vous ne connaissez pas votre volume en tokens ? Collez un exemple de votre prompt, indiquez combien de requêtes de ce type vous faites par mois et la longueur d'une réponse : vous obtenez le volume mensuel. Le bouton le reporte dans le sélecteur ci-dessus et affiche les offres.
Unités de prix
Les fournisseurs affichent des prix par token, pour 1K ou pour 1M de tokens : le même prix dans les trois.
Choix par IA
Décrivez la tâche avec vos mots – ce que le modèle doit faire, à quelle vitesse, le budget, la région – et obtenez une courte liste de modèles et fournisseurs avec les raisons.
Bientôt.