Estimez le coût mensuel de l'utilisation de LLM à partir des requêtes par mois et de la moyenne de tokens d'entrée et de sortie par requête. Utile pour budgétiser l'usage des API d'IA.
Filtrez le tableau par fournisseur et par type de modèle (raisonnement, flagship, équilibré, économique), ou recherchez un modèle par nom. Activez Inclure les obsolètes pour afficher aussi les modèles retirés.
Cliquez sur les en-têtes de colonnes pour trier par prix d'entrée, prix de sortie, contexte ou coût mensuel total, et comparer les modèles d'un coup d'œil.
Les prix sont indicatifs et mis à jour régulièrement ; la date de dernière mise à jour apparaît sous le tableau. Les tokens d'entrée incluent tout l'historique de la conversation envoyé à chaque requête, si bien que le coût réel augmente avec les conversations longues.
Choisis un modèle, le format de ses poids (fp16, q8, q4), le contexte et le nombre de conversations simultanées. Tu verras la mémoire que demandent les poids, le cache KV et une marge, si ça tient sur chaque GPU, le contexte le plus long qui tient et le plafond de tokens par seconde imposé par sa bande passante. C'est un calcul, pas une mesure : un vrai moteur réserve un peu plus.
Déplace les paramètres et les tokens d'entraînement, ou choisis un modèle connu. La courbe est la perte que prédit la loi de Chinchilla pour toutes les façons de dépenser le même calcul ; le point vert est la meilleure. Elle sert à comprendre la répartition, pas à prédire la qualité d'un modèle précis.