Budget du contexte Token
Réserver l'espace de sortie et calculer la capacité d'entrée restante.
Vos valeurs
Budget d'entrée restant
Utiliser les limites réelles du tokenizer et du fournisseur. Les fenêtres de contexte, les limites de sortie, la surcharge cachée et les prix ne sont pas récupérés ni vérifiés ici.
Comparaison de scénarios
Jusqu'à trois instantanés dans cet onglet. Le chargement d'un instantané remplace les entrées actuelles.
Formule
Utilisez A = W−S−H−O. W représente la capacité du contexte, S les jetons système et d'outils, H l'historique existant, O la sortie réservée et A la capacité d'entrée restante. Tous les termes correspondent à un nombre de jetons.
Réserver l'espace de sortie et calculer la capacité d'entrée restante.
Exemple résolu
- Fenêtre de contexte du modèle (tokens)
- 32000
- Système et outil tokens
- 2000
- Historique existant tokens
- 10000
- Sortie réservée tokens
- 4000
- Tokens par nouveau segment de document
- 2000
- Budget d'entrée restant
- 16 000 tokens
- Nouveaux segments complets compatibles
- 8
- Dépassement de budget
- 0 tokens
Portée et limites
Utiliser les limites réelles du tokenizer et du fournisseur. Les fenêtres de contexte, les limites de sortie, la surcharge cachée et les prix ne sont pas récupérés ni vérifiés ici.
Les données d'entrée sont vérifiées pour détecter les valeurs manquantes et les plages autorisées. Un résultat hors de la plage numérique finie n'est pas affiché. L'arrondi affecte l'affichage, tandis que le calcul utilise la précision numérique du modèle.
Vérifiez vos unités et vos hypothèses avant de vous fier à un résultat. Modifier une étiquette ne convertit pas une devise ni une unité physique.
Version de la formule.: 3863a060f33a · Exemple vérifié.: