Kontext Token Budget
Ausgabespeicher reservieren und verbleibende Eingabekapazität berechnen.
Eingabewerte
Verbleibendes Eingabebudget
Die tatsächlichen Tokenizer- und Provider-Limits verwenden. Kontextfenster, Ausgabelimits, versteckter Overhead und Preise werden hier nicht abgerufen oder überprüft.
Szenariovergleich
Bis zu drei Snapshots in diesem Tab. Das Laden eines Snapshots ersetzt die aktuellen Eingaben.
Formel
Verwenden Sie A = W−S−H−O. W steht für Kontextkapazität, S für System- und Werkzeugtoken, H für vorhandenen Verlauf, O für reservierte Ausgabe und A für verbleibende Eingabekapazität. Alle Werte geben die Anzahl der Token an.
Ausgabespeicher reservieren und verbleibende Eingabekapazität berechnen.
Durchgerechnetes Beispiel
- Modellkontextfenster (tokens)
- 32000
- System und Werkzeug tokens
- 2000
- Vorhandener Verlauf tokens
- 10000
- Reservierte Ausgabe tokens
- 4000
- Tokens pro neuem Dokumentabschnitt
- 2000
- Verbleibendes Eingabebudget
- 16.000 tokens
- Vollständig neue Abschnitte, die passen
- 8
- Budget überschritten
- 0 tokens
Anwendungsbereich und Grenzen
Die tatsächlichen Tokenizer- und Provider-Limits verwenden. Kontextfenster, Ausgabelimits, versteckter Overhead und Preise werden hier nicht abgerufen oder überprüft.
Eingabewerte werden auf fehlende Werte und zulässige Bereiche geprüft. Ergebnisse außerhalb des endlichen numerischen Bereichs werden nicht angezeigt. Rundungen beeinflussen die Anzeige, die Berechnung verwendet jedoch die numerische Genauigkeit des Modells.
Überprüfen Sie Ihre Einheiten und Annahmen, bevor Sie sich auf ein Ergebnis verlassen. Das Ändern einer Bezeichnung führt nicht zur Umrechnung einer Währung oder physikalischen Einheit.
Formelversion: 3863a060f33a · Beispiel geprüft: