Konteks Token Anggaran
Cadangkan ruang keluaran dan hitung kapasitas masukan yang tersisa.
Nilai masukan
Anggaran masukan yang tersisa
Gunakan tokenizer dan batasan penyedia yang sebenarnya. Jendela konteks, batasan keluaran, biaya tersembunyi, dan harga tidak diambil atau diverifikasi di sini.
Perbandingan skenario
Hingga tiga cuplikan di tab ini. Memuat satu akan menggantikan input saat ini.
Rumus
Gunakan A = W−S−H−O. W adalah kapasitas konteks, S adalah token sistem dan alat, H adalah riwayat yang ada, O adalah output yang dicadangkan, dan A adalah kapasitas input yang tersisa. Semua istilah adalah jumlah token.
Cadangkan ruang keluaran dan hitung kapasitas masukan yang tersisa.
Contoh soal
- Jendela konteks model (tokens)
- 32000
- Sistem dan alat tokens
- 2000
- Riwayat yang ada tokens
- 10000
- Keluaran yang dicadangkan tokens
- 4000
- Tokens per potongan dokumen baru
- 2000
- Anggaran masukan yang tersisa
- 16.000 tokens
- Potongan baru yang sesuai
- 8
- Melebihi anggaran
- 0 tokens
Cakupan dan batasan
Gunakan tokenizer dan batasan penyedia yang sebenarnya. Jendela konteks, batasan keluaran, biaya tersembunyi, dan harga tidak diambil atau diverifikasi di sini.
Input diperiksa untuk nilai yang hilang dan rentang yang diizinkan. Hasil di luar rentang numerik terbatas tidak ditampilkan. Pembulatan memengaruhi tampilan, sementara perhitungan menggunakan presisi numerik model.
Periksa satuan dan asumsi Anda sebelum mengandalkan hasilnya. Mengubah label tidak mengkonversi mata uang atau satuan fisik.
Versi rumus: 3863a060f33a · Contoh diperiksa: