Контекст Token Бюджет
Зарезервировать выходное пространство и рассчитать оставшуюся входную емкость.
Исходные значения
Оставшийся входной бюджет
Использовать фактические ограничения токенизатора и поставщика. Окна контекста, выходные ограничения, скрытые накладные расходы и цены здесь не извлекаются и не проверяются.
Сравнение сценариев
До трех снимков на этой вкладке. Загрузка одного из них заменяет текущие входные данные.
Формула
Используйте A = W−S−H−O. W — это емкость контекста, S — системные и инструментальные токены, H — существующая история, O — зарезервированный вывод, а A — оставшаяся емкость ввода. Все термины — это количество токенов.
Зарезервировать выходное пространство и рассчитать оставшуюся входную емкость.
Пример решения
- Окно контекста модели (tokens)
- 32000
- Система и инструмент tokens
- 2000
- Существующая история tokens
- 10000
- Зарезервированный выход tokens
- 4000
- Tokens на каждый новый фрагмент документа
- 2000
- Оставшийся входной бюджет
- 16 000 tokens
- Совершенно новые фрагменты, которые помещаются
- 8
- Превышение бюджета
- 0 tokens
Область применения и ограничения
Использовать фактические ограничения токенизатора и поставщика. Окна контекста, выходные ограничения, скрытые накладные расходы и цены здесь не извлекаются и не проверяются.
Входные данные проверяются на наличие пропущенных значений и допустимых диапазонов. Результат, выходящий за пределы конечного числового диапазона, не отображается. Округление влияет на отображение, в то время как при вычислении используется числовая точность модели.
Перед тем, как полагаться на результат, проверьте единицы измерения и предположения. Изменение метки не приводит к преобразованию валюты или физической единицы.
Версия формулы.: 3863a060f33a · Пример проверен.: