Ngữ cảnh Token Ngân sách
Hãy dành riêng không gian đầu ra và tính toán dung lượng đầu vào còn lại.
Giá trị đầu vào
Ngân sách đầu vào còn lại
Sử dụng giới hạn của bộ mã hóa và nhà cung cấp thực tế. Cửa sổ ngữ cảnh, giới hạn đầu ra, chi phí ẩn và giá cả không được lấy hoặc xác minh ở đây.
So sánh kịch bản
Tối đa ba ảnh chụp nhanh trong tab này. Việc tải một ảnh sẽ thay thế các đầu vào hiện tại.
Công thức
Sử dụng A = W−S−H−O. W là dung lượng ngữ cảnh, S là mã thông báo hệ thống và công cụ, H là lịch sử hiện có, O là đầu ra được dành riêng và A là dung lượng đầu vào còn lại. Tất cả các thuật ngữ đều là số lượng mã thông báo.
Hãy dành riêng không gian đầu ra và tính toán dung lượng đầu vào còn lại.
Ví dụ minh họa
- Cửa sổ ngữ cảnh mô hình (tokens)
- 32000
- Hệ thống và công cụ tokens
- 2000
- Lịch sử hiện có tokens
- 10000
- Đầu ra đã dự trữ tokens
- 4000
- Tokens cho mỗi khối tài liệu mới
- 2000
- Ngân sách đầu vào còn lại
- 16.000 tokens
- Toàn bộ các khối mới phù hợp
- 8
- Vượt ngân sách
- 0 tokens
Phạm vi và giới hạn
Sử dụng giới hạn của bộ mã hóa và nhà cung cấp thực tế. Cửa sổ ngữ cảnh, giới hạn đầu ra, chi phí ẩn và giá cả không được lấy hoặc xác minh ở đây.
Các giá trị đầu vào được kiểm tra xem có bị thiếu hay không và phạm vi cho phép. Kết quả nằm ngoài phạm vi số hữu hạn sẽ không được hiển thị. Làm tròn ảnh hưởng đến hiển thị, trong khi phép tính sử dụng độ chính xác số của mô hình.
Kiểm tra đơn vị và giả định của bạn trước khi dựa vào kết quả. Thay đổi nhãn không chuyển đổi đơn vị tiền tệ hoặc đơn vị vật lý.
Phiên bản công thức: 3863a060f33a · Ví dụ đã được kiểm tra: