API Giới hạn thông lượng

So sánh hạn mức tốc độ yêu cầu với độ đồng thời và thời gian phục vụ.

Giá trị đầu vào

Giới hạn thông lượng tối đa ở trạng thái ổn định

—

Giới hạn trên ở trạng thái ổn định, không phải là bộ lập lịch. Các cửa sổ xử lý nhanh, thử lại, hạn ngạch token, độ trễ hàng đợi và việc thực thi cụ thể của nhà cung cấp đều bị loại trừ.

Công thức

Sử dụng q ≤ min(R/60,c/s) và t ≈ N/q. R là số lượng yêu cầu được phép mỗi phút, c là số khe thời gian đồng thời, s là số giây phục vụ trung bình, N là số yêu cầu theo lô, q là số yêu cầu mỗi giây và t là số giây lý tưởng cho mỗi lô.

So sánh hạn mức tốc độ yêu cầu với độ đồng thời và thời gian phục vụ.

Ví dụ minh họa

Số yêu cầu được phép mỗi phút: 600
Các khe yêu cầu đồng thời: 5
Thời gian phục vụ trung bình (giây): 1
Số yêu cầu cần xử lý: 1000

Giới hạn thông lượng tối đa ở trạng thái ổn định: 5 yêu cầu/giây
Thời gian xử lý theo lô ổn định lý tưởng: 200 giây
Thông lượng giới hạn đồng thời: 5 yêu cầu/giây

Phạm vi và giới hạn

Các giá trị đầu vào được kiểm tra xem có bị thiếu hay không và phạm vi cho phép. Kết quả nằm ngoài phạm vi số hữu hạn sẽ không được hiển thị. Làm tròn ảnh hưởng đến hiển thị, trong khi phép tính sử dụng độ chính xác số của mô hình.

Kiểm tra đơn vị và giả định của bạn trước khi dựa vào kết quả. Thay đổi nhãn không chuyển đổi đơn vị tiền tệ hoặc đơn vị vật lý.

Phiên bản công thức: f349607ebf43 · Ví dụ đã được kiểm tra: 2026-10-30

Phương pháp