Công nghệ
AI Ước tính lượng khí thải carbon
Ước tính năng lượng và CO2e của các cuộc gọi suy luận AI dựa trên các giả định của riêng bạn: số cuộc gọi, năng lượng trên mỗi cuộc gọi, cường độ lưới và PUE.
Thêm vào không gian làm việcGiá trị đầu vào
Kết quả sẽ cập nhật ngay khi bạn nhập liệu. Không có nút tính toán. Tất cả các phép tính đều được thực hiện cục bộ trên trình duyệt của bạn.
Các giá trị năng lượng tiêu thụ trên mỗi cuộc gọi và cường độ lưới điện chỉ là ví dụ đầu vào, không phải là giá trị đo được cho bất kỳ mô hình hoặc khu vực nào. Hãy thay thế chúng bằng số liệu đo được của riêng bạn hoặc số liệu do nhà cung cấp cung cấp trước khi sử dụng kết quả.
Lượng khí thải ước tính
—
—
Sự cố
| Mục | Giá trị |
|---|
Chi phí vận hành cơ sở là sự khác biệt giữa tổng năng lượng và năng lượng suy luận. Nếu PUE bằng 1.0, chi phí vận hành bằng không.
Nhìn thoáng qua
Các thanh được chia tỷ lệ theo giá trị năng lượng lớn hơn. Chúng cho thấy PUE bổ sung thêm bao nhiêu, chứ không phải là sự so sánh với bất kỳ hệ thống nào khác.
Lượng khí thải ở các mức âm lượng cuộc gọi khác nhau
| Kịch bản | Giá trị |
|---|
Mỗi hàng sử dụng lại năng lượng tiêu thụ mỗi lần gọi, PUE, và đầu vào lưới điện của bạn, chỉ thay đổi số lần gọi, do đó các số liệu tỷ lệ tuyến tính.
Công thức
Năng lượng (kWh) = số cuộc gọi × Wh mỗi cuộc gọi × PUE ÷ 1,000. Phát thải (kg CO₂e) = năng lượng × gam lưới điện trên kWh ÷ 1,000. Phát thải mỗi cuộc gọi (g CO₂e) = Wh mỗi cuộc gọi × PUE × gam lưới điện trên kWh ÷ 1,000.
Ví dụ minh họa
Số cuộc gọi 100,000, năng lượng 0.5 Wh mỗi cuộc gọi, PUE 1.2, lưới điện 450 gCO₂e/kWh. Năng lượng = 100,000 × 0.5 × 1.2 ÷ 1,000 = 60 kWh. Phát thải = 60 × 450 ÷ 1,000 = 27 kg CO₂e. Mỗi cuộc gọi: 0.5 × 1.2 × 450 ÷ 1,000 = 0.27 g CO₂e; mỗi 1,000 cuộc gọi: 270 g CO₂e. Các dữ liệu đầu vào này chỉ là ví dụ — hãy thay thế số liệu năng lượng mỗi cuộc gọi và lưới điện bằng số liệu của riêng bạn trước khi dựa vào kết quả.
Phạm vi và giới hạn
Đây là mô hình kịch bản, không phải kết quả tính toán lượng khí thải carbon. Nó chỉ bao gồm năng lượng cần thiết cho quá trình suy luận mà bạn mô tả: quá trình huấn luyện, phát triển mô hình, sản xuất phần cứng, mạng lưới, làm mát ngoài PUE và lượng khí thải tích lũy đều bị loại trừ. Năng lượng tiêu thụ cho mỗi lần gọi hàm thay đổi tùy thuộc vào mô hình, phần cứng, xử lý theo lô và độ dài lời nhắc, và cường độ lưới điện thay đổi theo địa điểm và thời gian — cả hai đều là dữ liệu đầu vào của người dùng chính xác vì không có giá trị nào được công bố phù hợp với mọi trường hợp. Không có dữ liệu phát thải trực tiếp hoặc kết quả tính toán được chứng nhận nào được cung cấp.
FAQ
Việc này được tính toán như thế nào?
Năng lượng được tính bằng số cuộc gọi nhân với Wh mỗi cuộc gọi nhân với PUE, chia cho 1,000 để được kWh; lượng phát thải được tính bằng năng lượng nhân với gam lưới điện trên kWh, chia cho 1,000 để được kilogam CO₂e.
Tại sao hệ số carbon và năng lượng tiêu thụ mỗi cuộc gọi lại có thể chỉnh sửa được?
Vì chúng là các giả định, không phải hằng số. Một mô hình khác, GPU, hoặc vùng khác sẽ cho các giá trị khác nhau, vì vậy trang này coi chúng là các đầu vào bạn phải cung cấp và chỉ ghi nhãn các giá trị mặc định là ví dụ.
PUE ở đây có nghĩa là gì?
Hiệu quả sử dụng điện năng: tổng năng lượng tiêu thụ của cơ sở chia cho năng lượng IT. PUE của 1.2 có nghĩa là 20% chi phí phụ trội cho việc làm mát và các tải khác của cơ sở ngoài năng lượng tiêu thụ; 1.0 có nghĩa là không tính chi phí phụ trội.
Việc này có bao gồm huấn luyện mô hình không?
Không. Nó chỉ bao gồm các lệnh suy luận trong kịch bản của bạn. Quá trình huấn luyện, tinh chỉnh và sản xuất phần cứng là riêng biệt và trong một số trường hợp còn lớn hơn nhiều, và không được mô hình hóa ở đây.
Tại sao kết quả lại tỷ lệ thuận với số lần gọi?
Mỗi hàng trong bảng khối lượng cuộc gọi đều sử dụng cùng một con số ước tính cho mỗi cuộc gọi, vì vậy việc tăng gấp đôi số cuộc gọi sẽ làm tăng gấp đôi con số ước tính. Các hệ thống thực tế có thể xử lý theo lô hoặc lưu vào bộ nhớ đệm, điều này sẽ phá vỡ tính tuyến tính đó — một lý do khác để thay thế con số ví dụ cho mỗi cuộc gọi bằng dữ liệu đo được.
Tôi có thể sử dụng thông tin này cho báo cáo phát thải chính thức không?
Không. Đó chỉ là ước tính kế hoạch dựa trên các giả định của riêng bạn. Báo cáo chính thức cần có dữ liệu năng lượng đo được, hệ số lưới điện được ghi chép đầy đủ cho khu vực và giai đoạn phù hợp, và khuôn khổ báo cáo mà tổ chức của bạn tuân theo.
Các công cụ liên quan
- Chi phí suy luận AI — khía cạnh chi phí của cùng một khối lượng cuộc gọi: tokens và giá trên mỗi triệu tokens
- Máy tính chi phí điện — chuyển đổi một con số kWh thành ước tính hóa đơn tiền điện
- AI Tiết kiệm quy trình làm việc — liệu việc tiết kiệm thời gian của một công cụ AI có bù đắp được phí hàng tháng của nó hay không
Kết quả chỉ mang tính chất ước tính và không phải là lời khuyên chuyên nghiệp.