news

Hóa đơn lưu trữ ẩn của AI: Những gì suy luận để lại

Khi yêu cầu hầu hết các giám đốc điều hành hình dung về chi phí của AI, họ có thể sẽ nghĩ đến GPU—những dãy rack tăng tốc với hàng gigawatt điện năng—và danh sách chờ đợi mua silicon. Nhưng bức tranh đó bỏ sót một điều: Chi phí lưu trữ dữ liệu. Điều gì xảy ra với dữ liệu sau khi một mô hình phản hồi? Phần lớn dữ liệu back-end được tạo ra—từ hàng tỷ lời nhắc, hình ảnh và video mỗi ngày—cần…

22 thg 10, 202612 lượt xem

Khi hầu hết các giám đốc điều hành hình dung về chi phí của AI, họ có thể sẽ nghĩ đến GPU—những dãy giá đỡ bộ tăng tốc với hàng gigawatt điện năng—và danh sách chờ mua silicon. Nhưng bức tranh đó bỏ sót một điều: Chi phí lưu trữ dữ liệu. Điều gì xảy ra với dữ liệu sau khi một mô hình phản hồi? Phần lớn dữ liệu back-end được tạo ra—từ hàng tỷ lời nhắc, hình ảnh và video mỗi ngày—cần…

AI’s hidden storage bill: What inference leaves behind | TolsAI