news

AI 隱藏的儲存帳單：推論留下了什麼

請大多數高階主管想像 AI 的成本，他們腦中浮現的很可能會是 GPU——成排的加速器、消耗數十億瓦的電力——以及排隊等候的晶片。但那幅景象漏掉了一件事：資料儲存成本。模型回應之後，資料會怎麼樣？所產生的大量後端資料——來自每天數十億次的提示、圖像和影片——需要……