news

AIの隠れたストレージコスト：推論が残すもの

ほとんどの経営幹部にAIのコストを思い描くよう頼めば、おそらくGPU—ギガワット級の電力を消費するアクセラレータのラック—とシリコンの順番待ちリストを思い浮かべるだろう。しかしそのイメージには何かが欠けている。データストレージのコストだ。モデルが応答した後、データはどうなるのか？生成されるバックエンドデータの多く—毎日数十億件のプロンプト、画像、動画から—は…