대부분의 경영진에게 AI 비용을 떠올려 보라고 하면, 그들은 아마도 GPU—기가와트급 전력을 소비하는 수많은 가속기 랙—와 실리콘 대기자 명단을 떠올릴 것입니다. 하지만 그 그림에는 빠진 것이 있습니다. 바로 데이터 저장 비용입니다. 모델이 응답한 후 데이터는 어떻게 될까요? 매일 수십억 건의 프롬프트, 이미지, 비디오에서 생성되는 백엔드 데이터의 상당 부분은…
news
AI의 숨겨진 저장 비용: 추론이 남기는 것
대부분의 경영진에게 AI 비용을 떠올려 보라고 하면, 그들은 아마도 GPU—기가와트급 전력을 소비하는 수많은 가속기 랙—와 실리콘 대기자 명단을 떠올릴 것이다. 하지만 그 그림에는 빠진 것이 있다. 바로 데이터 저장 비용이다. 모델이 응답한 후 데이터는 어떻게 되는가? 매일 생성되는 수십억 건의 프롬프트, 이미지, 비디오에서 비롯된 백엔드 데이터 상당수는…