Demandez à la plupart des dirigeants d'imaginer le coût de l'IA et ils verront probablement des GPU—des racks d'accélérateurs avec des gigawatts de puissance—et une liste d'attente pour le silicium. Mais cette image omet quelque chose : les coûts de stockage des données. Que deviennent les données après qu'un modèle a répondu ? Une grande partie des données back-end générées—à partir de milliards de prompts, d'images et de vidéos quotidiennes—doit…
news
La facture de stockage cachée de l’IA : ce que l’inférence laisse derrière elle
Si vous demandez à la plupart des dirigeants d'imaginer le coût de l'IA, ils verront probablement des GPU—des racks d'accélérateurs avec des gigawatts de puissance—et une liste d'attente pour le silicium. Mais cette image omet quelque chose : les coûts de stockage des données. Que devient la donnée après qu'un modèle a répondu ? Une grande partie des données back-end générées—à partir de milliards de prompts, d'images et de vidéos quotidiennes—doit…