L’intelligence artificielle générative devait suivre une règle simple : plus elle serait utilisée, moins son coût unitaire diminuerait. C’est le principe classique des économies d’échelle, celui qui a fait prospérer les plateformes numériques, le streaming ou le cloud.
Mais l’IA générative semble jouer une partition beaucoup moins rassurante. À mesure que les entreprises augmentent le nombre de requêtes, de documents analysés et de contenus générés, leurs dépenses de calcul grimpent en flèche. Le problème n’est donc pas seulement technologique : il touche directement la rentabilité des projets IA, les investissements dans les data centers et, potentiellement, la valorisation de tout le secteur.
Faut-il pour autant annoncer l’effondrement de l’industrie de l’IA ? Pas si vite. En revanche, la course actuelle au modèle toujours plus grand ressemble de plus en plus à une addition que personne ne veut regarder de trop près.
Le rêve des économies d’échelle se heurte au coût réel de l’IA
Dans une activité numérique traditionnelle, gagner des utilisateurs supplémentaires coûte progressivement moins cher. Une plateforme de vidéo en ligne ne doit pas reconstruire entièrement son infrastructure à chaque nouvel abonné. Une application mobile peut servir des millions de personnes avec des coûts unitaires qui baissent à mesure qu’elle grossit.
L’IA générative ne fonctionne pas exactement ainsi. Chaque demande adressée à ChatGPT, Claude, Gemini ou à un modèle déployé en entreprise mobilise des ressources très concrètes : cartes graphiques, mémoire à haute performance, électricité, refroidissement et capacité réseau. Et plus une requête est complexe, plus elle devient coûteuse.
Le point sensible se situe dans la longueur des échanges. Demander à une IA de résumer un court message n’a rien à voir avec lui transmettre cent pages de contrats, lui demander d’en extraire des clauses, de croiser les informations, puis de rédiger un rapport détaillé. Dans le second cas, la machine doit conserver un contexte important et calculer un très grand nombre de relations entre les éléments du texte.
Autrement dit, l’IA ne lit pas simplement davantage. Elle travaille beaucoup plus pour garder le fil. Un peu comme une personne qui devrait relire tout l’historique d’une discussion avant de répondre à chaque nouveau message. Sauf qu’ici, le café et les croissants sont remplacés par des GPU très chers.
Les lois d’échelle : performantes, mais de moins en moins rentables
Depuis plusieurs années, l’industrie s’appuie sur les lois d’échelle. L’idée est qu’en augmentant la taille des modèles, les volumes de données et la puissance de calcul, les performances progressent de façon relativement prévisible.
Cette logique a produit des avancées impressionnantes. Les assistants IA sont devenus capables de rédiger, programmer, traduire, analyser des images, synthétiser des documents et dialoguer avec une fluidité qui aurait semblé futuriste il y a peu. Mais une amélioration technique ne garantit pas automatiquement une amélioration économique.
Chaque nouveau palier de performance exige des investissements plus lourds. Entraîner un modèle de pointe nécessite des infrastructures massives, des puces spécialisées et une consommation énergétique considérable. Ensuite, il faut encore financer l’inférence, c’est-à-dire le coût de chaque réponse produite pour les utilisateurs.
Le risque est clair : le secteur peut dépenser des fortunes pour obtenir des progrès marginaux sur certains usages, alors que les entreprises clientes n’en tirent pas toujours une valeur proportionnelle. Une IA qui rédige une réponse légèrement plus élégante est agréable. Une IA qui fait réellement économiser plusieurs heures par jour, sans erreur critique, est rentable. Entre les deux, il y a un gouffre financier parfois plus grand que le prompt lui-même.
La facturation au token met les entreprises face à une dépense imprévisible
La plupart des services d’IA générative facturent au token. Un token correspond à une petite unité de texte : il peut s’agir d’un mot, d’une partie de mot, d’un nombre ou d’un signe de ponctuation. Les textes envoyés au modèle comme les réponses reçues sont comptabilisés.
Ce système paraît logique pour les fournisseurs : plus une entreprise consomme de calcul, plus elle paie. Mais il peut transformer l’adoption de l’IA en casse-tête budgétaire. Lorsqu’un service est intégré à des milliers de tâches quotidiennes, chaque interaction a un coût. Lorsque les équipes ajoutent des documents volumineux, multiplient les corrections et demandent plusieurs versions, la facture s’emballe.
C’est particulièrement vrai pour les usages métiers : analyse documentaire, support client, génération de code, recherche interne, traitement de contrats ou automatisation de processus. L’IA promet de faire gagner du temps, mais elle peut aussi devenir un poste de dépense difficile à contrôler si aucun cadre n’est prévu.
Des groupes technologiques et des grandes entreprises ont déjà commencé à revoir leurs ambitions ou à limiter certains accès aux outils les plus coûteux. Ce mouvement ne signifie pas que l’IA est inutile. Il montre plutôt que le temps des expérimentations sans limite budgétaire touche à sa fin.
Pourquoi les requêtes longues coûtent si cher
Les grands modèles de langage reposent majoritairement sur l’architecture Transformer. Celle-ci permet au modèle d’établir des liens entre les différents éléments d’un texte pour produire une réponse cohérente. C’est précisément ce qui rend les assistants actuuels capables de suivre une conversation ou de synthétiser un dossier complexe.
Mais cette force a un revers. Lorsque le contexte s’allonge, le nombre de relations à traiter augmente très vite. Dans une présentation simplifiée, le coût peut progresser selon une logique quadratique. Cela signifie que doubler la longueur d’un contexte peut coûter bien davantage que deux fois plus cher en calcul et en mémoire.
Les fournisseurs travaillent sur des optimisations : mécanismes d’attention plus efficaces, compression de contexte, mise en cache, modèles spécialisés et architectures modulaires. Ces progrès sont essentiels, mais ils ne font pas disparaître le sujet. Ils le rendent seulement plus gérable.
Pour une entreprise, la meilleure réponse n’est pas nécessairement de choisir le plus gros modèle disponible. Il est souvent plus intelligent de réserver les modèles très puissants aux tâches complexes et d’utiliser des modèles plus petits pour les demandes répétitives, simples ou fortement structurées.
Data centers, mémoire et énergie : l’addition dépasse les chatbots
La flambée des dépenses IA ne concerne pas uniquement les abonnements aux assistants conversationnels. Elle se propage à toute la chaîne technologique.
Les acteurs de l’IA mobilisent une part considérable des composants informatiques haut de gamme, notamment la mémoire destinée aux serveurs et les accélérateurs de calcul. Cette pression sur l’offre peut peser sur les prix du matériel, des ordinateurs, des smartphones et des infrastructures cloud. Lorsqu’un secteur aspire une grande partie des ressources disponibles, tout le monde finit par sentir le courant d’air dans son portefeuille.
L’énergie constitue un défi encore plus imposant. Les data centers nécessaires à l’entraînement et à l’utilisation des modèles IA consomment énormément d’électricité. L’augmentation des capacités de calcul annoncée aux États-Unis et dans d’autres régions pose donc une question très concrète : où trouver une énergie abondante, fiable et abordable ?
Il ne suffit pas de construire des bâtiments remplis de serveurs. Il faut les alimenter, les refroidir, raccorder les réseaux et garantir la disponibilité des équipements. La promesse d’une IA omniprésente dépend ainsi d’infrastructures physiques bien moins légères que l’icône colorée d’un chatbot sur un écran.
La bulle de l’IA va-t-elle éclater ?
Parler d’effondrement serait excessif. L’IA générative apporte déjà de la valeur dans de nombreux domaines : assistance au développement logiciel, traitement de documents, recherche, création de contenu, traduction, aide au support client et automatisation de tâches répétitives.
En revanche, une correction du marché est parfaitement possible. Les investisseurs ont financé des projets en pariant sur une croissance extrêmement rapide et sur une baisse des coûts à venir. Si les revenus progressent moins vite que les dépenses en puces, data centers et énergie, certaines stratégies devront être revues.
Le scénario le plus crédible n’est pas la disparition de l’IA. C’est une phase de tri. Les entreprises capables de démontrer un retour sur investissement mesurable, de réduire leurs coûts d’inférence et de proposer des usages réellement utiles sortiront renforcées. Celles qui misent uniquement sur l’effet de mode risquent de découvrir qu’un PowerPoint ne refroidit pas un data center.
Cette sélection pourrait aussi modifier la hiérarchie du secteur. Les géants disposant des plus grandes infrastructures conservent un avantage énorme, mais des modèles plus sobres et mieux optimisés peuvent redistribuer les cartes. Des acteurs comme DeepSeek, Mistral AI, Moonshot ou d’autres spécialistes des modèles efficaces montrent qu’il n’existe pas qu’un seul chemin vers des performances élevées.
L’IA locale et les petits modèles peuvent changer la donne
L’une des pistes les plus prometteuses consiste à déplacer une partie des calculs sur les appareils des utilisateurs. PC équipés de NPU, smartphones récents et serveurs internes peuvent traiter localement certaines tâches, sans solliciter en permanence un data center distant.
Cette approche apporte plusieurs avantages. Elle peut réduire les coûts cloud, améliorer la confidentialité des données et diminuer la latence. Pour une entreprise, traiter localement des informations sensibles évite aussi d’envoyer systématiquement ses documents stratégiques vers une infrastructure extérieure.
L’IA locale ne remplacera pas tous les grands modèles. Les tâches exigeant une forte puissance de raisonnement, des analyses multimodales ou de vastes connaissances continueront souvent de nécessiter des infrastructures centralisées. Mais un système hybride pourrait devenir la norme : le modèle local s’occupe des demandes courantes, tandis que le cloud intervient lorsque la complexité l’exige.
Cette évolution incite à repenser la question centrale. L’objectif ne devrait pas être de faire tourner le plus grand modèle possible pour chaque demande. Il devrait être d’utiliser la bonne IA, au bon endroit, pour la bonne tâche.
Comment maîtriser le coût de l’IA en entreprise
Les organisations qui souhaitent déployer l’IA générative durablement peuvent déjà agir sur plusieurs leviers :
- Mesurer les usages réels : suivre les volumes de tokens, les équipes les plus consommatrices et les cas d’usage qui apportent des gains concrets.
- Fixer des quotas et des budgets : l’IA doit être pilotée comme n’importe quel service cloud, avec des alertes avant la mauvaise surprise de fin de mois.
- Réduire la taille des prompts : envoyer uniquement les informations utiles limite les coûts et améliore souvent la qualité des réponses.
- Utiliser le cache : les demandes répétitives n’ont pas besoin d’être recalculées à l’infini.
- Router les requêtes : un petit modèle rapide peut suffire pour classer, extraire ou reformuler, tandis qu’un modèle premium est réservé aux cas complexes.
- Tester l’IA locale ou privée : pour certains flux de données, un déploiement interne peut devenir rentable à moyen terme.
- Évaluer la qualité avant le volume : automatiser une mauvaise réponse à grande échelle reste une mauvaise idée, mais beaucoup plus chère.
L’industrie de l’IA ne semble donc pas condamnée à s’effondrer. Elle doit surtout prouver qu’elle sait grandir sans transformer chaque requête en petit feu de cheminée numérique. La prochaine révolution ne viendra peut-être pas du modèle le plus gigantesque, mais de celui qui saura produire un résultat utile avec beaucoup moins de ressources.
Source : IA générative : la facture explose, le modèle économique des géants de la tech vacille
