6 min de lecture

Les budgets dédiés à l’IA augmentent, tout comme les attentes. Pourtant, deux ans après le grand engouement, la plupart des projets d’IA ne génèrent aucun impact économique mesurable. Gartner met en garde : plus de 40 % des projets d’IA agentielle seront abandonnés d’ici 2027. Les conseils d’administration commencent à poser des questions gênantes. Ce bilan honnête révèle ce qui fonctionne, ce qui ne fonctionne pas – et pourquoi les DSI doivent impérativement changer de cap dès maintenant.

L’essentiel

La vague de désillusion s’installe

Après deux années d’investissements intensifs dans l’IA, un schéma émerge, familier aux DSI expérimentés confrontés à de précédentes vagues technologiques : les attentes dépassent largement les résultats obtenus. Selon BCG, seules 26 % des entreprises parviennent à dépasser la phase de projets pilotes. La majorité expérimente, mais ne parvient pas à passer à l’échelle. Le cycle d’engouement de Gartner place déjà les agents IA sur la voie vers « la vallée de la déception ».

Le problème ne réside pas dans la technologie. Les modèles s’améliorent, l’infrastructure devient plus puissante, les possibilités d’application s’élargissent. Le problème est d’ordre organisationnel : il s’agit du fossé entre la faisabilité technique et la valeur ajoutée métier. De nombreux projets naissent d’un simple réflexe « Nous devons aussi faire de l’IA », et non d’un problème métier concret. Le résultat ? Des preuves de concept impressionnantes sur le plan technique, mais incapables de s’intégrer dans les processus métiers existants.

S’ajoute à cela une attente accrue des comités de direction, façonnée par les reportages médiatiques sur des succès spectaculaires de l’IA. Lorsqu’un géant technologique mondial, doté de 50 000 data scientists, annonce des gains de productivité, cela crée, dans les PME, un benchmark irréaliste. La réalité de la plupart des entreprises est différente : qualité des données limitée, compétences IA absentes au niveau de la direction, et processus non conçus pour une prise de décision automatisée. Les entreprises lancent des projets IA sans critères de réussite clairs, sans business cases définis, et sans méthodes permettant de mesurer systématiquement le retour sur investissement. Lorsque, après six mois, on leur demande ce que le projet a apporté, elles n’ont pas de réponse.

Une étude Deloitte pour le marché allemand confirme ce constat : les entreprises allemandes investissent massivement dans l’IA, mais transforment peu. Le décalage entre investissement et impact constitue le problème central que les DSI devront résoudre au cours des prochains trimestres.

« Les entreprises déploient des agents IA plus rapidement que leurs structures de gouvernance ne parviennent à évoluer. Celui qui ne peut pas mesurer la valeur ne pourra pas justifier les coûts. »
Reformulation libre d’un extrait de McKinsey, « Seizing the Agentic AI Advantage » (2025)

Où échouent les projets IA : les trois motifs les plus fréquents

Motif 1 : Le cimetière des projets pilotes. Les entreprises lancent simultanément 15 à 20 projets pilotes IA, sans priorisation. Chaque projet reçoit un petit budget, une petite équipe et un objectif vague. Au bout de six mois, trois d’entre eux fonctionnent techniquement, mais aucun ne dispose d’un business case évolutif. L’organisation perd tout intérêt, et les projets sont discrètement enterrés. BCG identifie ce motif comme la cause la plus fréquente de la stagnation de l’IA.

Motif 2 : L’explosion des coûts. Les charges de travail IA dans le cloud sont coûteuses. Les coûts d’inférence sur GPU sont 5 à 10 fois supérieurs aux coûts de calcul classiques. Un chatbot traitant internement 50 000 demandes par mois peut générer des coûts mensuels de cloud allant de 15 000 à 30 000 euros. Sans KI-FinOps en tant que discipline dédiée, les coûts dépasseront rapidement les bénéfices. Le point critique est surtout l’absence de transparence sur les coûts : dans de nombreuses organisations, les charges de travail IA tournent sur les mêmes comptes cloud que les applications classiques. Il devient alors impossible d’attribuer les coûts à des cas d’usage spécifiques, et la facture globale constitue une mauvaise surprise à la fin du trimestre.

Motif 3 : Le déficit de mesure. Selon McKinsey, seules 39 % des entreprises rapportent un impact mesurable sur l’EBIT grâce à l’IA. Les indicateurs traditionnels ne conviennent pas. Quelle est la valeur d’une analyse de documents 20 % plus rapide ? Comment quantifier les erreurs évitées ? En l’absence de métriques définies avant le démarrage du projet, toute discussion sur le ROI se transforme en acte de foi plutôt que sur une base factuelle.

Ce qui fonctionne : trois modèles de réussite tirés de la pratique

Malgré ce bilan décevant, certaines entreprises parviennent effectivement à démontrer un ROI IA vérifiable. Leurs points communs sont constants : concentration, indicateurs clairs et intégration opérationnelle – plutôt qu’un simple étalage technologique.

Modèle de réussite 1 : Peu de cas d’usage, mais une profondeur maximale. Les entreprises qui démontrent un ROI IA se concentrent sur 3 à 5 cas d’usage, qu’elles déploient ensuite pleinement en production. Une entreprise industrielle allemande a automatisé son contrôle qualité à l’aide de la vision par ordinateur : 35 % de pièces défectueuses en moins, ROI atteint au bout de 7 mois. La clé n’était pas la technologie, mais l’intégration complète dans le processus de production existant.

Modèle de réussite 2 : Des KPI avant le premier prompt. Les projets à succès définissent des objectifs mesurables avant même de lancer le projet. Pas « nous voulons utiliser l’IA », mais « nous voulons réduire le délai de traitement des demandes clients de 4 heures à 1 heure, tout en maintenant un taux de satisfaction client supérieur à 4,2 ». Chaque projet IA nécessite une mesure de référence (baseline), un objectif cible (target) et un calendrier défini.

Modèle de réussite 3 : La KI-FinOps comme outil de pilotage. Le coût par inférence, le taux d’utilisation des GPU, le coût par résultat obtenu : ces indicateurs n’existent encore dans la plupart des entreprises. Les pionniers instaurent la KI-FinOps comme discipline autonome, avec des équipes dédiées chargées de rendre transparents et d’optimiser les coûts cloud liés aux charges de travail IA. Selon Flexera, le potentiel de gaspillage cloud s’élève à 29 % ; il est probablement encore plus élevé pour les charges de travail IA. Concrètement, cela signifie : comptes de coûts séparés pour les charges de travail IA, tableaux de bord en temps réel du taux d’utilisation des GPU, et alertes automatisées en cas de dépassement budgétaire. Les entreprises ayant mis en place la KI-FinOps précocement rapportent des économies de coûts cloud IA de 20 à 35 % dès le premier trimestre suivant sa mise en œuvre.

Sources : BCG 2025, McKinsey 2025, Flexera State of Cloud 2026

Les chiffres allemands : le paradoxe de l’IA dans les PME

Le marché allemand illustre particulièrement bien le problème du ROI IA. Selon Deloitte, les entreprises allemandes investissent massivement dans les technologies IA, mais la transformation reste largement absente. Les raisons sont structurelles : les PME, pilier de l’économie allemande, ne disposent ni de l’infrastructure de données ni des talents IA nécessaires pour déployer des projets complexes à grande échelle. Parallèlement, la pression exercée par les clients et les concurrents pour démontrer des capacités IA ne cesse de croître.

Bitkom évalue l’utilisation de l’IA dans les entreprises allemandes à environ 20 %. Or, « utilisation » signifie souvent : une équipe a testé ChatGPT, et non : l’organisation a implémenté en production un processus basé sur l’IA. L’écart entre simple utilisation et création de valeur est considérable. Les DSI allemands font face à un défi supplémentaire : 27 % des PDG échouent sur la culture propre à leur entreprise lorsqu’il s’agit d’IA. Sans changement culturel, toute investissement technologique demeurera inefficace.

S’y ajoute le cadre réglementaire : le Règlement général sur l’IA (AI Act) de l’UE entrera pleinement en vigueur en août 2026. Les entreprises utilisant des systèmes IA dans des domaines à haut risque devront prévoir des coûts supplémentaires de conformité, pesant davantage sur le ROI. Obligations de documentation, évaluations des risques et pistes d’audit ont un coût financier et mobilisent des ressources humaines. Celles qui n’auront pas encore démontré un ROI IA vérifiable d’ici là auront des difficultés à faire valider de nouveaux investissements auprès de leur conseil d’administration.

La conséquence pour les PME allemandes : les entreprises de moins de 500 employés devraient se concentrer sur au maximum deux cas d’usage IA, et les déployer pleinement, plutôt que de répartir leur budget innovation sur dix expérimentations. La pénurie de talents aggrave le problème : selon Bitkom, l’Allemagne manque de plus de 149 000 149 000 spécialistes IT. Parmi eux, les experts IA figurent parmi les profils les plus difficiles à recruter. Les PME incapables de développer en interne des compétences IA devraient opter stratégiquement pour des services IA gérés (Managed-AI-Services) et contractualiser avec leur prestataire la démonstration du ROI.

Checkliste : rendre le ROI IA mesurable

Les DSI souhaitant démontrer le ROI de leurs investissements IA ont besoin d’un cadre structuré. Les sept étapes suivantes constituent la base indispensable :

1. Définir une baseline. Avant tout projet IA, mesurer l’état actuel : délais de traitement, taux d’erreurs, coûts, satisfaction client. Sans baseline, aucun progrès mesurable n’est possible.

2. Fixer trois KPI par projet. Ni plus, ni moins. Des KPI typiques : délai de résolution (Time-to-Resolution), taux d’erreurs (Error Rate), coût par transaction (Cost per Transaction), score de satisfaction client (Customer Satisfaction Score), indice de productivité des employés (Employee Productivity Index).

3. Mettre en place la KI-FinOps. Coût par inférence, taux d’utilisation des GPU, dépense cloud par cas d’usage. Ces indicateurs doivent être suivis dès le jour un, et non seulement lorsque la facture arrive.

4. Mettre fin aux cimetières de projets pilotes. Classer tous les projets IA en cours dans une matrice de portefeuille : impact vs faisabilité. Mettre fin aux 50 % les moins prometteurs, et accorder un budget complet aux 20 % les plus performants pour les déployer à grande échelle.

5. Nommer un responsable métier (Business Owner). Chaque projet IA doit avoir un Business Owner, et non seulement un chef de projet technique (Tech Lead). Ce Business Owner est responsable de la démonstration du ROI, et non le département informatique.

6. Mettre en place des revues trimestrielles. Revues de ROI toutes les 90 jours avec le conseil d’administration. Non pas comme un exercice de défense, mais comme un outil de pilotage. Tout projet sans progrès mesurable après deux trimestres doit être arrêté.

7. Communiquer les succès. Les réussites IA doivent être visibles en interne. Études de cas, indicateurs chiffrés, enseignements tirés. Cela crée l’adhésion nécessaire à de nouveaux investissements et attire les talents.

Ce que les DSI doivent dire dès maintenant au conseil d’administration

Le message honnête à adresser au conseil d’administration est le suivant : l’IA sera, à moyen et long terme, une force transformatrice, mais le ROI à court terme est plus difficile à démontrer que prévu. Gartner prévoit qu’au-delà de 40 % des projets d’IA agentielle seront abandonnés d’ici 2027. Ce n’est pas une déclaration de faillite de la technologie, mais le signe d’un pilotage insuffisant.

Les DSI qui, dès aujourd’hui, adoptent une stratégie de concentration, définissent des KPI mesurables et mettent en place la KI-FinOps, seront en mesure de livrer, dans douze mois, les résultats attendus par le conseil d’administration. Celui qui continue à expérimenter de façon extensive sans passer à l’échelle fera partie de la statistique des 40 %. La décision se joue dans les deux prochains trimestres.

Le changement de paradigme le plus important : le ROI IA n’est pas une métrique technologique, mais une métrique métier. La question n’est pas « À quel point notre modèle est-il précis ? », mais « Quel chiffre d’affaires, quelle économie de coûts ou quelle réduction de risques notre investissement IA a-t-il généré ? ». Les DSI capables d’accomplir cette traduction renforceront, dans les années à venir, non seulement leur capacité à justifier leurs budgets, mais aussi leur rôle de partenaire stratégique du conseil d’administration. Celui qui reste cantonné à la technologie sera dépassé par le directeur financier.

Questions fréquentes

Source de l’image principale : Tiger Lily / Pexels