IA locale : la gouvernance avant l’achat de matériel
Benedikt Langer
10 min de lectureQuatre évolutions en deux semaines montrent que l’IA opérée en local va bien au-delà ...
Les entreprises européennes exploitent leur infrastructure d’IA presque exclusivement via des fournisseurs américains ou chinois. Gemma 4 de Google – un modèle open source fonctionnant sur du matériel propre et atteignant, selon les benchmarks, des performances comparables aux modèles de pointe – change la donne. La question pour les DSI n’est plus de savoir si l’IA locale est suffisamment performante. Elle est désormais : à quelle vitesse accélérer le développement de capacités d’IA internes ?
Lorsque les organisations IT intègrent aujourd’hui l’IA dans leurs processus métiers, elles le font généralement via des API. OpenAI, Google, Anthropic, et de plus en plus DeepSeek et Alibaba. L’intégration est rapide, les résultats sont bons, les coûts initiaux restent maîtrisés.
Ce que l’euphorie fait souvent oublier : chaque intégration constitue une dépendance stratégique. Et ces dépendances ont tendance à s’accentuer – plus l’intégration est profonde, plus le désengagement devient difficile.
Trois scénarios qui ne sont pas hypothétiques :
Souveraineté des prix : OpenAI a ajusté plusieurs fois ses tarifs d’API au cours des deux dernières années – dans les deux sens. Toute entreprise ayant calibré ses processus métiers sur un prix par jeton donné est exposée à ces variations. À volume croissant, les coûts peuvent augmenter plus vite que les bénéfices.
Risque géopolitique : Les restrictions à l’exportation des technologies d’IA sont déjà une réalité. Les États-Unis ont fortement limité l’exportation de puces vers la Chine. La Chine réglemente l’accès à ses modèles d’IA pour les utilisateurs étrangers. L’Europe est coincée entre les deux – en tant que consommatrice, non en tant que productrice. Que se passe-t-il si un conflit commercial restreint l’accès aux API d’IA américaines ?
Divergence réglementaire : Le règlement européen sur l’IA (AI Act) impose des exigences en matière de transparence et de documentation des systèmes d’IA. Avec les services cloud, le contrôle sur le comportement du modèle et les données d’entraînement appartient au fournisseur, pas à l’utilisateur. Cela crée un écart de conformité qui s’élargit à chaque nouvelle réglementation.
« Gemma offre des performances par paramètre sans précédent. Ces modèles ne sont pas massifs – ce sont des modèles relativement petits, parfaitement adaptés pour fonctionner sur sa propre GPU. »
– Google, Annonce Gemma 4 (avril 2026, traduction libre)
L’objection contre l’IA locale était jusqu’ici : trop faible, trop complexe, trop coûteuse. Avec Gemma 4, Google réfute ces trois arguments :
À titre de comparaison : Qwen 3.5 d’Alibaba affiche des performances similaires en benchmark, mais nécessite 397 milliards de paramètres. Ce modèle est exclusivement conçu pour le cloud. Gemma 4 31B, lui, fonctionne sur un seul ordinateur qui tient dans n’importe quel bureau.
Quatre tailles de modèles (de 2 à 31 milliards de paramètres) couvrent la gamme allant du smartphone à la station de travail. Les versions les plus petites traitent directement sur l’appareil audio, vidéo et images. Les modèles plus grands prennent en charge les appels de fonctions et les sorties structurées – condition indispensable pour des workflows automatisés sans intervention humaine.
Pour les décideurs IT, la question n’est pas une décision technologique, mais un enjeu de gouvernance : quelle marge de contrôle l’entreprise souhaite-t-elle et peut-elle conserver sur son infrastructure d’IA ?
Entièrement dans le cloud (statu quo pour la plupart) : Qualité maximale, effort interne minimal. Mais : dépendance maximale, contrôle minimal sur les coûts, les flux de données et la disponibilité. Adapté aux entreprises à faible volume d’IA et aux cas d’usage non critiques.
Entièrement local : Contrôle maximal et souveraineté des données. Mais : nécessite une infrastructure GPU, des compétences MLOps, et l’acceptation du fait que le niveau de performance reste en dessous des modèles de pointe. Adapté aux secteurs fortement réglementés et aux applications traitant des données sensibles.
Hybride (le juste milieu rationnel) : Modèles locaux pour 70-80 % des inférences standard (classification, résumé, extraction de données, tâches routinières). Modèles de pointe dans le cloud pour les 20-30 % restants (analyses complexes, tâches stratégiques, applications créatives). Le routage selon la sensibilité des données et la complexité des tâches devient une nouvelle mission d’architecture.
L’architecture hybride comporte un déclencheur d’investissement : la base locale doit être construite dès maintenant. Acquisition de GPU, pipeline MLOps, logique de routage, contrôle d’accès. Celui qui attend renforce davantage sa dépendance aux fournisseurs cloud – et rend le passage ultérieur plus coûteux.
Les grands modèles open source proviennent des États-Unis (Meta, Google, Mistral) et de Chine (Alibaba, DeepSeek, Zhipu). L’Europe produit peu de modèles fondamentaux (foundation models) comparables en performance. Cette faiblesse structurelle n’est pas compensée à ce jour par des initiatives comme Gaia-X ou par quelques startups européennes d’IA.
Ce que l’Europe sait faire : exploiter les modèles open source disponibles sur sa propre infrastructure, préservant ainsi au moins la souveraineté opérationnelle. Des modèles sous licence Apache-2.0 comme Gemma 4 permettent précisément cela – sans dépendre de la bonne volonté du fabricant.
Pour les DSI des entreprises DACH, c’est la réponse pragmatique à la question de la souveraineté : ne pas attendre des modèles européens de pointe (qui pourraient ne jamais arriver), mais déployer sur infrastructure propre les meilleurs modèles ouverts disponibles. La licence le permet. Le matériel est accessible. La qualité est suffisante.
Trois points pour la prochaine réunion stratégique :
Prévoir un budget GPU : L’inférence d’IA locale nécessite des capacités GPU dédiées. C’est une nouvelle ligne budgétaire IT, mais avec un ROI clair. Une station de travail GPU (3 000-5 000 euros) remplace des coûts d’API de 500 à 2 000 euros par mois. L’amortissement se situe entre trois et douze mois, selon le volume d’utilisation.
Développer des compétences MLOps : Installer, mettre à jour, intégrer dans les systèmes existants et surveiller des modèles locaux – cela demande des compétences que de nombreuses équipes IT ne possèdent pas encore. L’effort est maîtrisable (comparable à la mise en place d’une nouvelle infrastructure de base de données), mais il doit être planifié et budgété.
Définir une architecture de routage : Quelles tâches sont traitées localement, lesquelles via des API cloud ? Les critères de décision : sensibilité des données, complexité des tâches, exigences de latence, coûts. Ce routage devient une nouvelle compétence clé de l’organisation IT – comparable à la décision hybride cloud il y a dix ans.
La comparaison avec la migration cloud est volontaire : à l’époque aussi, il ne s’agissait pas d’un choix binaire, mais d’une répartition optimale. Et là aussi, les entreprises qui ont développé tôt une stratégie ont eu un avantage – plutôt que de suivre réactivement le marché.
Non. L’IA cloud reste la meilleure option pour les tâches les plus complexes. L’argument est : tout n’a pas besoin d’être dans le cloud. Pour la majorité des charges de travail d’IA, les modèles locaux offrent désormais une qualité suffisante, avec un meilleur contrôle et des coûts réduits. La stratégie intelligente est hybride, pas dogmatique.
Non. Apache 2.0 est une licence perpétuelle – tout logiciel publié sous cette licence reste durablement utilisable librement. Google pourrait publier les versions futures sous une licence différente, mais Gemma 4 déjà publié reste sous Apache 2.0. C’est une différence fondamentale avec les services cloud propriétaires, dont les conditions d’utilisation peuvent être modifiées à tout moment.
Une équipe IA dédiée n’est pas nécessaire pour commencer. La mise en place d’un modèle local via des frameworks comme Ollama ou vLLM est réalisable en une journée par des administrateurs IT expérimentés. Pour l’intégration dans les processus métiers et l’exploitation continue, il est recommandé d’attribuer cette responsabilité à une équipe existante (infrastructure ou plateforme) – non comme une tâche à plein temps, mais comme un élargissement du champ de responsabilités.
L’Europe compte avec Mistral (France) un acteur pertinent dans le domaine open source, mais ne rivalise pas encore en performance de modèles avec Google, Meta ou Alibaba. La stratégie de l’UE mise davantage sur la réglementation (AI Act) que sur le développement de modèles fondamentaux. Pour les entreprises, cela signifie pragmatiquement : exploiter sur infrastructure propre les meilleurs modèles ouverts disponibles afin de garantir la souveraineté opérationnelle, sans attendre des modèles européens de pointe.
À moyen terme, oui. Si 70-80 % des inférences standard sont traitées localement, le volume d’API chez les fournisseurs cloud diminue en conséquence. Les coûts totaux d’IA doivent toutefois être analysés de manière différenciée : aux réductions des coûts d’API s’ajoutent des investissements en matériel, en compétences et en infrastructure. Le seuil de rentabilité se situe typiquement entre trois et douze mois, selon le volume d’utilisation et les dépenses cloud d’IA antérieures.
Source image principale : Pexels