IA locale : la gouvernance avant l’achat de matériel

Quatre évolutions en deux semaines montrent que l’IA opérée en local va bien au-delà de la stack technique. Qui exploite des modèles en propre s’achète exploitation, responsabilité et de nouvelles dépendances. Cela doit être tranché comme décision de gouvernance, avant qu’un pilote d’outil ne devienne un standard d’exploitation.

À lire aussiGouvernance du conseil de surveillance : renforcer ciblée la compétence numérique  /  Records management comme enjeu CIO : pourquoi la gouvernance a besoin d’un ownership

En bref

• Le téléchargement des poids de modèle bascule la responsabilité hors du contrat fournisseur vers le manuel d’exploitation interne.
• Open Weights, open source selon l’OSI et l’exception dans l’EU AI Act sont trois choses distinctes. Le service juridique doit les séparer.
• La décision ne devient robuste que lorsque classe de données, responsable, licence, exploitation et sortie sont clarifiés avant l’achat du matériel.

Quatre signaux qui vont de pair

Le débat précède la disponibilité. Début août circulent des classements des meilleurs modèles ouverts dans lesquels un modèle figure loin en tête, alors que ses poids n’ont pas encore été publiés. Alibaba les a elle-même annoncés pour la semaine suivante. Des spécialistes l’ont corrigé, mais les classements étaient déjà là. Qui tire de telles sources une pression d’achat planifie contre un état de fait qui n’existe pas.

Un fournisseur peut modifier son positionnement en cours d’exploitation. Ollama s’est imposé comme outil d’IA locale et bascule désormais des modèles vers sa propre offre cloud. La communauté critique le fait que des modèles nouveaux et populaires seraient retenus pour pousser les abonnements ; un outil qui place des modèles derrière un paywall ne serait, au final, qu’un fournisseur cloud de plus, avec une étape intermédiaire. C’est une position de la communauté, non un jugement sur l’entreprise. Le point structurel demeure toutefois : une stratégie de souveraineté qui repose sur un seul outil n’a fait que déplacer la dépendance.

Le paysage des fournisseurs se polarise publiquement. Fin juillet, Anthropic a publié une position de principe sur les modèles à poids ouverts, qui a suscité un large débat controversé. Presque au même moment, Moonshot a libéré les poids de Kimi K3. D’un débat d’experts est née une bipolarisation dans laquelle les achats doivent prendre position, plutôt que de s’appuyer sur un consensus de marché.

La dimension géopolitique a rejoint le grand public. Dans le débat public circule l’affirmation selon laquelle une part importante des entreprises miseraient désormais sur des modèles chinois moins chers à poids ouverts. Ce chiffre provient d’une interview et n’est pas étayé. Comme statistique de marché, il ne vaut rien ; comme baromètre d’opinion, oui : la question cloud américain ou Open Weights chinois se pose désormais au niveau de la direction.

Les Open Weights ne donnent pas carte blanche

Les positions se laissent classer. Sebastian Raschka résume l’intérêt des modèles ouverts : ils assurent la vérifiabilité, permettent de retracer les affirmations et de faire tourner les modèles sur son propre matériel, sans confier données personnelles ni propriété intellectuelle à des fournisseurs fermés. Andrew Chen d’a16z complète le volet marché et juge les modèles de pointe surdimensionnés pour la plupart des cas d’usage. La contre-position est tout aussi claire : faute de ressources, nombre de ces modèles ne sont tout simplement pas exploitables en local.

Pour la conformité, une distinction nette s’impose. Open Weights signifie : les poids sont téléchargeables, la licence régit l’usage. Les données d’entraînement, le code d’entraînement et la reproductibilité n’en font pas partie. L’open source selon la définition de l’OSI (Open Source Initiative) (OSAID 1.0) exige en outre des Data Information : origine, volume, méthodes d’acquisition et de sélection, labeling, traitement et filtrage.

GLM-5.2 et DeepSeek V4 Pro sont sous licence MIT, une vraie licence OSI. Ils ne sont pourtant pas de l’Open Source AI au sens de l’OSAID, faute de données d’entraînement. Une licence permissive sur les poids et une IA open source sont deux choses distinctes. C’est précisément là que le service juridique doit regarder.

Kimi K3 porte une licence avec clause de participation aux bénéfices : qui exploite le modèle pour soi ne paie rien. Qui l’offre comme service payant à des tiers doit partager les recettes. Pour les entreprises qui intègrent des fonctions d’IA dans leurs propres produits, c’est une condition contractuelle pertinente, pas une note de bas de page.

Le règlement européen sur l’IA (EU AI Act) durcit encore la donne. Le considérant 104 exige, pour l’exception des modèles libres et open source, des paramètres, des poids ainsi que des informations d’architecture et d’usage publiquement disponibles. L’exception ne couvre toutefois que les obligations liées à la transparence. Le résumé des contenus d’entraînement et le respect du droit d’auteur restent applicables. La question d’interprétation reste ouverte : au sens strict de l’OSI, presque tous les modèles sortent de l’exception. Lue plus souplement comme Open Weights, des modèles risqués passent aussi. L’achat nécessite donc un examen propre de la licence et de l’AI Act. Le simple lien de téléchargement ne suffit pas.

La courbe qu’il ne faut pas figer

Entre ces signaux se dessine une évolution qui figure encore rarement dans les modèles d’appel d’offres, mais qui pèse plus lourd pour les décisions d’architecture que n’importe quelle actualité du jour : la classe de modèles qui tournent sur du matériel propre rattrape le haut de gamme à un rythme que les cycles d’investissement classiques ne suivent pas.

Un exemple vérifiable : en avril 2026, Alibaba a publié un modèle dense de 27 milliards de paramètres qui tourne sur une seule carte graphique professionnelle. Sur l’un des référentiels les plus exigeants en programmation agentique, il atteint 77.2 pour cent et devance ainsi son propre modèle phare précédent, de 397 milliards de paramètres, qui plafonnait à 76.2 pour cent. Environ quinze fois plus petit, un peu meilleur, trois mois et demi d’écart. Ce qui relevait du centre de données au printemps tournait sur un poste de travail en été.

Ce mouvement est alimenté par une concurrence qui pousse des deux côtés. Les fournisseurs de modèles ouverts ont répliqué en quelques semaines : Moonshot a libéré le plus grand modèle ouvert à ce jour, DeepSeek et Zhipu placent leurs modèles de pointe sous licence MIT, Alibaba ouvre pour la première fois sa classe de modèles supérieure. De l’autre côté, les fournisseurs fermés baissent les prix et publient des positions de principe sur les poids ouverts, ce qu’il y a un an personne ne jugeait nécessaire. Les deux camps travaillent actuellement sur la même courbe.

L’attente des analystes pointe dans la même direction. Gartner table sur une inférence sur un modèle d’un billion de paramètres coûtant en 2030 plus de 90 pour cent de moins qu’en 2025, par rapport aux modèles comparables de 2022 avec jusqu’à cent fois plus d’efficacité coût. Les moteurs en sont des semi-conducteurs plus efficaces, une meilleure conception de modèles, un taux d’utilisation plus élevé, du matériel d’inférence spécialisé et le recours aux terminaux pour certains cas d’usage. Sur la part de traitement local, l’attente est tout aussi claire : plus des deux tiers des entreprises avec de l’IA en périphérie de réseau d’ici 2029, contre environ dix pour cent en 2025.

Une réserve s’impose explicitement. Elle vient de Gartner lui-même : l’économie n’arrive pas un pour un chez l’entreprise utilisatrice. Les applications agentiques consomment nettement plus de tokens par tâche, ce qui grignote une part substantielle de l’avantage tarifaire. Moins cher par token ne signifie pas moins cher par opération métier.

La conséquence en matière de gouvernance est pourtant claire. Elle ne dit pas « tout internaliser immédiatement ». Elle dit : ne prendre aucune décision d’architecture qui rende le basculement coûteux. Qui fige aujourd’hui un fonctionnement purement cloud, avec des interfaces fournisseurs câblées en dur, un engagement pluriannuel et sans cas d’évaluation propres, parie contre sa propre courbe de coûts et perd du levier de négociation à chaque reconduction de contrat. À l’inverse, un achat de matériel précipité coûte tout aussi cher, car il fige un instantané. La position tenable se situe entre les deux : des points d’inférence interchangeables, des cas d’évaluation propres plutôt que des classements tiers, et une classification des données qui sait déjà quels processus migreraient en premier en interne dès que le calcul le justifie.

Le réaliste, c’est une part croissante : une portion du paysage de processus qui, pour des raisons de classe de données, de volume ou de latence, a sa place en interne et s’élargira au fil des prochaines années. Il faut connaître cette part avant de signer le prochain accord-cadre.

Des coûts absents du business case

Une formule issue du débat s’est imposée comme adage : Open Weights, closed by hardware. Lorsque l’exploitation exige des centaines de milliers de GPU, ce n’est plus un modèle local. C’est un modèle cloud aux poids téléchargeables. En gouvernance, cela signifie : le téléchargement des poids est une décision d’exploitation à pleine responsabilité interne. Ce qui figurait auparavant dans le contrat avec le fournisseur se retrouve ensuite dans le manuel d’exploitation. C’est légitime. Mais cette décision doit être prise et budgétée comme telle.

Les coûts GPU bruts ne représentent que 30 à 40 pour cent du véritable investissement d’infrastructure. En règle générale, multipliez le prix du matériel par un facteur 2,5 à 3. L’utilisation réelle en production se situe entre 40 et 65 pour cent, alors que de nombreux calculs tablent encore sur 80 à 90 pour cent et surévaluent ainsi le bénéfice. La pile d’inférence en production coûte en outre 10 à 20 heures par mois pour les mises à jour, le diagnostic, la surveillance et la planification des capacités.

Le seuil de rentabilité face aux prix d’API des modèles de pointe se situe autour de 2 à 5 millions de tokens par jour sur douze mois. Face aux prestataires à bas coût de modèles ouverts, seulement à partir de 50 millions de tokens par jour et plus. Qui rate ces seuils finance avec l’IA locale davantage un sentiment de souveraineté qu’un avantage de coût solide.

S’y ajoute la dérive en exploitation. Un cas documenté montre qu’une mise à jour de modèle a relevé l’exigence de mémoire vidéo de 10 gigaoctets. Une mise à jour peut invalider a posteriori la planification matérielle. Qui n’approuve que le prix d’acquisition et ignore exploitation, mises à jour et risques de capacité décide d’une pile sans planification d’exploitation solide.

Entre le CLOUD Act et les Open Weights

Les entreprises allemandes arbitrent rarement entre les États-Unis et la Chine. Elles se situent entre les hyperscalers américains exposés au CLOUD Act et les modèles chinois à poids ouverts. L’exploitation locale est l’option qui contourne les deux dépendances. Elle coûte exactement ce qui figure ci-dessus.

Les niveaux de souveraineté des données s’échelonnent ainsi : cloud américain avec un risque CLOUD Act permanent, cloud européen offrant une meilleure résidence des données mais toujours exposé via la maison mère américaine, cloud souverain et on-premise, où les données ne quittent pas l’entreprise.

Point important pour la précision : le RGPD (règlement général sur la protection des données) n’impose pas d’exploitation locale. Il exige protection, contrats et résidence des données. Qui vend l’IA locale comme obligation RGPD argumente à tort. Le local n’est qu’une des architectures permettant d’atteindre la conformité. La bonne question est de savoir quelle classe de données peut sortir du périmètre et quels objectifs de protection sont tenables avec quel modèle d’exploitation.

La taille de l’entreprise n’est pas un seuil en soi. Un expert-comptable de douze personnes détient des données clients qui ne peuvent souvent pas quitter l’entreprise. Un grand groupe aux standards cloud Zero Trust reste hybride. La taille corrèle avec le budget, les effectifs et l’appétit pour le risque. La cause de la décision réside dans la classe de données et la capacité d’exploitation.

Huit questions avant la décision

Un comité n’a pas besoin de fausse précision. Il a besoin de huit questions auxquelles on peut répondre par oui ou par non. Si les non s’accumulent, l’IA locale n’est pas mûre comme stack standard. Restent alors le pilote, l’hybride ou le cloud comme voie honnête.

1. La classe de données concernée peut-elle ou doit-elle quitter le périmètre ?
2. Un responsable a-t-il été désigné pour fédérer l’IT, le métier et la sécurité ?
3. Le cas d’usage est-il décrit de façon assez étroite ? Ou s’agit-il d’acquérir un outil générique ?
4. La qualité des modèles ouverts de milieu de gamme suffit-elle de façon démontrable, mesurée sur les cas propres ?
5. Outre le matériel, le fonctionnement permanent, la mise à jour, la surveillance et les mises à jour de modèles sont-ils budgétés ?
6. La licence a-t-elle été vérifiée, y compris l’usage commercial et la redistribution dans le produit propre ?
7. La puissance de raccordement, le refroidissement et l’espace d’implantation sont-ils clarifiés ?
8. Existe-t-il une stratégie de sortie dans les deux sens, y compris un retour vers le cloud ?

On lit le résultat comme un signal de feu vert ou d’arrêt, jamais comme un score. Chaque non est un reste de décision ouvert. Il ne reste ouvert que jusqu’à ce que quelqu’un assume responsabilité et budget.

Ce qu’il faut en retenir

Pour le niveau de gouvernance, trois conséquences comptent, quel que soit le camp qui l’emportera au final.

La base des décisions d’achat doit être découplée du rythme de l’actualité. Lorsqu’un classement évalue un modèle qui n’existe pas encore, il ne peut servir de support de décision. Seules sont opposables les mesures que l’entreprise a elle-même réalisées sur ses propres cas d’usage.

L’examen des licences précède l’achat de matériel, il ne le suit pas. Une licence permissive sur les poids n’est pas un blanc-seing. Les clauses de participation aux bénéfices sont contractuellement pertinentes. L’exception prévue dans l’AI Act de l’UE est plus étroite que son nom ne le laisse penser. Cet examen coûte des jours. Un parc GPU mal acquis coûte des trimestres.

La souveraineté est un modèle d’exploitation. Un téléchargement ne suffit pas. Elle commence là où responsabilité, budget et sortie sont co-décidés. L’IA locale se justifie lorsque la classe de données, le volume et le risque portent l’exploitation en propre. Sans cette base, la stack locale reste un détour coûteux assorti d’un sentiment de contrôle.

Et la question dont la réponse, dans douze mois, ne sera plus celle d’aujourd’hui : Quelle part de son paysage de processus doit rester en interne ? Pour la plupart des entreprises, la réponse est encore aujourd’hui : une petite. Elle ne le restera pas durablement. Lorsqu’un modèle sur une seule carte atteint en un trimestre les performances d’un prédécesseur quinze fois plus grand, et que deux prévisions d’analystes convergent indépendamment dans la même direction, la préparation pertinente n’est pas l’achat de matériel. C’est la capacité à faire évoluer cette part sans reconstruire l’architecture. Qui inscrit dès aujourd’hui cette flexibilité dans ses contrats et ses interfaces décidera plus tard en position de force. Qui se la ferme négociera dans deux ans sur une base de coûts qu’il a lui-même verrouillée.

Questions fréquemment posées

Plus du réseau MBF Media

cloudmagazin

Quand les GPU mangent le budget SaaS

mybusinessfuture

L’IA dans les PME : du pilote à la mise à l’échelle

securitytoday

L’AI Act est en réalité une loi de sécurité

Aussi disponible en