6 min. Temps de lecture

Près de trois organisations sur quatre autorisent les agents d’intelligence artificielle autonomes à accéder à leurs données et à leurs processus. Pourtant, seulement une sur cinq dispose d’un plan d’urgence testé pour le moment où un agent se trompe. Cette lacune n’est pas une question technique : c’est une question de leadership. Ceux qui scalent sans déterminer clairement qui est responsable des résultats ne rencontrent pas un problème lié à l’IA, mais un vide de gouvernance.

Connexes :Comment le marché des capitaux évalue la gouvernance de l’IA  /  Qui définit ce que l’IA considère comme vrai ?

Ce qui distingue l’IA agitée de l’IA traditionnelle

Qu’est-ce que l’IA agitée ? L’IA agitée désigne des systèmes d’IA qui non seulement répondent, mais agissent de manière autonome : ils prennent des décisions, appellent des outils, déclenchent des actions dans d’autres systèmes. Un agent réserve, commande ou modifie des données sans qu’une personne ne valide chaque étape. C’est précisément cette autonomie qui rend la question de la responsabilité urgente.

Un modèle linguistique classique propose un texte, puis une personne le vérifie. Un agent agit. La différence peut sembler mineure, mais elle change fondamentalement la chaîne de responsabilités. Si un agent lance une commande erronée, informe mal un client ou écrit des données dans un système qu’il n’aurait pas dû toucher, il n’y a plus d’étape intermédiaire où quelqu’un aurait pu intervenir. L’erreur est arrivée avant que quiconque ne la voie.

Les chiffres actuels montrent à quel point la pratique de la supervision a déjà pris du retard. Près de trois quarts des organisations donnent déjà accès aux agents à leurs données et à leurs processus, que ce soit lors de tests pilotes, lors de la scalabilité ou en production. Seulement environ 20 % disposent d’un plan testé pour le cas où un agent IA agirait de manière erronée. Cette différence représente le véritable risque, et non la technologie elle-même.

Pourquoi la responsabilité disparaît

Le schéma est bien connu de toute transformation avortée. Une technologie est introduite parce qu’elle est disponible et sous l’effet d’une pression concurrentielle. La responsabilité n’est attribuée qu’ultérieurement, lorsque le temps le permet. Dans le cas d’un outil autonome, cette attribution tardive devient particulièrement dangereuse. L’agent ne patiente pas jusqu’à ce que la gouvernance soit mise en place.

Dans une entreprise, cela se traduit par un déficit de coordination entre les différentes fonctions. Le DSI voit l’intégration technique ; le directeur financier observe les coûts ; le directeur des opérations surveille le processus. Aucun d’entre eux ne s’approprie automatiquement la question de savoir qui sera tenu responsable si l’agent commet une erreur au croisement de ces trois domaines. Sans une définition explicite, cette interrogation demeure suspendue entre les chaises et y reste jusqu’à ce qu’un incident la rende visible.

Ce que le conseil d’administration exige désormais

La bonne nouvelle, c’est que la pression vient d’en haut et offre ainsi une opportunité d’action. Les conseils d’administration demandent de plus en plus une vision claire des risques liés à l’IA et de leur responsabilité, en lien avec les exigences réglementaires issues de NIS2, DORA et du règlement européen sur l’IA. Cette question ne peut être résolue par une simple diapositive mettant en avant l’esprit d’innovation. Elle nécessite une clarification précise : qui possède quel agent, quelles données celui-ci est autorisé à manipuler, et que se passe-t-il en cas d’erreur ?

Une tendance émerge quant à la mise en œuvre. Plutôt que de répartir la gouvernance sur chaque projet individuel, une couche centrale se dessine, regroupant la supervision, le pilotage et l’orchestration des agents. Qu’on l’appelle « centre de commandement » ou simplement « responsabilité claire », peu importe. L’essentiel est qu’il existe bel et bien une entité chargée d’avoir une vue d’ensemble et, en cas d’urgence, de pouvoir interrompre le système.

Un agent habilité à agir mais sans propriétaire n’est pas un progrès. C’est un risque qui n’a encore jamais été déclenché.

Ordonner les étapes constitue ici la véritable décision de leadership. Celui qui prévoit d’évoluer à grande échelle avant de clarifier les responsabilités inverse la logique et mise sur la chance. En revanche, celui qui définit dès la phase de pré-production qui sera tenu responsable et quelles conséquences s’appliqueront en cas d’erreur sacrifie peut-être deux semaines. Mais il gagne en contrôle sur une technologie qui, autrement, pourrait échapper à toute supervision. Ces deux semaines représentent l’assurance la plus économique qu’un DSI puisse actuellement souscrire.

Foire aux questions

Source de l’image : générée par IA (mai 2026), certificat C2PA intégré à l’image