Lorsque l’IA construit ses propres successeurs

Plus de 80 % du code dans le développement propre à Anthropic est désormais écrit par l’IA elle-même. La semaine dernière, c’est précisément l’un des principaux laboratoires d’IA qui a proposé une pause coordonnée du secteur, avant que les modèles ne commencent à concevoir leurs propres successeurs. Pour les responsables de la stratégie IA, il s’agit moins d’une annonce produit que d’une question de contrôle.

À lire aussi :L’IA au conseil d’administration : pourquoi seulement 12 % en tirent profit  /  Le pilote IA est opérationnel, mais pas la mise en production

Ce que dit vraiment le livre blanc

Ce document provient de l’institut interne d’Anthropic et porte la signature de Marina Favaro et Jack Clark. L’observation centrale : l’IA contribue déjà de manière mesurable au développement de l’IA. L’entreprise étaye ce constat avec des chiffres issus de ses propres opérations.

Selon le laboratoire, le modèle rédige désormais la majeure partie du code intégré à sa propre base de code. Les horizons temporels sur lesquels un modèle peut résoudre des tâches cohérentes se doublent ainsi tous les quatre mois environ. Si cette tendance se confirme, le moment approche où un système concevra son propre successeur sans qu’un humain ne puisse suivre chaque étape.

La proposition : ralentir, mais uniquement ensemble

Anthropic ne demande pas un arrêt immédiat. Le laboratoire formule prudemment qu’il souhaite avoir l’option de ralentir ou de suspendre temporairement le développement afin que la société et la recherche en sécurité puissent rattraper. L’élément clé est la condition : on ne ralentira que si d’autres acteurs majeurs font de manière avérée et vérifiable la même chose.

Avec cela, le problème principal se déplace de la question du vouloir à celle de la vérification. Comment un laboratoire en Californie peut-il prouver qu’un concurrent à San Francisco ou Pékin ralentit vraiment ? Sans vérification fiable, chaque appel à la retenue reste un crédit de confiance que personne n’apprécie de donner en premier dans la course.

La contre-question : qui bénéficie d’une pause ?

C’est exactement ici que les critiques s’insèrent. Une pause globalement coordonnée ne stoppe pas seulement le risque, elle conserve aussi le statu quo du marché. Une pause consolide l’avantage de celui qui l’a déjà. La demande peut être sincère, mais son effet sur la concurrence peut néanmoins être examiné avec lucidité. Celui qui appelle tôt et fort à une freinature devrait expliquer pourquoi précisément maintenant.

Un miroir historique aide à situer la chose. En 2019, un autre laboratoire avait d’abord mis en veille son nouveau modèle de langage, car il était jugé trop dangereux. Après sa publication, cette inquiétude s’est révélée exagérée. Ce modèle est connu, et il rappelle de distinguer clairement les arguments de sécurité des intérêts concurrentiels.

Trois questions qui nécessitent maintenant une réponse

Pour l’organisation proprement dite, ce qui compte moins c’est le résultat du débat que sa propre préparation. Trois questions peuvent être abordées immédiatement.

Premièrement : où la IA prend-elle déjà des décisions chez nous ? Celui qui ignore le pourcentage de décisions automatisées dans son entreprise ne peut pas non plus en être responsable. Un inventaire objectif est la première étape, réalisable en 90 jours.

Deuxièmement : qui assume la supervision ? Les risques liés à la IA nécessitent un comité désigné doté d’un mandat et d’un chemin de rapport clair, avec la même sérieux que les sujets financiers ou de conformité. Une responsabilité accessoire n’a pas de portée.

Troisièmement : quelles hypothèses tiennent si le rythme persiste ? Les stratégies basées sur une lente maturité de la IA ont besoin d’un test de stress pour le cas rapide. La courbe du whitepaper est une invitation à calculer précisément cela.

Foire aux questions

Source d’image : générée par IA (juin 2026), certificat C2PA inclus dans l’image