Wie man Open Source ausbremst, ohne es zu verbieten
Benedikt Langer
6 Min. Lesezeit Das schärfste Argument gegen Chinas beste offene KI kommt von einem Mann bei OpenAI. ...
Zum Beitrag
5 Min. Lesezeit
Mehr als 80 Prozent des Codes in Anthropics eigener Entwicklung schreibt inzwischen die KI selbst. Vergangene Woche hat ausgerechnet eines der führenden KI-Labore eine koordinierte Pause der Branche vorgeschlagen, bevor Modelle anfangen, ihre eigenen Nachfolger zu bauen. Wer KI-Strategie verantwortet, liest darin weniger eine Produktmeldung als eine Frage nach Kontrolle.
Das Wichtigste in Kürze
- Die KI beschleunigt die KI. Laut Anthropics Institut schreibt das eigene Modell über 80 Prozent des gemergten Codes, die Engineering-Leistung pro Quartal hat sich verachtfacht. Das nährt die Sorge vor rekursiver Selbstverbesserung.
- Der Vorschlag ist bedingt. Anthropic will nur dann bremsen, wenn andere Anbieter an der Spitze nachweisbar mitziehen. Eine einseitige Pause schließt das Labor aus.
- Die Kritik sitzt im Timing. Eine globale Pause friert auch einen Vorsprung ein, und ohne Verifikation bleibt sie ein Vertrauensvorschuss. Für die eigene KI-Strategie zählt weniger der Ausgang der Debatte als die Frage, wie schnell man selbst reagieren kann.
Verwandt:KI im Vorstand: warum nur 12 Prozent profitieren / Der KI-Pilot läuft, der Regelbetrieb nicht
Was im Whitepaper wirklich steht
Das Papier stammt aus dem hauseigenen Institut von Anthropic und trägt die Handschrift von Marina Favaro und Jack Clark. Die Kernbeobachtung: KI entwickelt KI bereits messbar mit. Das Unternehmen belegt das mit Zahlen aus dem eigenen Betrieb.
So schreibt das Modell nach Angaben des Labors inzwischen den Großteil des Codes, der in die eigene Codebasis einfließt. Die Zeithorizonte, über die ein Modell zusammenhängende Aufgaben lösen kann, verdoppeln sich demnach etwa alle vier Monate. Wenn diese Kurve hält, rückt der Punkt näher, an dem ein System seinen eigenen Nachfolger entwirft, ohne dass ein Mensch jeden Schritt nachvollzieht.
Die Zahlen aus dem Report
80 %
des gemergten Codes schreibt das eigene Modell
8x
mehr Engineering-Leistung pro Quartal als noch 2021 bis 2025
4 Mon.
Zeitraum, in dem sich die Aufgaben-Horizonte verdoppeln
Der Vorschlag: bremsen, aber nur gemeinsam
Anthropic fordert keinen Stopp aus dem Stand. Das Labor formuliert vorsichtig, es wolle die Option haben, die Entwicklung an der Spitze zu verlangsamen oder vorübergehend auszusetzen, damit Gesellschaft und Sicherheitsforschung aufholen können. Entscheidend ist die Bedingung: Man werde nur dann bremsen, wenn andere führende Anbieter nachweisbar und überprüfbar dasselbe tun.
Damit verlagert sich das eigentliche Problem von der Frage des Wollens zur Frage der Verifikation. Wie weist ein Labor in Kalifornien nach, dass ein Wettbewerber in San Francisco oder Peking wirklich langsamer macht? Ohne belastbare Überprüfung bleibt jeder Aufruf zur Zurückhaltung ein Vertrauensvorschuss, den im Wettlauf niemand gern als Erster gibt.
Die Gegenfrage: wem nutzt eine Pause?
Genau hier setzen Kritiker an. Eine global abgestimmte Pause stoppt nicht nur das Risiko, sie konserviert auch den Status quo des Marktes. Eine Pause zementiert den Vorsprung dessen, der ihn schon hat. Die Forderung mag aufrichtig sein, ihre Wirkung auf den Wettbewerb lässt sich trotzdem nüchtern betrachten. Wer früh und laut nach einer Bremse ruft, sollte erklären, warum gerade jetzt.
Ein historischer Spiegel hilft bei der Einordnung. 2019 hielt ein anderes Labor sein damals neues Sprachmodell zunächst zurück, weil es als zu gefährlich galt. Nach der Veröffentlichung erwies sich die Sorge als überzogen. Das Muster ist bekannt, und es mahnt, Sicherheitsargumente und Wettbewerbsinteressen sauber auseinanderzuhalten.
| Sichtweise | Kernargument |
|---|---|
| Befürworter | Die Beschleunigung ist real und schwer umkehrbar. Eine überprüfbare Pause kauft Zeit für Sicherheit und Regulierung. |
| Kritiker | Eine Pause friert Marktanteile ein und ist ohne echte Verifikation nicht durchsetzbar. Der Wettlauf läuft global weiter. |
Drei Fragen, die jetzt eine Antwort brauchen
Für die eigene Organisation zählt weniger der Ausgang der Debatte als die eigene Vorbereitung. Drei Fragen lassen sich sofort angehen.
Erstens: Wo entscheidet KI bei uns bereits mit? Wer den Anteil automatisierter Entscheidungen im eigenen Haus nicht kennt, kann ihn auch nicht verantworten. Ein nüchternes Inventar ist der erste Schritt, machbar in den ersten 90 Tagen.
Zweitens: Wer trägt die Aufsicht? KI-Risiken brauchen ein benanntes Gremium mit Mandat und einen festen Berichtsweg, in derselben Ernsthaftigkeit wie Finanz- oder Compliance-Themen. Eine Zuständigkeit nebenbei trägt nicht weit.
Drittens: Welche Annahmen halten, wenn sich das Tempo hält? Strategien, die auf langsame KI-Reife setzen, brauchen einen Stresstest für den schnellen Fall. Die Kurve aus dem Whitepaper ist eine Einladung, genau das durchzurechnen.
Häufige Fragen
Was ist rekursive Selbstverbesserung?
Rekursive Selbstverbesserung bezeichnet den Punkt, an dem ein KI-System fähig wird, leistungsfähigere Nachfolger zu entwickeln, ohne dass ein Mensch jeden Schritt steuert. Aus einer Verbesserung entsteht die nächste, in einer Schleife, die sich selbst beschleunigt.
Fordert Anthropic einen sofortigen Stopp?
Nein. Das Labor will die Option auf eine Verlangsamung, und zwar nur dann, wenn andere führende Anbieter überprüfbar mitziehen. Eine einseitige Pause schließt es ausdrücklich aus.
Warum gibt es Kritik an dem Vorschlag?
Weil eine globale Pause neben dem Risiko auch den Marktvorsprung einfriert und ohne belastbare Verifikation kaum durchsetzbar ist. Beobachter mahnen, Sicherheits- und Wettbewerbsargumente getrennt zu bewerten.
Welche Schritte folgen daraus für die eigene Organisation?
Drei lassen sich sofort angehen: ein Inventar automatisierter Entscheidungen, ein benanntes Aufsichtsgremium mit festem Berichtsweg und ein Stresstest für Strategien, die bisher auf langsame KI-Reife setzen.
Sind die Zahlen aus dem Report belegt?
Sie stammen aus Anthropics eigenem Betrieb und sind insofern intern. Als Beleg für eine Branchenregel taugen sie nicht, als Richtungssignal eines führenden Labors sind sie ernst zu nehmen.
Weiterlesen auf Digital Chiefs
Digital ChiefsBuild, Buy oder Partner: die Rechnung davorDigital ChiefsDas Operating Model, das die Reorg überlebtDigital ChiefsGolden Gate: Apple macht KI zum BurggrabenMehr aus dem MBF Media Netzwerk
cloudmagazinApple teilt KI-Inferenz auf: Gerät gegen Cloud mybusinessfutureWenn jede Firma richtig rechnet und am Ende alle verlieren securitytodayNIS2 und Coordinated Disclosure: raus aus der GrauzoneBildquelle: KI-generiert (Juni 2026), C2PA-Zertifikat im Bild hinterlegt