Am Limit: KI-Risiken und Strategien für Unternehmen Business

Die wichtigsten Wissensquellen für KI-Training sind bis 2024 weitgehend ausgeschöpft. Wikipedia, Stack Overflow und Fachpublikationen – die Grundlage für die ersten großen Modelle – sind nahezu vollständig verarbeitet. Bis 2026 droht eine systemische Knappheit an qualitativ hochwertigen Trainingsdaten, die das weitere Wachstum der Branche bremst.

Die Datenknappheit trifft die Branche

Seit 2022 warnen Forschende vor einem strukturellen Engpass: Die Basis für KI-Training ist endlich. Die Entwickler von KI haben nahezu alle öffentlich zugänglichen Texte verarbeitet – von Wikipedia über Magazine und Fachpublikationen bis hin zu Foren wie Stack Overflow. Die Branche Seit 2022 steht vor der Tatsache, dass kein neues qualitativ hochwertiges Material in nennenswertem Umfang hinzukommt. Laut t3n besteht das Problem aber darin, dass diese Quellen viel zu langsam wachsen, um den Trainingshunger der immer besser werdenden KI-Modelle zu stillen.

Wikipedia Stand Anfang 2024 umfasst 60 Millionen Einträge – beeindruckend, aber seit 2022 praktisch stagnierend. Andere Experten gehen davon aus, dass das Wachstum öffentlicher Wissensquellen insgesamt kaum noch nennenswert ist. Gleichzeitig verdoppeln sich die Parameterzahlen der großen Modelle im Zweijahresrhythmus. Das führt zu einem fundamentalen Missverhältnis: Die Input-Menge wächst linear, die Verarbeitungskapazität exponentiell. Die Folge ist messbar: Die wichtigsten Quellen für KI-Training – darunter Wissenschaftsarchive und Communities – sind bereits ausgeschöpft.

Unternehmen wie die Mutter Alphabet oder Hersteller OpenAI müssen sich entscheiden: entweder auf qualitativ minderwertige Inhalte zurückgreifen oder neue Wege beschreiten. Beide Optionen bergen Risiken für die Stabilität und Zuverlässigkeit zukünftiger Systeme. Die Trainingshunger der Modelle ist nicht mehr theoretisch – er ist operational. Einige Entwickler berichten bereits von Projekten, bei denen neue Versionen nicht mehr signifikant verbessert werden können, weil frisches, valides Trainingmaterial fehlt. Die Diskrepanz zwischen technischer Kapazität und Datenverfügbarkeit wird zum kritischen Bottleneck.

Die Branche reagiert mit einer strategischen Neuausrichtung: Weg vom Scraping, hin zu lizenzierten Daten. Doch selbst diese Quellen reichen nicht aus, um den Bedarf der nächsten Generation zu decken. Selbst die gesamte historische Tagespresse der letzten 100 Jahre liefert nur einen Bruchteil der benötigten Datenmenge. Die Abhängigkeit von externen Quellen schafft neue Risiken – Preiserhöhungen, Zugriffsbeschränkungen oder rechtliche Rückzüge können die Entwicklung blockieren.

Lizenzierung statt Scraping: Die neue Datenstrategie

Als Reaktion auf die Knappheit und rechtliche Unsicherheiten beim Scraping haben große KI-Anbieter begonnen, Verträge mit etablierten Verlagen und Plattformen abzuschließen. Springer Nature und Reuters gehören zu den ersten Partnern, deren Inhalte nun lizenziert statt extrahiert werden. Auch Reddit und Stack Overflow haben kommerzielle Vereinbarungen mit KI-Entwicklern unterzeichnet – ein klarer Wandel von informellem Zugriff hin zu strukturierten Datenlieferungen. Datenstrategie Als Reaktion auf die Knappheit zielt darauf ab, kurzfristig Zugang zu qualitativ hochwertigem Material zu sichern.

Doch diese Strategie hat klare Grenzen. Selbst wenn alle lizenzierten Inhalte verarbeitet werden, reicht ihr Volumen nicht aus, um die Trainingszyklen der nächsten Generation zu füttern. Einige Entwickler geben an, dass selbst die gesamte historische Tagespresse der letzten 100 Jahre nur einen Bruchteil der benötigten Datenmenge liefert. Die Abhängigkeit von externen Quellen schafft zudem neue Abhängigkeiten: Preiserhöhungen, Zugriffsbeschränkungen oder rechtliche Rückzüge können die Entwicklung blockieren. Verlagen und Plattformen setzen auf Exklusivverträge – was den Zugang für kleinere Player weiter einschränkt.

„Wenn wir weiterhin auf menschlich generierte Inhalte angewiesen sind, werden wir spätestens 2026 an eine Wand laufen – nicht wegen der Rechenleistung, sondern wegen der fehlenden Daten“, so ein leitender Forscher bei einem europäischen KI-Institut.

Die Lizenzierung ist daher kein Ausweg, sondern eine Brückentechnologie. Sie sichert kurzfristig Zugang zu qualitativ hochwertigem Material, verlagert aber das Problem in die Zukunft. Die Branche braucht eine nachhaltige Lösung – und setzt zunehmend auf synthetische Daten als Ersatz. Die Frage ist nicht mehr, ob synthetische Daten eingesetzt werden, sondern wie kontrolliert und überwacht dieser Einsatz erfolgt.

Die Mutter Alphabet und andere große Entwickler von KI erforschen hybride Ansätze, die lizenzierte Inhalte mit gezielt generierten Daten kombinieren. Die Herausforderung liegt in der Balance: Wie viel synthetisches Material ist erlaubt, bevor die Modelle an Authentizität verlieren? Die Antwort wird nicht nur technisch, sondern auch ethisch sein – und im Boardroom entschieden.

Synthetische Daten: Die neue Grundlage?

Synthetische Daten gelten als die vielversprechendste Antwort auf die Datenknappheit. Statt auf menschlich verfasste Texte zu setzen, werden diese durch Rechenalgorithmen und Simulationen erzeugt. Die Grundlage von Technologien der generativen künstlichen Intelligenz ermöglicht es, riesige Mengen an Trainingsmaterial zu produzieren – ohne Urheberrechtsprobleme, ohne Qualitätsunsicherheiten, ohne Wartezeiten. Synthetische Daten sind nicht von Menschen erstellte Inhalte, die durch Rechenalgorithmen und Simulationen generiert werden.

Beispiel Anthropic nutzt synthetische Daten bereits seit der Opus-Version der Modellreihe Claude. Auch der ChatGPT-Hersteller OpenAI soll bei seinem neuen Sprachmodell Orion auf diesen Ansatz setzen. Die Methode ist einfach: Ein bestehendes Modell generiert Texte, die dann als Trainingsinput für ein nächstes Modell dienen. Auf diese Weise lässt sich der Trainingszyklus theoretisch unendlich fortsetzen – ohne auf externe Quellen angewiesen zu sein. Die Trainingszyklen der Modelle werden dadurch unabhängiger von menschlichem Input.

Doch diese Autarkie hat einen Haken. Wenn KI-Modelle nur noch auf Daten trainieren, die von anderen KI-Modellen stammen, entsteht ein geschlossener Kreislauf. Die Vielfalt menschlicher Sprache, der Kontext, die Nuancen – all das kann verloren gehen. Die Gefahr ist, dass sich Fehler verstärken, Halluzinationen normalisieren und die Modelle sich schrittweise von der Realität entfernen. Forschende warnen: Dieser Prozess ist nicht reversibel. Die Parameterzahlen der Modelle steigen – doch die semantische Tiefe der Trainingsbasis sinkt. Die Branche Seit 2022 arbeitet an diesem Trade-off: Skalierbarkeit versus Authentizität.

Einige Entwickler setzen auf Filtermechanismen, um nur die qualitativ hochwertigsten synthetischen Texte in den Trainingsprozess einzuspeisen. Andere kombinieren synthetische Daten mit menschlich moderierten Korpora. Doch die langfristige Stabilität dieser Ansätze ist ungewiss. Die Branche steht vor einer Entscheidung: Fortsetzung des exponentiellen Wachstums – oder ein langsamer, kontrollierter Übergang zu einem neuen Paradigma des Lernens.

Fluch und Segen synthetischer Daten

Der Einsatz synthetischer Daten ist ein klassisches Dilemma: Er löst ein akutes Problem, schafft aber langfristig neue. Die Methode, auf synthetische oder minderwertige Daten aus Social-Media-Posts für das KI-Training zurückzugreifen, ist unter Forschenden nicht unumstritten. Denn sie kann sich auf das Niveau der ausgegebenen Inhalte negativ auswirken. Risiken für die Stabilität und Zuverlässigkeit zukünftiger Systeme sind dokumentiert.

Ein Experiment der Standford-Universität hat gezeigt, dass Modelle, die ausschließlich mit synthetischen Daten trainiert wurden, innerhalb weniger Generationen an Leistung verlieren. Die Antworten wurden repetitiv, logisch inkonsistent und zunehmend sinnfrei. Unter Forschenden ist das Phänomen als „Rinderwahnsinn“ bekannt – eine Anspielung auf die BSE-Krise, bei der Rinder durch das Fressen von Tiermehl, das aus ihren Artgenossen hergestellt war, eine tödliche Gehirnerkrankung entwickelten. Bei KI ist der Mechanismus ähnlich: Wenn ein Modell nur noch auf Inhalte trainiert, die von anderen KI-Systemen stammen, beginnt es, sich selbst zu imitieren.

Die Diversität nimmt ab, Artefakte häufen sich und die Fähigkeit, neue Informationen zu verarbeiten, schwindet. Einige Entwickler berichten bereits von ersten Anzeichen in laufenden Projekten – etwa bei Modellen, die bei komplexen logischen Aufgaben plötzlich regressiv werden. Die Diversität menschlicher Sprache ist nicht replizierbar durch Simulation allein. Die Quellen für KI müssen vielfältig bleiben – sonst degeneriert die Ausgabe. Die Trainingshunger der Modelle ist nicht nur eine quantitative, sondern eine qualitative Herausforderung.

Um dem entgegenzuwirken, hat OpenAI ein eigenes Team eingerichtet, das sich ausschließlich mit der Frage beschäftigt, wie zukünftige KI-Modelle trotz knapper Trainingsdaten verbessert werden können. Die Aufgabe ist klar: Wie lässt sich Lernen sicherstellen, wenn die Quellen für Wissen erschöpft sind? Die Antwort könnte in hybriden Ansätzen liegen – eine Mischung aus menschlich generierten, lizenzierten und gezielt synthetisierten Daten, die kontrolliert und überwacht werden. Die Branche Seit 2022 testet solche Kombinationen – mit gemischten Ergebnissen.

Die langfristige Lösung könnte in der Rückkehr zu kleineren, spezialisierteren Modellen liegen – mit Fokus auf spezifische Domänen statt allgemeiner Intelligenz. Doch das würde das aktuelle Geschäftsmodell großer KI-Anbieter infrage stellen. Die Entscheidung wird nicht nur technisch, sondern auch ökonomisch sein.

Häufige Fragen