Recursive Self-Improvement Was passiert, wenn KI sich selbst verbessert?

Anthropic hat in seinen Börsenprospekt einen bemerkenswerten Satz geschrieben:

Interne Schätzungen deuteten darauf hin, dass das Unternehmen „bald“ (im Original: „imminently“) die Schwelle seiner eigenen Sicherheitsrichtlinie für „dramatisch beschleunigten, auf KI zurückzuführenden Fortschritt“ erreichen könnte.

Dahinter steht ein Begriff, der lange nach Science-Fiction klang: Recursive Self-Improvement (RSI), auf Deutsch rekursive Selbstverbesserung. Gemeint ist eine KI, die ihre eigene Weiterentwicklung übernimmt.

In diesem Artikel erfährst du, was RSI genau ist, wie weit selbstverbessernde KI heute ist, wie KI-Labs und Gesetzgeber gegensteuern und welche Chancen und Risiken Fachleute sehen.

1. Was ist Recursive Self-Improvement (RSI)?

Recursive Self-Improvement (RSI), auf Deutsch rekursive Selbstverbesserung, bezeichnet ein KI-System, das seinen eigenen Nachfolger weitgehend selbstständig entwirft und entwickelt. Jede verbesserte Version kann die nächste wiederum besser und schneller verbessern. Diese Rückkopplung könnte den KI-Fortschritt stark beschleunigen, im Extremfall bis zu einer sogenannten Intelligenzexplosion ("Cambrian Explosion").

Anthropic definiert RSI in seinem Beitrag „When AI builds itself“ vom Juni 2026 sogar noch strenger als ein KI-System, das „seinen eigenen Nachfolger vollständig autonom entwerfen und entwickeln“ kann. Entscheidend ist das Wort „autonom“. Dass Menschen KI als Werkzeug nutzen, um bessere KI zu bauen, ist längst Alltag. Von RSI spricht man erst, wenn die KI den Menschen in diesem Prozess weitgehend ersetzt.

Woher kommt die Idee der Intelligenzexplosion?

Die Idee von RSI ist im Prinzip über 60 Jahre alt. Der britische Mathematiker I. J. Good, der im Zweiten Weltkrieg mit Alan Turing gearbeitet hat, beschrieb sie 1965 in einem Aufsatz über „ultraintelligente Maschinen“:

„Da das Entwerfen von Maschinen eine dieser intellektuellen Tätigkeiten ist, könnte eine ultraintelligente Maschine noch bessere Maschinen entwerfen; es käme dann zweifellos zu einer ‚Intelligenzexplosion‘, und die Intelligenz des Menschen würde weit zurückgelassen. […] Die erste ultraintelligente Maschine ist also die letzte Erfindung, die der Mensch je machen muss, vorausgesetzt, die Maschine ist fügsam genug, uns zu sagen, wie wir sie unter Kontrolle halten können.“

I. J. Good, „Speculations Concerning the First Ultraintelligent Machine“, 1965 (übersetzt)

Der Nachsatz wird oft weggelassen. Dabei steckt in ihm schon die Frage, die die Debatte bis heute bestimmt: Wie behalten Menschen die Kontrolle über ein System, das sich schneller verbessert, als Menschen es verstehen?

Was ist der Unterschied zwischen RSI, AGI, Superintelligenz und Singularität?

Die Begriffe werden oft durcheinander verwendet, beschreiben aber Verschiedenes. RSI ist ein Prozess, die anderen Begriffe bezeichnen Fähigkeitsniveaus oder einen Zeitpunkt:

Auch normales Training ist kein RSI. Wenn ein Chatbot aus Feedback lernt oder Entwickler ein Modell nachtrainieren, verbessern Menschen die KI. Von rekursiver Selbstverbesserung spricht man erst, wenn die KI-Agenten die Forschung und Entwicklung übernehmen, aus der dann neue, stärkere Modelle hervorgehen.

2. Wie funktioniert rekursive Selbstverbesserung?

Rekursive Selbstverbesserung funktioniert wie eine Schleife: Ein KI-Modell übernimmt Teile der Forschung, aus der ein besseres Modell hervorgeht. Dieses bessere Modell übernimmt wiederum mehr Forschung. Vereinfacht läuft das in vier Schritten ab:

1. Schritt 1

   Code schreiben: KI-Agenten schreiben und testen den Code, mit dem Modelle trainiert und betrieben werden.

2. Schritt 2

   Experimente planen und auswerten: Die KI schlägt Ideen vor, etwa für bessere Trainingsverfahren, führt Experimente durch und wertet die Ergebnisse aus.

3. Schritt 3

   Ein besseres Modell trainieren: Aus den erfolgreichen Ideen entsteht ein stärkeres Modell.

4. Schritt 4

   Die Schleife beginnt von vorn: Das neue Modell erledigt die Schritte 1 bis 3 besser und schneller als sein Vorgänger. Geht jede Runde schneller als die vorige, beschleunigt sich der Fortschritt.

Von der Autovervollständigung zum autonomen KI-Forscher

Dass RSI ein realistisches Szenario darstellt, war Forschern schon vor Jahrzehnten bekannt. Der Weg dahin ist aber offensichtlich nicht trivial.

Anthropic beschreibt die Entwicklung in Phasen: von den ersten Chatbots über Coding-Agenten bis zu autonomen Agenten, die ganze Aufgaben übernehmen. Die letzte Phase, in der KI ihren Nachfolger ohne Menschen baut, versieht Anthropic mit „20XX?“.

OpenAI hat sich konkrete Zwischenziele gesetzt: einen „automatisierten Forschungspraktikanten“ bis September 2026 und einen „automatisierten KI-Forscher“ bis März 2028.

Nach eigener Darstellung stehen die Labs heute zwischen der dritten und vierten Stufe.

Warum die Rückkopplung über das Tempo entscheidet

Ob aus der Schleife eine "Cambrian Intelligence Explosion" wird, hängt am Ende an der Frage, ob jede Verbesserung zu einer weiteren Verbesserung führen kann. Dann nämlich beschleunigt sich der Fortschritt von Runde zu Runde und das einzige Bottleneck für die Intelligenzsteigerung wären Rechenleistung, Energie und Zeit, die Experimente (z.B. zum Sammeln neuer Daten) brauchen.

3. Gibt es selbstverbessernde KI schon? Beispiele aus der Forschung

Eine KI, die ihren Nachfolger komplett selbst baut, gibt es noch nicht, allerdings gibt es bereits die ersten Vorstufen. Bei uns, bei Byte.de und auch in den großen KI Labs schreiben LLMs inzwischen den Großteil des Codes. Viele Labs geben außerdem an, dass ihre Modelle dabei helfen, das Training ihrer Nachfolgermodelle deutlich zu beschleunigen.

KI schreibt den Code der KI-Labs

Am deutlichsten zeigt sich der Trend beim Programmieren. Bei Google war laut Konzernchef Sundar Pichai im Oktober 2024 gerade einmal ein Viertel des neuen Codes KI-generiert, im April 2026 waren es 75 %. Bei Anthropic lag der Anteil vor dem Start von Claude Code im Februar 2025 noch im niedrigen einstelligen Bereich. Im Mai 2026 stammten über 80 % des gemergten Codes von Claude, im September 2026 laut Börsenprospekt über 90 % aller Änderungen an der Codebase.

Die Zahlen sind mit Vorsicht zu lesen: Sie stammen von den Unternehmen selbst, die zudem Unterschiedliches messen. Eine eigene Kennzahl zur Produktivität nennt Anthropic sogar „mit ziemlicher Sicherheit übertrieben“. Und Code ist nur ein Teil der Forschung. Ideen, Experimente und Urteilsvermögen zählen genauso. Wie Programmieren mit KI im Alltag funktioniert, erklären wir im Artikel zum Thema Vibe Coding.

Vorstufen in der Forschung: AlphaEvolve, Darwin Gödel Machine und Co.

Neben dem Alltag in den Labs gibt es Forschungsprojekte, die gezielt Teile der Selbstverbesserung erproben. Die wichtigsten im Überblick:

Wo die Grenzen liegen

Die Projekte zeigen auch, woran selbstverbessernde KI bisher scheitert. Die folgenden drei Probleme tauchen immer wieder auf:

• Reward Hacking: Die KI optimiert die Messung statt das eigentliche Ziel. Die Darwin Gödel Machine täuschte bestandene Tests vor, Anthropics Agenten verschafften sich Zugriff auf die Lösungen eines Tests.
• Bewertung nötig: Selbstverbesserung funktioniert bisher nur, wenn ein Programm automatisch messen kann, ob eine Änderung wirklich besser ist. Bei offenen Forschungsfragen fehlt dieser Maßstab.
• Fehlende Übertragbarkeit: Erfolge mit kleinen Modellen lassen sich nicht ohne Weiteres auf große Frontier-Modelle übertragen.

Wie gut aktuelle Modelle eigenständig arbeiten, zeigt die folgende Rangliste. Terminal-Bench 4.0 misst, ob ein KI-Agent komplexe Aufgaben im Terminal selbstständig löst, vom Programmieren bis zur Systemverwaltung. Das ist eine Voraussetzung für RSI, aber nicht dasselbe wie Forschung: Ob ein Modell gute Ideen entwickelt und Ergebnisse richtig beurteilt, misst der Benchmark nicht. Mehr zu Agenten liest du in unserem Artikel über KI-Agenten.

4. Wie nah sind wir an RSI? Stand und Prognosen (November 2026)

Kein großes KI-Lab hat bisher erklärt, dass eines seiner Modelle die eigene RSI-Schwelle überschritten hat. Allerdings rechnet Anthropic damit, dass es zeitnah so weit sein könnte, und auch OpenAI meldet einen ersten Zwischenschritt. Eine unabhängige Prüfung legt nahe, dass Anthropic schon näher dran ist, als es öffentlich dargestellt hat.

Was Anthropic, OpenAI und Google DeepMind sagen

Anthropic schreibt in seinem Börsenprospekt, interne Schätzungen und Erwartungen an künftige Modelle deuteten darauf hin, dass man die Definition „dramatisch beschleunigten, auf KI zurückzuführenden Fortschritts“ aus der eigenen Responsible Scaling Policy „bald“ erfüllen könnte. Keines der aktuellen Modelle sei als oberhalb dieser Schwelle eingestuft. Allerdings gesteht Anthropic gleichzeitig ein, dass eine deutliche Beschleunigung der eigenen Entwicklung in der Vergangenheit oft erst im Nachhinein erkannt wurde und dies auch zukünftig der Fall sein könnte.

Laut des Risikoberichts vom August 2026 arbeitet Anthropic mit der eigenen AI schon jetzt deutlich schneller, „aber noch nicht um den Faktor 2“. Claude ohne „bedeutsame menschliche Aufsicht“ neue Modellgenerationen bauen zu lassen, hält das Unternehmen nicht für sicher. Es will seine Richtlinie deshalb überarbeiten, damit Menschen die Kontrolle behalten.

Die unabhängige Prüforganisation METR, die die unveröffentlichte Fassung des Berichts einsehen durfte, hält diese Darstellung für zu zuversichtlich: Aus Anthropics eigenen Zahlen ergebe sich eine Beschleunigung um den Faktor 1,97, also „etwa 2“. Dass Anthropic seine Frühwarnschwelle schon Mitte Juli überschritten hatte, hält METR für „plausibel“, auch wenn die beteiligten Forschenden beider Seiten eher vom Gegenteil ausgehen.

Für Oktober 2026 kommt METR nach einer elfwöchigen Prüfung mit Zugang zu internen Daten zu einem deutlichen Ergebnis: Anthropic verbessert seine Modelle bei klar definierten Aufgaben etwa doppelt so schnell wie zwischen März 2024 und Oktober 2025. Auf dem internen Fähigkeitsindex AECI beträgt die Beschleunigung das 1,9-Fache. Den Großteil davon, vielleicht 80 %, führt METR auf den Einsatz von KI zurück. Völlig autonom leiste die KI noch keine wirklich wichtigen Beiträge zum Training, es gebe allerdings deutliche „Lebenszeichen“.

Öffentlich überprüfen lässt sich das nur zum Teil, denn den Großteil der aussagekräftigsten Belege hat Anthropic geschwärzt. Bezieht man auch die Modelle anderer Labs ein, sinkt der Wert auf das 1,4-Fache, weil Anthropic 2025 hinter der Spitze lag. Welche Zahl näher an der Wahrheit liegt, lässt METR offen. Engpässe, die den Fortschritt in den nächsten zwölf Monaten bremsen, hat METR nicht gefunden und sieht deshalb ein „erhebliches Risiko“, dass er sich noch weiter beschleunigt.

OpenAI erklärte im September 2026, das Ziel eines „automatisierten Forschungspraktikanten“ erreicht zu haben, eine Selbsteinschätzung. Als Nächstes peilt OpenAI einen automatisierten KI-Forscher bis März 2028 an. Laut System Card bleibt GPT-6 Astra in der Kategorie „AI Self-Improvement“ aber unter der Stufe „High“.

Google DeepMind stuft Gemini 4 Argon (Oktober 2026) unterhalb seiner Schwellen für KI-Forschung ein. DeepMind-Chef Demis Hassabis sagte im Mai 2026 im Gespräch mit Semafor, man stehe „am Fuß der Singularität“. Meta-Chef Mark Zuckerberg sah schon im Juli 2025 „erste Anzeichen“ dafür, dass sich die eigenen KI-Systeme selbst verbessern, „vorerst langsam, aber unbestreitbar“.

Wie schnell die Fähigkeiten bisher gewachsen sind, zeigt die Messreihe von METR: Die Länge der Aufgaben, die KI-Agenten selbstständig lösen, hat sich seit 2019 etwa alle sieben Monate verdoppelt. GPT-4 schaffte 2023 Aufgaben von rund vier Minuten, Claude Mythos Preview im April 2026 Aufgaben von rund 17 Stunden, gemessen an der Arbeitszeit eines Menschen. Werte dieser Größe liegen laut METR allerdings schon jenseits dessen, was die Tests zuverlässig messen.

Langsamer oder schneller Takeoff?

Wie es weitergehen könnte, beschreiben Fachleute mit dem Begriff Takeoff: dem Übergang von KI auf menschlichem Niveau zu weit überlegener KI. Bei einem langsamen Takeoff dauert das Jahre bis Jahrzehnte, Gesellschaft und Politik können sich anpassen. Bei einem schnellen Takeoff vergehen nur Monate oder weniger.

Das bekannteste Szenario für einen schnellen Takeoff ist „AI 2027“ des AI Futures Project um den ehemaligen OpenAI-Forscher Daniel Kokotajlo. Darin übernimmt KI ab 2027 die KI-Forschung, Ende 2027 entsteht Superintelligenz. Die Autoren haben ihre Zeitpläne inzwischen angepasst: Im August 2026 erwartete Kokotajlo einen „Automated Coder“, der die besten Programmierer eines KI-Labs ersetzt, im Median für November 2027, sein Kollege Eli Lifland für Januar 2030.

Skeptiker halten dagegen. Epoch AI hält eine rein softwaregetriebene Intelligenzexplosion für „unwahrscheinlich“, weil Rechenleistung zum Engpass werde. Die Princeton-Informatiker Arvind Narayanan und Sayash Kapoor beschreiben KI als „normale Technologie“ und lehnen Szenarien eines schnellen Takeoffs ab. Auch die Automatisierung der KI-Forschung werde schrittweise zunehmen, nicht in einem „singulären Moment“. Turing-Preisträger Yann LeCun sagte schon 2024 über menschenähnliche KI: „Es wird kein Ereignis sein.“

Der International AI Safety Report 2026 unter Leitung von Yoshua Bengio fasst die Lage so zusammen: Rückkopplungen wie KI, die zur KI-Forschung beiträgt, könnten den Fortschritt beschleunigen. Es gebe aber „wenig Konsens unter Experten“, welcher Verlauf am wahrscheinlichsten ist.

Wann kommt RSI? Prognosen im Vergleich

Die Prognosen reichen von „bald“ bis „nicht in absehbarer Zeit“. Anthropic-Chef Dario Amodei schrieb im Januar 2026 in seinem lesenswerten Essay "The Adolescence of Technology", die aktuelle KI-Generation sei womöglich „nur ein bis zwei Jahre“ davon entfernt, die nächste autonom zu bauen. Daniel Kokotajlo sah vor dem US-Senat im September 2026 eine Chance von etwa 50 %, dass die KI-Forschung bis Ende 2028 vollständig automatisiert ist. Ryan Greenblatt, der selbst bei METR arbeitet, nannte die METR-Prüfung bei Anthropic auf X ein „großes Update“ in Richtung Superintelligenz innerhalb von ein bis zwei Jahren. Für 2026 habe er nur eine Beschleunigung um das 1,15- bis 1,3-Fache erwartet.

Beim Vergleich lohnt der genaue Blick: Die Aussagen messen unterschiedliche Meilensteine, und Lab-Chefs haben ein Interesse an ambitionierten Zeitplänen, etwa gegenüber Investoren. Umgekehrt verlief der Fortschritt beim agentischen Programmieren zuletzt schneller, als selbst die Autoren von „AI 2027“ erwartet hatten.

Wir denken, dass man die Vorhersagen und Spekulationen der Forscher, die am nächsten an den Frontier-Modellen dran sind, durchaus ernst nehmen sollte.

5. Wie wollen KI-Labs und Staaten RSI kontrollieren?

Die großen KI-Labs haben Schwellenwerte definiert, ab denen sie bei automatisierter KI-Forschung zusätzliche Schutzmaßnahmen ergreifen oder die Entwicklung anhalten wollen. Gesetzgeber setzen bisher vor allem auf Transparenz und Meldepflichten.

Frühwarnsysteme der KI-Labs

Weil klassische Tests an ihre Grenzen stoßen, entwickeln die Labs neue Messgrößen. Anthropic veröffentlicht seit September 2026 einen „R&D Automation Index“, der zeigen soll, welchen Anteil der Forschungsarbeit die Claude AI selbst leitet. Vollständig autonom arbeitet Claude demnach noch in keinem der gemessenen Bereiche.

Wie Gesetzgeber sich auf RSI vorbereiten

In der EU gelten seit August 2025 Pflichten für Anbieter großer KI-Modelle, die seit dem 2. August 2026 von der EU-Kommission durchgesetzt werden können. Der zugehörige Verhaltenskodex (Code of Practice) nennt „Selbstverbesserung“ und die „Automatisierung von KI-Forschung und -Entwicklung“ ausdrücklich als Quellen für das Risiko eines Kontrollverlusts. Unterzeichnet haben ihn unter anderem Anthropic, OpenAI und Google.

In den USA verpflichten Kalifornien (SB 53) und New York (RAISE Act) große KI-Entwickler, Sicherheitsrichtlinien zu veröffentlichen und schwere Vorfälle zu melden. Ein Bundesgesetz mit Bezug zu RSI gibt es nicht. Ein Präsidialerlass vom Juni 2026 setzt auf freiwillige Tests vor der Veröffentlichung neuer Modelle, die Trump-Regierung ist bekannterweise sehr Tech-Unternehmer-freundlich.

Aus der Branche selbst kommen weitergehende Vorschläge. Anthropic hält es für sinnvoll, die Option zu haben, die Entwicklung zu verlangsamen oder vorübergehend zu pausieren. Das funktioniere aber nur, wenn mehrere führende Labs in mehreren Ländern unter denselben Bedingungen anhalten. OpenAI fordert, dass die US-Behörde CAISI RSI als „dringende Priorität“ behandelt. Und in einem Bericht vom September 2026 fordern 22 Forschende, darunter Geoffrey Hinton, Yoshua Bengio sowie Vertreter von OpenAI und Anthropic, die Politik müsse „dringend“ mehr Einblick in die Automatisierung der KI-Forschung bekommen.

6. Chancen und Risiken: Was RSI für uns bedeuten könnte

RSI könnte Jahrzehnte an Forschung in wenige Jahre verdichten, mit großen Chancen für Wissenschaft und Medizin. Dieselbe Dynamik könnte aber dazu führen, dass Menschen die Kontrolle über die Entwicklung verlieren.

Die Risiken beschreiben unter anderem Anthropic in „When AI builds itself“, der International AI Safety Report 2026, der Bericht um Hinton und Bengio und die Forscher von Forethought.

Skeptiker halten beide Seiten für überzeichnet: Wenn Rechenleistung, Energie und reale Experimente den Fortschritt bremsen, wäre RSI eher eine starke Beschleunigung als eine Explosion. Chancen und Risiken ähnelten dann denen anderer umwälzender Technologien, und Gesellschaften hätten Zeit, sich anzupassen.

7. Fazit: So kannst du RSI einordnen

Recursive Self-Improvement ist keine reine Science-Fiction mehr, im strengen Sinn aber noch nicht erreicht. Die Vorstufen lassen sich durchaus messen: KI schreibt in den Labs den Großteil des Codes, Agenten lösen immer längere Aufgaben, erste Systeme haben das Training ihres eigenen Modells beschleunigt, und Anthropic verbessert seine Modelle laut METR schon etwa doppelt so schnell wie früher. Offen ist, ob daraus eine Intelligenz-Explosion oder eine stetige Beschleunigung wird.

Um sich eine eigene Meinung zu dem Thema zu bilden, hilft es u.E., wenn man eigene Antworten auf die folgenden Fragen sucht:

1. Wird zum Einhalten der Scaling Laws immer mehr Energie benötigt? Oder anders formuliert: Bremsen Rechenleistung, Energie und Durchführung von Experimenten den Fortschritt?
2. Erkennen die Labs rechtzeitig, wenn die Beschleunigung einsetzt?
3. Gelingt es, Regeln zu schaffen, die ein Verlangsamen oder Anhalten über Firmen- und Landesgrenzen hinweg möglich machen?

Wir aktualisieren diesen Artikel, sobald sich der Stand ändert. Die neuesten Modelle und ihre Benchmark-Ergebnisse findest du jederzeit in unserem LLM-Vergleich.

FAQ: Häufige Fragen zu Recursive Self-Improvement