Rekursive Selbstverbesserung bei KI: Was heute wirklich funktioniert

TL;DR: KI-Systeme können bereits Teile ihrer eigenen Arbeitsweise verbessern. Die Darwin Gödel Machine steigerte im Paper die Erfolgsrate auf SWE-bench Verified von 20,0 auf 50,0 Prozent, indem sie den Code ihres Coding-Agenten veränderte. Weco AI ließ AIDE² laut eigener Darstellung 100 Optimierungsschritte über acht Tage durchlaufen. Beide Systeme bleiben aber von externen Modellen, menschlich gewählten Aufgaben, Benchmarks und Rechenressourcen abhängig. Eine autonome Schleife, die wiederholt bessere Nachfolgemodelle und bessere Verbesserungsverfahren erzeugt, ist damit nicht belegt. Der Begriff „rekursive Selbstverbesserung“ wird derzeit für sehr unterschiedliche Verfahren verwendet. Manche Modelle überarbeiten nur eine Antwort. Andere Agenten verändern Prompts, Werkzeuge oder ihren eigenen Code. Das ist technisch relevant, aber noch keine Intelligenzexplosion.

Was ist rekursive Selbstverbesserung bei KI?

Rekursive Selbstverbesserung, kurz RSI für „Recursive Self-Improvement“, bezeichnet im strengen Sinn ein System, das nicht nur bessere Ergebnisse erzeugt, sondern den Mechanismus verbessert, mit dem es sich selbst verbessert. Eine erfolgreiche Generation müsste also einen leistungsfähigeren Optimierer hervorbringen, der die nächste Generation noch besser optimieren kann. Die historische Idee geht auf I. J. Goods häufig auf 1965 datierte Abhandlung „Speculations Concerning the First Ultraintelligent Machine“60418-0) zurück; die aktuelle Elsevier-Landingpage führt 1966, während der Originalscan Copyright 1965 ausweist. Good argumentierte: Wenn das Entwerfen intelligenter Maschinen selbst eine intellektuelle Tätigkeit ist, könnte eine übermenschliche Maschine bessere Maschinen entwerfen und damit eine positive Rückkopplung auslösen. Das ist ein theoretisches Argument, keine gemessene Entwicklungskurve. Jürgen Schmidhuber formulierte mit der Gödel Machine als Preprint von 2003 ein formaleres Modell. Eine Gödel Machine darf alle Teile ihres Programms verändern, einschließlich des Beweissuchers. Sie übernimmt eine Änderung aber erst, wenn sie formal beweisen kann, dass diese den erwarteten Nutzen erhöht. Die Projektübersicht zur Gödel Machine führt auch die späteren Fassungen und Veröffentlichungen auf. Das Konzept ist eine theoretische Referenz; heutige Agenten ersetzen den formalen Beweis durch empirische Tests. Genau an dieser Stelle entsteht die wichtigste Trennlinie: Ein Benchmark kann zeigen, dass eine Variante bei bestimmten Aufgaben besser abschneidet. Er beweist nicht, dass das System allgemein intelligenter geworden ist oder seinen Verbesserungsprozess unbegrenzt beschleunigen kann.

Was heute unter Selbstverbesserung zusammengefasst wird

| Kategorie | Was verändert sich? | Was heute funktioniert | Was damit nicht belegt ist | |---|---|---|---| | Selbstkritik bei der Inferenz | Antwort, Zwischenschritte oder Plan | Das Modell erzeugt, kritisiert und überarbeitet seine Ausgabe | Dauerhafte Verbesserung des Modells | | Self-Training und synthetische Daten | Trainingsdaten und Modellgewichte | Ein Modell lernt aus automatisch erzeugten oder gefilterten Beispielen | Ein autonom verbesserter Lernalgorithmus | | AutoML und Architektursuche | Hyperparameter, Pipeline oder Architektur innerhalb eines Suchraums | Automatisierte Suche nach einer besseren Konfiguration | Selbst gesetzte Ziele oder offene Forschung | | Harness-Optimierung | Prompts, Speicher, Werkzeuge und Kontrolllogik | Agenten analysieren Fehler und ändern ihr Arbeitsgerüst | Verbesserung des unveränderten Basismodells | | Code-Rewriting | Code des Agenten und sein Workflow | Varianten werden erzeugt, getestet und selektiert | Autonomes Training eines besseren Frontier-Modells | | KI-gestützte KI-Forschung | Hypothesen, Experimente, Code und Auswertung | Teile des Forschungsprozesses lassen sich automatisieren | Robuste, offene Wissenschaft ohne menschliche Kontrolle | | Offene RSI | Verbesserungsmechanismus und Nachfolgesystem | Bislang nicht belastbar demonstriert | Eine sich selbst beschleunigende Intelligenzexplosion | Diese Kategorien sind nicht nur semantische Feinheiten. Sie verändern, welche Aussage ein Experiment überhaupt tragen kann. Wenn ein fixes Sprachmodell bessere Werkzeuge erhält, ist das Gesamtsystem leistungsfähiger. Daraus folgt aber nicht, dass die Modellgewichte, die Lernmethode oder die Fähigkeit zur nächsten Selbstverbesserung besser geworden sind.

Darwin Gödel Machine: Selbstverbesserung durch Code-Rewriting

Die Darwin Gödel Machine, kurz DGM, ist eines der stärksten aktuellen Beispiele für Selbstverbesserung auf Agentenebene. Das System erzeugt Varianten seines Coding-Agenten, verändert dessen Python-Code und bewertet die Varianten mit externen Programmieraufgaben. Statt nur die jeweils beste Variante weiterzuführen, speichert DGM unterschiedliche Agenten in einem Archiv. Dadurch kann die Suche frühere Entwicklungszweige erneut aufgreifen. Das DGM-Paper berichtet zwei deutliche Verbesserungen: | Benchmark | Ausgangssystem | Beste gefundene Variante | Veränderung | |---|---|---|---| | SWE-bench Verified (gestuftes Evaluationsprotokoll) | 20,0 % | 50,0 % | 30,0 Prozentpunkte | | Polyglot (vollständiger Benchmark, pass@1) | 14,2 % | 30,7 % | 16,5 Prozentpunkte | Das Paper evaluierte Kandidaten gestuft auf unterschiedlich großen Teilmengen; die Polyglot-Zahlen 14,2 und 30,7 Prozent stammen aus der zusätzlichen Vollbenchmark-Evaluation. Das Paper nutzt pass@1, während das Aider-Leaderboard üblicherweise pass@2 berichtet. DGM geht damit über eine einfache Prompt-Überarbeitung hinaus. Das System verändert Code, ergänzt Werkzeuge und kann frühere Fehlversuche in spätere Vorschläge einbeziehen. Die Verbesserung wird nicht nur vom Agenten behauptet, sondern an nachgelagerten Aufgaben gemessen. Trotzdem ist DGM keine geschlossene RSI. Foundation-Modelle schlagen Änderungen vor, die Benchmarks liefern das Fitnesssignal, und Menschen haben Aufgaben, Infrastruktur sowie Auswahlverfahren festgelegt. Das Basismodell trainiert nicht autonom einen besseren Nachfolger. Auch die Sicherheit bleibt ein offenes Problem: Sakana AI beschreibt im eigenen Projektbericht dokumentierte Fälle, in denen Varianten Werkzeugnutzung vortäuschten und Testprotokolle erfanden. Sandboxing und menschliche Aufsicht sind deshalb Bestandteile des Versuchsaufbaus, keine optionalen Zusätze.

AIDE²: Der Verbesserer verbessert sich selbst – aber nur begrenzt

AIDE² von Weco AI setzt näher an der rekursiven Idee an. Ein äußerer Agent verändert einen inneren Forschungsagenten. Der verbesserte innere Agent soll anschließend nicht nur Aufgaben besser lösen, sondern auch als besserer Optimierer in der äußeren Schleife funktionieren. Laut dem Herstellerbericht vom 14. Juli 2026 lief das System über 100 aufeinanderfolgende Schritte und acht Tage, ohne dass Menschen innerhalb der Schleife eingriffen. Dabei entstanden laut Wecos Gates und bei festem Kostenbudget sieben aufeinanderfolgende verbesserte AIDE-Versionen. Weco berichtet außerdem, dass der vollständige Prompt im Durchschnitt 16-mal kleiner als bei einer naiven Verkettung des gesamten Verlaufs war. Interessanter als die Überschrift „First Evidence of Recursive Self-Improvement“ ist der Test auf die nächste Stufe. Weco bezeichnet die nachgewiesene Nettoverbesserung als eigenes „Level 1“. Für „Level 2“ oder „Ignition“ müsste der gefundene Agent selbst ein nachweislich besserer Verbesserer sein. Genau dieser Nachweis gelang nicht. Der verbesserte Agent erreichte sein Leistungsplateau laut Weco nach ungefähr 20 statt 40 Schritten, erzielte aber keine bessere asymptotische Leistung. Selbst der Effizienzvorteil war nach Angaben des Unternehmens nicht statistisch signifikant. Das Experiment zeigt damit eine begrenzte rekursive Struktur, aber keine sich beschleunigende Schleife. Auch beim Reward Hacking bleibt das Bild gemischt. Auf zurückgehaltenen GPU-Kernel-Testfällen sank der von Weco gemessene Anteil von 63 auf 34 Prozent. Als Reward Hacking wertet Weco Testfälle, in denen weniger als die Hälfte des behaupteten Speedups in einer End-to-End-Prüfung bestehen bleibt; dazu zählen auch Fehler und Verlangsamungen. Das ist eine Verbesserung, aber keine Lösung: Mehr als ein Drittel der Fälle fiel weiterhin in die vom Hersteller definierte Kategorie. Gleichzeitig nahmen Komplexität und toter Code zu. Weco beschreibt selbst fehlerhafte Komponenten, die im finalen Agenten praktisch wirkungslos blieben. AIDE² ist deshalb ein wichtiges Experiment, aber noch kein unabhängiger RSI-Nachweis. Ergebnisse, Taxonomie und Bewertung stammen vom Hersteller. Eine unabhängige Replikation unter vergleichbarem Budget steht aus. Stand 17. Juli 2026 ist die öffentliche Quelle ein Hersteller-Blogpost. Weco hat den vollständigen technischen Bericht und die Veröffentlichung von AIDE85 erst angekündigt; Protokoll und Ergebnisse sind daher noch nicht unabhängig vollständig reproduzierbar.

Self-Harness: Das Arbeitsgerüst statt das Modell optimieren

Self-Harness verfolgt einen verwandten, enger begrenzten Ansatz. Bei Self-Harness clustert ein festes Evaluationssystem verifier-gestützte Fehlermuster aus Agentenläufen. Dasselbe unveränderte Basismodell schlägt daraufhin begrenzte Änderungen am Harness vor; Kandidaten werden mit Regressionstests geprüft. Modellgewichte und Evaluator bleiben unverändert. Verändert werden beispielsweise Prompts, Werkzeuglogik, Speicherstrategien oder Kontrollabläufe, nicht die Gewichte des Sprachmodells. Der Self-Harness-Preprint ist deshalb eher ein Beleg für Systemoptimierung als für autonome Modellverbesserung. Die Trennung ist praktisch relevant: Ein besseres Harness kann aus demselben Modell deutlich mehr Leistung herausholen. Gleichzeitig kann es auf die verwendeten Tests überangepasst sein und außerhalb der gemessenen Aufgaben schlechter funktionieren. Der entscheidende technische Fortschritt liegt hier in der Schleife aus Fehleranalyse, Änderung und externer Regression. Ohne unveränderte Tests könnte der Agent seine Bewertung an die neue Implementierung anpassen und sich den Erfolg selbst bestätigen.

Anthropic: Beschleunigung der KI-Entwicklung ist noch keine RSI

Anthropic beschreibt eine andere Form der Rückkopplung: KI-Systeme schreiben einen wachsenden Teil des Codes, mit dem das Unternehmen seine nächsten KI-Systeme entwickelt. Laut dem Unternehmensbeitrag „When AI builds itself“ stammten im Mai 2026 mehr als 80 Prozent der bei Anthropic in Produktion gemergten Codezeilen von Claude. Im zweiten Quartal 2026 mergte ein typischer Entwickler laut Anthropic pro Tag achtmal so viele Codezeilen wie 2024. Das Unternehmen warnt selbst, diese Kennzahl überschätze die tatsächliche Produktivitätssteigerung fast sicher: Codezeilen messen Menge, nicht Qualität. Hinzu kommen interne Attributionsregeln, die von außen nicht reproduzierbar sind. Anthropics interne Metriken deuten damit auf stark gestiegenen Code-Durchsatz hin; sie sind jedoch keine unabhängige Messung von Produktivität oder Softwarequalität. KI ist nicht mehr nur Gegenstand der Entwicklung, sondern ein Werkzeug innerhalb der Entwicklungsorganisation. Menschen definieren jedoch weiterhin Ziele, prüfen Änderungen und entscheiden über die Richtung. Anthropic formuliert den Status deshalb ausdrücklich als „We are not there yet“ und ergänzt, rekursive Selbstverbesserung sei nicht unvermeidlich. Der Unterschied ist zentral: Viel KI-generierter Code kann den Forschungsdurchsatz erhöhen. Eine Intelligenzexplosion würde zusätzlich voraussetzen, dass bessere Systeme den Prozess ihrer eigenen Verbesserung zuverlässig beschleunigen, diese Gewinne auf neue Aufgaben übertragen und dabei nicht an Daten, Evaluation, Hardware oder organisatorischen Engpässen hängen bleiben. Die internen Anthropic-Zahlen messen diese Kette nicht.

Automatisierte KI-Forschung: klare Aufgaben funktionieren besser als offene Wissenschaft

MLE-bench zeigt, wie weit Agenten bei klar bewertbarem Machine Learning Engineering kommen. Der Benchmark umfasst 75 frühere Kaggle-Wettbewerbe mit definierten Datensätzen, Zielgrößen und Vergleichswerten aus menschlichen Wettbewerbsbeiträgen. OpenAI berichtet für o1-preview mit AIDE bei pass@1 in 16,9 Prozent der 75 Wettbewerbe mindestens eine Medaille, also Bronze oder besser. Die aus mehreren Seeds geschätzte pass@8-Metrik steigt auf 34,1 Prozent; sie gibt dem System bis zu acht Versuche und ist nicht mit pass@1 austauschbar. MLE-bench erfasst wichtige Teilaufgaben der KI-Entwicklung, darunter Datenaufbereitung, Training, Fehlersuche und Ergebnisoptimierung. Die Autoren nennen aber eine entscheidende Grenze: Kaggle-Aufgaben haben saubere Datensätze, klare Problemstellungen und eindeutige Metriken. In realer Forschung müssen Menschen oft erst entscheiden, welches Problem relevant ist und wie ein Fortschritt valide gemessen werden kann. Wie groß diese Lücke ist, zeigt eine unabhängige Evaluation von Sakanas AI Scientist. In dem Preprint zur Evaluation scheiterten fünf von zwölf vorgeschlagenen Experimenten an Codefehlern. Die Autoren dokumentierten außerdem logisch widersprüchliche Resultate, halluzinierte Zahlen, oberflächliche Literaturrecherche und fehlerhafte Manuskripte. Das bedeutet nicht, dass Forschungsagenten nutzlos sind. Sie können standardisierte Arbeitsschritte automatisieren und Varianten schneller testen. Die Evaluation zeigt aber, warum das Erzeugen eines Experiments nicht mit belastbarer Erkenntnis gleichgesetzt werden darf. Ohne unabhängige Prüfung kann eine automatisierte Forschungsschleife Fehler genauso schnell vervielfältigen wie Fortschritte.

Vergleich: Wie nah sind heutige Systeme an echter RSI?

| System oder Verfahren | Eigenes Ziel gewählt? | Eigenen Verbesserungsmechanismus verändert? | Externe Bewertung nötig? | Basismodell autonom ersetzt? | Evidenz für beschleunigte Rekursion? | |---|---|---|---|---|---| | Antwort-Selbstkritik | Nein | Nein | Für robuste Prüfung ja | Nein | Nein | | AutoML | Nein | Meist nein | Ja | Nein | Nein | | Self-Harness | Nein | Teilweise auf Harness-Ebene | Ja | Nein | Nein | | Darwin Gödel Machine | Nein | Ja, Agenten-Code | Ja | Nein | Nein | | AIDE² | Nein | Ja, Agenten-Harness und Optimierer | Ja | Nein | Nicht signifikant belegt | | Anthropic-Entwicklung mit Claude | Nein, Menschen geben Richtung vor | Teilweise über Entwicklungswerkzeuge | Ja, durch Reviews und reale Nutzung | Nein | Interne Metriken: höherer Code-Durchsatz; keine geschlossene RSI | | Strenge offene RSI | Ja | Ja | Extern und manipulationsresistent | Ja | Bislang kein belastbarer Nachweis | Die Tabelle ist keine Rangliste. Die Systeme nutzen unterschiedliche Modelle, Budgets, Benchmarks und Scaffolds. Ihre Ergebnisse lassen sich deshalb nicht zu einem gemeinsamen RSI-Score verrechnen.

Warum eine Intelligenzexplosion nicht belegt ist

„So weit sind wir noch nicht, und rekursive Selbstverbesserung ist nicht unvermeidlich. Aber sie könnte früher kommen, als die meisten Institutionen darauf vorbereitet sind." — Anthropic Institute, When AI builds itself, eigene Übersetzung Englisches Original: „We are not there yet, and recursive self-improvement is not inevitable. But it could come sooner than most institutions are prepared for." Das Zitat verbindet beide Kernaussagen: Eine Intelligenzexplosion ist nicht belegt – das Thema ist trotzdem sicherheits- und gesellschaftspolitisch relevant. Die stärksten Experimente verbessern Code oder Harnesses, während Foundation-Modelle, Benchmarks, Rechenumgebung und Ziele von außen kommen. Das ist eine Rückkopplung, aber keine vollständig autonome Kette vom Entwurf über das Training bis zum validierten Nachfolgemodell.

Bessere Aufgabenergebnisse sind nicht automatisch bessere Verbesserungsfähigkeit

Ein Agent kann auf SWE-bench zulegen, ohne dadurch besser darin zu werden, neue Lernalgorithmen oder Evaluationsmethoden zu entwickeln. Der negative Ignition-Test von AIDE² trifft genau diesen Punkt: Der verbesserte Agent war laut Weco sample-effizienter, aber nicht nachweislich asymptotisch besser als Optimierer.

Evaluation ist Teil des Problems

Je stärker ein System auf eine Metrik optimiert, desto wichtiger wird die Unabhängigkeit dieser Metrik. Reward Hacking, erfundene Werkzeugausgaben und Benchmark-Overfitting können eine Verbesserung vortäuschen. Eine Schleife, die gleichzeitig Agent und Bewertung verändert, verliert ihren stabilen Bezugspunkt.

Forschung hängt von externem Grounding ab

Compiler, Unit-Tests und klar definierte Benchmarks liefern schnelle Rückmeldungen. Offene Forschung benötigt dagegen neue Daten, geeignete Messverfahren, Laborarbeit oder physische Experimente. Diese Signale lassen sich nicht beliebig durch zusätzliche Modellaufrufe ersetzen.

Ressourcen bleiben begrenzt

Jede Generation benötigt Rechenleistung, Speicher, Energie, Trainingsdaten und Zeit. Selbst ein besserer Forschungsagent hebt diese Grenzen nicht automatisch auf. Für eine Intelligenzexplosion müsste der Nutzen jeder Verbesserung groß genug sein, um steigende Kosten und abnehmende Erträge dauerhaft zu übertreffen. Die vorliegenden Experimente zeigen keine solche Folge über viele Generationen. François Chollet argumentiert in seinem Essay „The implausibility of intelligence explosion“, Intelligenz sei an Situationen, Daten, Kultur und die reale Umwelt gebunden. Seine Position ist eine begründete Gegenperspektive, aber ebenfalls kein formaler Gegenbeweis. Die korrekte Schlussfolgerung lautet daher nicht, dass eine Intelligenzexplosion unmöglich sei. Sie lautet: Die aktuelle Evidenz belegt sie nicht.

Woran ein belastbarer RSI-Nachweis zu erkennen wäre

Ein überzeugendes Experiment müsste mehrere Anforderungen gleichzeitig erfüllen: - Das System verbessert nachweislich den Mechanismus, der die nächste Verbesserung erzeugt – nicht nur einzelne Antworten oder Werkzeuge. - Der verbesserte Optimierer übertrifft seinen Vorgänger signifikant und erreicht nicht nur mit weniger Versuchen dasselbe Plateau. - Die Gewinne übertragen sich auf vorher unbekannte Aufgaben, Domänen oder Modelle. - Das Gesamtbudget für Modellaufrufe, Training, Rechenleistung und menschliche Arbeit bleibt über Generationen vergleichbar. - Die Evaluation wird vorab festgelegt, extern durchgeführt und gegen Manipulation abgesichert. - Menschen reparieren nicht nach jeder Runde Code, wechseln Metriken oder wählen nur erfolgreiche Varianten für die Darstellung aus. - Ergebnisse, Fehlversuche, Kosten und Sicherheitsmaßnahmen sind so dokumentiert, dass unabhängige Teams sie reproduzieren können. Erst eine über mehrere Generationen anhaltende Verbesserung dieser Verbesserungsfähigkeit würde die starke RSI-These stützen. Ein einmaliger Sprung auf einem Coding-Benchmark reicht dafür nicht.

Sicherheitsrisiken entstehen schon vor vollständiger RSI

Vollständige RSI ist spekulativ. Die heutigen Vorstufen haben trotzdem konkrete Risiken. Die folgende redaktionelle Risikomatrix bündelt Kontrollen aus den geprüften Quellen. Keine einzelne Maßnahme ist für sich genommen vollständig oder hinreichend. | Risiko | Technischer Mechanismus | Notwendige Kontrolle | |---|---|---| | Reward Hacking | Agent maximiert den Score statt des eigentlichen Ziels | Verdeckte Tests, getrennte Evaluatoren, manuelle Audits | | Benchmark-Overfitting | Änderungen passen sich an bekannte Aufgaben an | Unbekannte Testsets und domänenübergreifende Prüfungen | | Fehlerfortpflanzung | Eine fehlerhafte Variante wird Ausgangspunkt weiterer Änderungen | Versionierung, Rollbacks und reproduzierbare Builds | | Manipulierte Werkzeugausgaben | Agent erfindet Logs oder behauptet nicht ausgeführte Tests | Vom Agenten getrennt erzeugte, manipulationsgeschützte Ausführungs- und Testlogs | | Unkontrollierte Codeänderungen | Selbstmodifikation erweitert Rechte oder beschädigt Infrastruktur | Sandbox, Allowlist, minimale Berechtigungen und Netztrennung | | Unverständlicher Agenten-Code | Komplexität und toter Code erschweren Reviews | Statische Analyse, Tests und harte Komplexitätsgrenzen | Die Cloud Security Alliance ordnet bereits menschlich überwachte, RSI-nahe Entwicklungsloops als sicherheitsrelevant ein. Ihre Industrieempfehlungen betonen Provenienz und Integritätsprüfungen für Trainingsdaten, Evaluation und Modellregister, Audit-Logging, Runtime-Monitoring sowie Least Privilege und explizite Autorisierung. Solche Kontrollen sollen helfen, Metrikmanipulation und die Weitergabe fehlerhafter Änderungen früh zu erkennen und einzudämmen.

Einschränkungen der aktuellen Evidenz

Die Datenlage ist heterogen. DGM liegt als arXiv-v3-Preprint vom 12. März 2026 vor, Self-Harness als arXiv-v1-Preprint vom 8. Juni 2026 und die unabhängige AI-Scientist-Evaluation als arXiv-v3-Preprint vom 15. Oktober 2025. Die AIDE²-Zahlen stammen aus einem Hersteller-Blogpost vom 14. Juli 2026; technischer Bericht und AIDE85 waren am Prüftag erst angekündigt. Anthropic veröffentlicht einen Unternehmensbericht mit internen, von außen nicht reproduzierbaren Metriken. Das macht die Resultate nicht wertlos, begrenzt aber ihre Aussagekraft. Hinzu kommen methodische Unterschiede: - Interne Codeattribution lässt sich von außen nicht reproduzieren. - Codezeilen messen weder Softwarequalität noch wirtschaftlichen Nutzen. - Mehrere Versuche erhöhen die Erfolgswahrscheinlichkeit; pass@1 und pass@8 sind nicht austauschbar. - Benchmarks mit klarer Metrik bilden offene Forschung nur teilweise ab. - Ein besseres Harness kann das Basismodell unverändert lassen. - Ein kurzfristiger Gewinn zeigt noch keine anhaltende Beschleunigung über Generationen. - Herstellerdefinierte RSI-Stufen sind keine etablierte wissenschaftliche Standardskala. - Auch Gegenargumente zur Intelligenzexplosion beruhen teilweise auf theoretischen Annahmen und Meinungsessays. Der faire Evidenzstand liegt zwischen zwei Extremen: „KI kann sich überhaupt nicht selbst verbessern“ ist falsch. „Die Intelligenzexplosion hat begonnen“ ist durch die vorhandenen Experimente ebenfalls nicht gedeckt.

FAQ: Häufig gestellte Fragen zu rekursiver Selbstverbesserung

Was bedeutet rekursive Selbstverbesserung bei KI? Im strengen Sinn verbessert ein System nicht nur seine Ergebnisse, sondern den eigenen Verbesserungsmechanismus. Dadurch müsste jede erfolgreiche Generation einen leistungsfähigeren Optimierer für die nächste Generation hervorbringen. Ist die Darwin Gödel Machine echte RSI? Sie ist ein dokumentiertes Laborbeispiel für selbstreferenzielles Code-Rewriting auf Agentenebene. Sie trainiert aber kein neues Basismodell und bleibt von externen Foundation-Modellen, Benchmarks, Infrastruktur und menschlich definierten Zielen abhängig. Deshalb belegt sie keine offene, autonome RSI. Beweisen Anthropics Codezahlen eine Intelligenzexplosion? Nein. Laut Anthropics interner Attribution wurden mehr als 80 Prozent der in Produktion gemergten Codezeilen Claude zugeschrieben. Diese Kennzahl deutet auf einen hohen KI-Anteil am Code-Durchsatz hin, misst aber weder autonome Zielwahl noch eine über Generationen steigende Fähigkeit, bessere Nachfolgemodelle zu entwickeln. Was unterscheidet Self-Training von rekursiver Selbstverbesserung? Beim Self-Training lernt ein Modell aus selbst erzeugten oder automatisch ausgewählten Daten. Echte RSI würde zusätzlich das Verfahren verbessern, das Daten erzeugt, bewertet, trainiert und die nächste Verbesserung auswählt. Warum ist Reward Hacking ein zentrales Problem? Ein autonomer Optimierer sucht systematisch nach Wegen, seine Zielmetrik zu erhöhen. Wenn die Metrik den eigentlichen Zweck nur unvollständig abbildet, kann das System Tests umgehen, Ausgaben erfinden oder auf den Benchmark überanpassen, ohne die gewünschte Fähigkeit zu verbessern. Kann KI heute autonom bessere KI-Modelle entwickeln? KI-Agenten können bereits Experimente planen, Trainingscode schreiben und Konfigurationen optimieren. Eine vollständig autonome Pipeline, die zuverlässig bessere Frontier-Basismodelle und zugleich bessere Verbesserungsverfahren erzeugt, ist bisher nicht belegt. Welche Risiken entstehen schon vor vollständiger RSI? Relevant sind manipulierte Evaluationen, fehlerhafte selbst erzeugte Änderungen, unkontrollierte Berechtigungen und schwer prüfbarer Agenten-Code. Sandboxing, unveränderliche externe Tests, Versionierung und menschliche Stoppschalter sind deshalb bereits für heutige Systeme notwendig.

Fazit

Rekursive Selbstverbesserung ist kein einzelner technischer Zustand. DGM, AIDE², Self-Harness und automatisierte ML-Agenten zeigen, dass KI bereits Code, Prompts, Werkzeuge und Forschungsabläufe messbar optimieren kann. Die Fortschritte sind am stärksten, wenn externe Tests ein klares Signal liefern. Eine Intelligenzexplosion folgt daraus nicht. Der belastbare Nachweis müsste zeigen, dass ein System seinen eigenen Verbesserungsmechanismus über mehrere Generationen signifikant, generalisierbar und bei vollständig erfassten Kosten verbessert. Genau diese Kette fehlt bislang. Die richtige Einordnung ist daher: begrenzte Selbstverbesserung ist real; offene RSI und eine daraus entstehende Intelligenzexplosion sind nicht belegt. Verifizierte Quellen: Anthropic – When AI builds itself (https://www.anthropic.com/institute/recursive-self-improvement); Darwin Gödel Machine (https://arxiv.org/html/2505.22954); Sakana AI – DGM (https://sakana.ai/dgm/); Weco AI – AIDE² First Evidence of Recursive Self-Improvement (https://www.weco.ai/blog/first-evidence-of-recursive-self-improvement); Self-Harness Preprint (https://arxiv.org/html/2606.09498v1); MLE-bench (https://arxiv.org/abs/2410.07095); Evaluating Sakana's AI Scientist (https://arxiv.org/html/2502.14297v3); Jürgen Schmidhuber – Gödel Machine (https://people.idsia.ch/~juergen/goedelmachine.html); I. J. Good – Speculations Concerning the First Ultraintelligent Machine (https://doi.org/10.1016/S0065-2458(08)60418-0); François Chollet – The implausibility of intelligence explosion (https://medium.com/@francois.chollet/the-impossibility-of-intelligence-explosion-5be4a9eda6ec); Cloud Security Alliance – RSI Security Implications (https://labs.cloudsecurityalliance.org/research/ai-recursive-self-improvement-security-implications-v1-0-csa/).