Rekursive Selbstverbesserung: wie künstliche Intelligenz beginnt, sich selbst zu verbessern

Inhalt

• Was ist Recursive Self-Improvement (RSI)?
• Warum RSI als Grundlage der Singularität gilt
• Wie moderne LLMs bei der Erstellung neuer Modelle helfen
• Anthropic Fallstudie (April 2026): Agenten schlossen 97 % der KI-Sicherheitsforschungsaufgabe ab
• Warum Anthropic erklärt, dass RSI "noch nicht unvermeidlich" ist
• Wo liegt die Grenze zwischen Automatisierung und Selbstverbesserung
• Technische Einschränkungen moderner Modelle
• Ist ein vollständig autonomer KI-Entwicklungszyklus möglich?
• Häufig gestellte Fragen

Was ist Recursive Self-Improvement (RSI)?

Ich würde diesen Begriff so erklären: Stellen Sie sich einen Ingenieur vor, der nicht nur Code schreibt, sondern den nächsten, besseren Ingenieur als sich selbst erschafft – und dieser wiederum erschafft einen noch besseren. Recursive Self-Improvement (rekursive Selbstverbesserung) ist genau ein solcher Zyklus, nur dass anstelle eines menschlichen Ingenieurs künstliche Intelligenz agiert. Ein KI-System ist an der Erstellung seines eigenen Nachfolgers beteiligt: Es schreibt Code, optimiert die Architektur, bereitet Trainingsdaten vor oder formuliert Forschungs­hypothesen – und das Ergebnis ist intelligenter und produktiver als das Original.

Der entscheidende Unterschied zwischen RSI und einfacher Automatisierung liegt in der Rekursion. Wenn eine KI lediglich eine bestimmte Aufgabe beschleunigt (z. B. Code nach einem Muster schreibt), ist das nützliche Automatisierung, aber keine Selbstverbesserung. RSI beginnt dort, wo das Ergebnis eines Zyklus zu den Eingabedaten für den nächsten wird, und jede Iteration ist potenziell schneller und qualitativ besser als die vorherige – und somit kann die Fortschrittsgeschwindigkeit theoretisch nichtlinear, sondern exponentiell ansteigen.

Warum RSI als Grundlage der Singularität gilt

Wenn wir zur klassischen Definition der technologischen Singularität zurückkehren – dem Punkt, an dem die KI-Entwicklung so schnell wird, dass der Mensch sie nicht mehr vorhersagen kann –, ist RSI genau der Mechanismus, der theoretisch einen solchen Punkt schafft. Mehr über die Herkunft des Singularitätsbegriffs, die Geschichte des Begriffs und die Prognosen von Forschern lesen Sie in unserem vollständigen Leitfaden: Technologische Singularität: Ein vollständiger Leitfaden in einfachen Worten.

Die Logik ist einfach: Wenn der Selbstverbesserungszyklus tatsächlich geschlossen ist und jede Iteration immer weniger Zeit in Anspruch nimmt, hört die Fortschrittsgeschwindigkeit auf, linear zu sein. Deshalb taucht RSI in den allermeisten wissenschaftlichen und populärwissenschaftlichen Arbeiten über die Singularität nicht als eines von vielen möglichen Szenarien auf, sondern als zentraler technischer Mechanismus, um den herum die gesamte Argumentation aufgebaut wird – einschließlich des ursprünglichen Essays von Vernor Vinge aus dem Jahr 1993.

Um zu verstehen, warum ein Zyklus und nicht ein einmaliger Qualitätssprung die Grundlage des Konzepts bildet, lohnt es sich, die Mechanik Schritt für Schritt zu analysieren. In einem normalen, "nicht-rekursiven" Szenario der KI-Entwicklung wird jede nächste Generation von Modellen von Menschen erstellt: Forscher stellen Hypothesen auf, Ingenieure schreiben Code, und die Fortschrittsgeschwindigkeit wird durch die Anzahl der menschlichen Arbeitsstunden begrenzt, die ein Team in die Entwicklung investieren kann. Dies ist ein linearer Prozess – die Verdoppelung des Forscherteams verdoppelt ungefähr die Fortschrittsgeschwindigkeit, nicht mehr.

RSI verändert genau dieses Verhältnis. Wenn Modell N an der Erstellung von Modell N+1 beteiligt ist, und Modell N+1 intelligenter, schneller oder günstiger in der Anwendung ist, kann es seinerseits einen noch größeren Teil der Arbeit an Modell N+2 übernehmen. Jede Iteration wiederholt nicht einfach die vorherige, sondern reduziert potenziell die Zeit und die Ressourcen, die für die nächste benötigt werden. Genau diese Eigenschaft – dass sich die Geschwindigkeit des Beschleunigungsprozesses selbst beschleunigt – unterscheidet den rekursiven Zyklus von einfacher Fortschrittsansammlung, und genau sie ist mathematisch für den "vertikalen Start" der Kurve verantwortlich, den Vernor Vinge als Grenze der Vorhersagbarkeit und Ray Kurzweil als Folge des Gesetzes der beschleunigten Erträge beschrieb.

Es ist wichtig, noch einmal zu betonen: Die bloße Existenz eines solchen Zyklus bedeutet grundsätzlich nicht, dass er bereits mit voller Leistung läuft oder dass er nicht verlangsamt werden kann. Wie weit moderne Modelle auf diesem Weg fortgeschritten sind und wo genau die Grenze zwischen "Modell hilft" und "Modell leitet den Prozess selbstständig" verläuft, wird unten sowie in den Abschnitten über die Anthropic-Fallstudie und die technischen Einschränkungen detailliert erörtert.

Warum RSI als Grundlage der Singularität gilt

Wenn wir zur klassischen Definition der technologischen Singularität zurückkehren – dem Punkt, an dem die KI-Entwicklung so schnell wird, dass der Mensch sie nicht mehr vorhersagen kann –, ist RSI genau der Mechanismus, der theoretisch einen solchen Punkt schafft. Mehr über die Herkunft des Singularitätsbegriffs, die Geschichte des Begriffs und die Prognosen von Forschern lesen Sie in unserem vollständigen Leitfaden: Technologische Singularität: Ein vollständiger Leitfaden in einfachen Worten.

Die Logik ist einfach: Wenn der Selbstverbesserungszyklus tatsächlich geschlossen ist und jede Iteration immer weniger Zeit in Anspruch nimmt, hört die Fortschrittsgeschwindigkeit auf, linear zu sein. Deshalb taucht RSI in den allermeisten wissenschaftlichen und populärwissenschaftlichen Arbeiten über die Singularität nicht als eines von vielen möglichen Szenarien auf, sondern als zentraler technischer Mechanismus, um den herum die gesamte Argumentation aufgebaut wird – einschließlich des ursprünglichen Essays von Vernor Vinge aus dem Jahr 1993.

Um zu verstehen, warum ein Zyklus und nicht ein einmaliger Qualitätssprung die Grundlage des Konzepts bildet, lohnt es sich, die Mechanik Schritt für Schritt zu analysieren. In einem normalen, "nicht-rekursiven" Szenario der KI-Entwicklung wird jede nächste Generation von Modellen von Menschen erstellt: Forscher stellen Hypothesen auf, Ingenieure schreiben Code, und die Fortschrittsgeschwindigkeit wird durch die Anzahl der menschlichen Arbeitsstunden begrenzt, die ein Team in die Entwicklung investieren kann. Dies ist ein linearer Prozess – die Verdoppelung des Forscherteams verdoppelt ungefähr die Fortschrittsgeschwindigkeit, nicht mehr.

RSI verändert genau dieses Verhältnis. Wenn Modell N an der Erstellung von Modell N+1 beteiligt ist, und Modell N+1 intelligenter, schneller oder günstiger in der Anwendung ist, kann es seinerseits einen noch größeren Teil der Arbeit an Modell N+2 übernehmen. Jede Iteration wiederholt nicht einfach die vorherige, sondern reduziert potenziell die Zeit und die Ressourcen, die für die nächste benötigt werden. Genau diese Eigenschaft – dass sich die Geschwindigkeit des Beschleunigungsprozesses selbst beschleunigt – unterscheidet den rekursiven Zyklus von einfacher Fortschrittsansammlung, und genau sie ist mathematisch für den "vertikalen Start" der Kurve verantwortlich, den Vernor Vinge als Grenze der Vorhersagbarkeit und Ray Kurzweil als Folge des Gesetzes der beschleunigten Erträge beschrieb.

Es ist wichtig, noch einmal zu betonen: Die bloße Existenz eines solchen Zyklus bedeutet grundsätzlich nicht, dass er bereits mit voller Leistung läuft oder dass er nicht verlangsamt werden kann. Wie weit moderne Modelle auf diesem Weg fortgeschritten sind und wo genau die Grenze zwischen "Modell hilft" und "Modell leitet den Prozess selbstständig" verläuft, wird unten sowie in den Abschnitten über die Anthropic-Fallstudie und die technischen Einschränkungen detailliert erörtert.

Wie moderne LLMs bei der Erstellung neuer Modelle helfen

Hier möchte ich Erwartungen und Realität sofort auseinanderhalten. Moderne große Sprachmodelle sind bereits aktiv an der Entwicklung zukünftiger KI-Generationen beteiligt – aber hauptsächlich als Werkzeug, nicht als autonomer Architekt. In der Praxis sieht das so aus: Modelle schreiben und testen den Code von Trainings-Pipelines, generieren synthetische Daten für das Nachtraining, helfen bei der Analyse von Experimentergebnissen und schlagen sogar Hypothesen für weitere Forschung vor.

Beide Branchenführer bestätigen diesen Trend offiziell, wenn auch mit unterschiedlichen Worten. Anthropic berichtet, dass der Anteil des von Claude geschriebenen und in die Produktionscodebasis des Unternehmens integrierten Codes von einstelligen Prozentzahlen Anfang 2025 auf über 80 % im Mai 2026 gestiegen ist (Anthropic, "When AI builds itself"). OpenAI hat sich unterdessen ein ehrgeizigeres Ziel gesetzt: CEO Sam Altman, Chief Scientist Jakub Pachocki und Mitbegründer Wojciech Zaremba kündigten an, bereits bis September 2026 einen "KI-Praktikanten-Forscher" und bis März 2028 einen vollständig autonomen KI-Forscher zu schaffen (MIT Technology Review).

Die Forscher selbst räumen jedoch ein: Die empirischen Daten darüber, wie stark die KI-gestützte Automatisierung die KI-Entwicklung tatsächlich beschleunigt, sind bisher widersprüchlich. In einer Pilotstudie für den International AI Safety Report 2026 schätzten Experten-Prognostiker die Wahrscheinlichkeit, dass der Fortschritt der nächsten Jahre sechs Jahre Entwicklung (2018–2024) auf nur zwei Jahre komprimiert, median nur zu 20 % ein, und Super-Prognostiker noch konservativer, zu 8 % (International AI Safety Report 2026).

⚙️ Wodurch genau geschieht Rekursion: Drei konkrete Mechanismen

In den vorherigen Abschnitten haben wir die RSI bewusst auf oberflächlicher Ebene beschrieben – „das Modell schreibt Code“, „das Modell optimiert die Architektur“. Aber um zu verstehen, wie realistisch das ist und nicht nur metaphorisch, lohnt es sich, die technischen Tricks zu analysieren, die hinter diesen Worten stecken. Es gibt drei davon, und jeder hat bereits dokumentierte, messbare Ergebnisse – nicht in Laborversprechen, sondern in der Produktionsinfrastruktur führender Labore.

1. Suche nach Architekturen und Hyperparametern durch bestärkendes Lernen (NAS + RL)

Neural Architecture Search (NAS) ist ein Ansatz, bei dem anstatt dass ein Ingenieur manuell die Struktur eines neuronalen Netzes auswählt (Anzahl der Schichten, Art der Verbindungen, Größe des Aufmerksamkeitsfensters), diese Suche einem separaten RL-System anvertraut wird, das jede Architekturvariante als „Aktion“ betrachtet und eine „Belohnung“ erhält, je nachdem, wie gut das darauf trainierte Modell abschneidet. Dies ist keine neue Idee – die ersten Arbeiten von Google Brain zu NAS über RL erschienen bereits 2016-2017 –, aber der Umfang der Anwendung ist jetzt qualitativ anders.

Das bezeichnendste moderne Beispiel ist AlphaEvolve, ein System von Google DeepMind, das im Mai 2025 vorgestellt wurde. Es kombiniert große Sprachmodelle (basierend auf Gemini) mit automatisierter evolutionärer Bewertung: LLMs schlagen Code- oder Algorithmusvarianten vor, ein automatisierter Bewerter prüft das Ergebnis anhand einer vorgegebenen Metrik, und die besten Varianten „überleben“ und mutieren weiter – ein klassisches Evolutionsschema, nur dass die Varianten nicht durch zufällige Mutation, sondern durch das Sprachmodell selbst generiert werden. AlphaEvolve wurde bereits zur Optimierung von Chipdesigns, zur Planung von Rechenzentren und – was für das Thema dieses Artikels besonders bezeichnend ist – zur Optimierung des Trainingsprozesses von Gemini eingesetzt, wodurch die Trainingszeit um etwa 1 % reduziert wurde. Die Zahl klingt bescheiden, aber bei einem Trainingscluster im Wert von Hunderten von Millionen Dollar ist das bereits eine erhebliche Einsparung (MindStudio).

2. Evolutionäre Selbstmodifikation des Agentencodes

Der zweite Mechanismus ist nicht die Optimierung der Modellarchitektur, sondern die Selbstmodifikation des Codes des Agenten selbst, der dieses Modell verwendet. Das herausragendste Beispiel ist die Darwin Gödel Machine (DGM), entwickelt von Sakana AI zusammen mit der University of British Columbia: ein System, bei dem ein Agent auf Basis eines Basis-LLM Änderungen an seinem eigenen Code vorschlägt, diese an realen Aufgaben testet und, wenn die Änderung das Ergebnis verbessert, zur neuen „Version“ des Agenten wird, die dann selbst weitere Änderungen vorschlägt. Eine wichtige technische Klarstellung: DGM modifiziert den Code und die Logik des Agenten (wie er Schritte plant, wie er Fehler verarbeitet, wie er auf Tools zugreift), nicht das Basis-Sprachmodell selbst – das heißt, es handelt sich um eine Selbstverbesserung der „Verkabelung“, nicht des Gehirns. Auf dem SWE-bench-Benchmark (reale Aufgaben zur Behebung von Fehlern in Open-Source-Code) führte eine solche Selbstmodifikation zu einer Verbesserung von 20-50 % im Vergleich zur ursprünglichen Agentenversion (AI Wiki).

Zu dieser Kategorie gehört auch die Generierung von Hard-Negative-Beispielen – wenn das Modell selbst die schwierigsten, Grenzfälle von Trainingsbeispielen erstellt (Situationen, in denen die vorherige Version am häufigsten Fehler gemacht hat) und gerade daran trainiert, anstatt an einer zufälligen Datenauswahl. Dies beschleunigt das Training an spezifischen Schwachstellen des Modells, aber – und das ist eine direkte Brücke zum nächsten Abschnitt – dieser Trick funktioniert nur, wenn es eine zuverlässige Möglichkeit gibt zu überprüfen, ob das generierte „schwierige Beispiel“ tatsächlich korrekt ist und nicht nur ein plausibler Fehler, den das Modell selbst generiert hat.

3. Automatisierung des eigenen Entwicklungszyklus

Der dritte, direkteste Mechanismus ist, dass das Modell einfach an der Erstellung der nächsten Version von sich selbst durch normale Ingenieursarbeit beteiligt ist, nur in einem immer größeren Umfang. Im Februar 2026 berichtete OpenAI, dass das Modell GPT-5.3-Codex eine wesentliche Rolle bei seiner eigenen Erstellung spielte: Es half bei der Feinabstimmung des Trainingsprozesses, der Verwaltung der Bereitstellung und der Analyse der Bewertungsergebnisse der nächsten Version (IEEE Spectrum). Dies stimmt mit den Daten von Anthropic über den Anteil des Claude-Codes in der eigenen Codebasis des Unternehmens überein, die wir oben zitiert haben.

Ein gemeinsames Merkmal aller drei Mechanismen – und gleichzeitig ihre wichtigste praktische Einschränkung – ist, dass jeder von ihnen bisher innerhalb eines klar definierten, messbaren Bewertungssystems funktioniert, das von einem menschlichen Ingenieur festgelegt wurde (die Metrik von AlphaEvolve, der Testdatensatz SWE-bench für DGM, die Erfolgskriterien für GPT-5.3-Codex). Das ist genau die Grenze von „wer die Aufgabe definiert“, über die im vorherigen Abschnitt gesprochen wurde.

🌀 Mathematische Sackgasse: Das Problem des „Model Collapse“

Eines der wichtigsten Gegenargumente gegen optimistische RSI-Prognosen findet selten Eingang in populäre Darstellungen – und das zu Unrecht, denn es ist nicht rhetorisch, sondern mathematisch. Wenn ein KI-System zunehmend auf Daten trainiert wird, die von früheren KI-Modellen selbst generiert wurden (und nicht auf „rohen“ menschlichen Daten), besteht das Risiko eines sogenannten Model Collapse – einer fortschreitenden Verschlechterung der Qualität und Vielfalt des Modells mit jedem neuen Zyklus.

Das Phänomen wurde formal von Shumaylov et al. in einer im Juli 2024 in Nature veröffentlichten Arbeit beschrieben. Die Mechanik ist einfach und unerbittlich: Jede Modellgeneration, die hauptsächlich auf der Ausgabe der vorherigen Generation trainiert wird, verliert allmählich die „Schwänze“ der ursprünglichen Datenverteilung – seltene, untypische, aber durchaus korrekte Antworten und Beispiele. Mit jedem Zyklus verengt sich die Ausgabeverteilung des Modells und zieht sich immer stärker zu einer „statistisch durchschnittlichen“, stereotypen Antwort zusammen, bis hin zu einer praktisch degenerierten, fast identischen Ausgabe auf verschiedene Anfragen (Digital Applied). Die Forscher identifizieren drei Komponenten dieses Fehlers: statistischer Approximationsfehler (begrenzte Anzahl von Trainingsbeispielen in jedem Schritt), Modell-Ausdrucksfehler (die Architektur kann die gesamte ursprüngliche Verteilung physisch nicht reproduzieren) und Lernfunktionsfehler.

Dies ist kein rein theoretisches Risiko. Weitere Forschungen haben konkrete Schwellenwerte aufgezeigt. Zedik et al. zeigten, dass das Beimischen von nur 5 % realer, menschlicher Daten zu jeder Trainingsgeneration den langfristigen Kollaps erheblich verlangsamt und eindämmt, während das Training auf 100 % synthetischen Daten zu einer linearen, unaufhaltsamen Verschlechterung mit jeder Generation führt. Suresh et al. formalisierten diese Abhängigkeit im Jahr 2025 mathematisch: Wenn der Anteil realer Daten in jedem Zyklus größer als Null ist, bleibt die Abweichung von der wahren Verteilung begrenzt; wenn sie sich Null nähert, wird die Abweichung unbegrenzt (arXiv, Suresh et al.).

Hier liegt der direkte Zusammenhang mit der Idee der RSI selbst: Ein geschlossener Kreislauf, in dem Modell N Modell N+1 ausschließlich auf seinen eigenen generierten Daten trainiert, ohne Zufluss neuer menschlicher Daten oder externer Verifizierung, ist ein fast lehrbuchmäßiges Rezept für Model Collapse, nicht für beschleunigten Fortschritt. Bezeichnenderweise fanden die Forscher Feng et al. im Jahr 2025 einen wichtigen Nuance, der erklärt, warum führende Labore diese Falle in der Praxis vermeiden: Eine ausreichend effektive Verifizierung synthetischer Daten kann den Kollaps erheblich abmildern, selbst wenn der Anteil „roher“ menschlicher Daten gering ist (arXiv). Deshalb stützen sich die Mechanismen aus dem vorherigen Abschnitt – AlphaEvolve, DGM, Generierung von Hard-Negative-Beispielen – alle auf ein externes, objektives Überprüfungs-Kriterium (kompilierter Code, der tatsächlich schneller ist; ein Test, der tatsächlich bestanden wird; eine Aufgabe, die tatsächlich korrekt gelöst wurde) und nicht auf „blindes“ Selbsttraining. Dies ist genau die Verifizierung, die sie theoretisch vor dem Kollaps schützt.

Es ist jedoch ratsam, auch hier ein Gleichgewicht zu wahren: Nicht alle Forscher halten das Ausmaß der Kollaps-Bedrohung für gleichermaßen katastrophal. Eine Positionspapier von 2026 mit dem aussagekräftigen Titel „Model Collapse Does Not Mean What You Think“ warnt davor, dass ein Teil der öffentlichen Besorgnis auf einer vereinfachten Lesart der ursprünglichen Shumaylov-Studie beruht und dass in realistischeren Szenarien – wenn synthetische Daten reale Daten nicht ersetzen, sondern neben ihnen angesammelt werden und wenn es eine gewisse Qualitätsverifizierung gibt – der Kollaps viel langsamer und milder auftritt, als die ersten alarmistischen Schlagzeilen vermuten ließen (arXiv, „Position: Model Collapse Does Not Mean What You Think“).

Die praktische Schlussfolgerung für diesen Artikel: Model Collapse ist kein Argument dafür, dass „RSI unmöglich ist“, sondern ein konkreter, mathematisch fundierter Erklärungsmechanismus dafür, warum jedes dokumentierte Beispiel von RSI, das wir oben betrachtet haben – sowohl in diesem Artikel als auch im Fall von Anthropic –, auf verifizierten, objektiv überprüfbaren Erfolgskriterien beruht und nicht auf reinem Selbsttraining des Modells auf seinen eigenen Antworten. Dies ist ein weiterer Grund, warum „wer das Erfolgskriterium definiert und überprüft“ im Wesentlichen keine weniger wichtige Frage ist als „wer die Aufgabe selbst definiert“, die wir oben besprochen haben.

Fallstudie Anthropic (April 2026): Agenten schlossen 97 % der Forschungsaufgabe zur KI-Sicherheit

Das konkreteste und am besten dokumentierte Beispiel dafür, wie dies in der Praxis funktioniert, ist das Experiment von Anthropic im April, das im Bericht „When AI builds itself“ vom 4. Juni 2026 beschrieben wurde. Agenten auf Basis von Claude erhielten eine echte offene Forschungsaufgabe zur KI-Sicherheit: Kann ein schwächeres Modell ein stärkeres Modell zuverlässig kontrollieren (überwachen)? Die Aufgabe hatte eine klar messbare „Bodenhöhe“ (wie gut der schwächere Aufseher selbst zurechtkommt) und eine „Deckenhöhe“ (wie gut sich das starke Modell verhält, wenn es auf korrekte Antworten trainiert wird).

Neun parallele Agenten formulierten selbstständig Hypothesen, führten Experimente durch, tauschten Ergebnisse über ein gemeinsames Forum aus und iterierten Lösungen. In 800 kumulierten Arbeitsstunden und etwa 18.000 US-Dollar an Rechenkosten schlossen die Agenten 97 % der Lücke zwischen „Bodenhöhe“ und „Deckenhöhe“. Zum Vergleich: Zwei menschliche Forscher, die etwa eine Woche an derselben Aufgabe arbeiteten, schlossen nur 23 % (Anthropic).

Separat erwähnenswert ist ein weiteres bezeichnendes Ergebnis desselben Berichts: Das Vorgängermodell Claude Mythos Preview zeigte eine 52-fache Beschleunigung bei der Optimierung von Modelltrainingscode – während ein qualifizierter menschlicher Forscher für eine vierfache Verbesserung desselben Codes vier bis acht Stunden benötigt hätte. Zum Vergleich: Die Vorgängerversion des Modells – Claude Opus 4 – zeigte ein Jahr zuvor bei einer ähnlichen Aufgabe nur eine dreifache Beschleunigung (Anthropic).

Warum Anthropic erklärt, dass RSI „noch nicht unvermeidlich“ ist

Ich habe diesen Nuance bewusst in ein separates Kapitel aufgenommen, da hier die Botschaft von Anthropic in Darstellungen am häufigsten verzerrt wird. Das Unternehmen selbst betont trotz beeindruckender Zahlen wiederholt seine Vorbehalte. Erstens wurde das Ergebnis des Experiments im April nicht eins zu eins auf Modelle im industriellen Maßstab übertragen – die Aufgabe war bewusst begrenzt und isoliert. Zweitens, und das ist das Wichtigste: Der Mensch wählte in diesem Experiment immer noch die Forschungsaufgabe selbst aus und schrieb die Bewertungsrubrik für die Ergebnisse – das heißt, die Richtung der Forschung, nicht nur ihre Ausführung, blieb eine menschliche Entscheidung (Anthropic).

Bezeichnenderweise nutzte Anthropic dieselben Daten nicht für eine triumphale Ankündigung, sondern als Argument für eine globale Koordination der KI-Sicherheit und rief die Industrie öffentlich dazu auf, eine kontrollierte Pause bei der Entwicklung der leistungsfähigsten Systeme in Betracht zu ziehen, wenn sich mehrere führende Labore gleichzeitig dem Schwellenwert der Selbstverbesserung nähern (Dallas Express). Dies ist eine für die Branche ungewöhnliche Kommunikationsstrategie: Das Unternehmen veröffentlicht Daten, die als Beweis für seinen technologischen Vorsprung gelesen werden können, präsentiert sie aber in erster Linie als Warnsignal und nicht als Marketing.

Wo verläuft die Grenze zwischen Automatisierung und Selbstverbesserung

Meiner Meinung nach ist dies die wichtigste praktische Frage im gesamten Thema RSI – und gleichzeitig die am häufigsten ignorierte in populären Darstellungen. Die Grenze verläuft nicht dadurch, wie gut das Modell eine Aufgabe erfüllt, sondern dadurch, wer bestimmt, welche Aufgabe überhaupt gelöst werden sollte.

Moderne Modelle – einschließlich der Agenten aus dem Anthropic-Experiment im April – haben das Niveau eines „Mustererfüllers“ bereits souverän überschritten: Sie entwerfen selbstständig Experimente, schreiben und debuggen komplexen Code, analysieren widersprüchliche Ergebnisse. Aber die Wahl der Forschungsrichtung, die Priorisierung von Problemen und die Festlegung von Erfolgskriterien – all das bleibt in den überwiegenden dokumentierten Fällen eine menschliche Prärogative. Die Autoren des Anthropic-Berichts trennen diese beiden Kategorien klar: technische Automatisierung, bei der der Fortschritt bereits sehr bedeutend ist, und entscheidungsbasierte Forschung, bei der die Lücke zwischen Mensch und Modell weiterhin erheblich ist (SmartCR, Übersicht über den Anthropic-Bericht).

Es gibt auch Zwischenergebnisse, die zeigen, wie schnell sich diese Grenze verschiebt. In einem separaten internen Experiment prüfte Anthropic, ob ein Modell selbstständig den besseren „nächsten Schritt“ an komplexen Verzweigungen realer Forschungssitzungen wählen kann – und im November 2025 stimmte Claude in 51 % der Fälle mit der Entscheidung eines menschlichen Forschers überein (TheNextWeb). Dies ist keine autonome Wahl der Forschungsrichtung im reinen Sinne, aber ein klares Signal dafür, dass die Grenze zwischen „Ausführung“ und „Entscheidungsfindung“ nicht mehr absolut ist.

Technische Einschränkungen moderner Modelle

Es lohnt sich, die spezifischen Hürden aufzulisten, die meiner Meinung nach in optimistischen Prognosen am häufigsten unterschätzt werden:

• Übertragung von Ergebnissen auf größere Skalierung. Erfolg bei einer begrenzten, speziell vorbereiteten Aufgabe (wie im Anthropic-Fall vom April) garantiert kein gleiches Ergebnis bei Modellen im industriellen Maßstab mit einer wesentlich komplexeren und weniger strukturierten Problemstellung.
• Wahl von Zielen und Priorisierung. Die beständigste und am besten dokumentierte Lücke besteht in der Fähigkeit des Modells, selbstständig zu entscheiden, welches Problem zuerst gelöst werden sollte und warum, und nicht nur, wie es gelöst werden kann.
• Kosten und Rechenzeit. Selbst das beeindruckende Ergebnis von 97 % wiederhergestellter Lücke kostete fast 18.000 US-Dollar und 800 Stunden Agentenarbeit für eine relativ enge Aufgabe – das ist bisher noch kein sofortiger oder billiger Prozess.
• Bewertung der Ergebnisqualität. Im erwähnten Experiment wurde die Bewertungsrubrik für den Erfolg immer noch von einem Menschen geschrieben. Die autonome, zuverlässige Selbsteinschätzung der Qualität eigener wissenschaftlicher Schlussfolgerungen durch das Modell ist ein separates ungelöstes Problem.

Ist ein vollständig autonomer KI-Entwicklungszyklus möglich?

Die ehrliche Antwort zum jetzigen Zeitpunkt (Mitte 2026): Einzelne Elemente eines solchen Zyklus wurden demonstriert, aber nicht der geschlossene Zyklus als Ganzes. Modelle schreiben bereits einen erheblichen Teil des Codes, der nachfolgende Modelle trainiert, entwerfen und führen selbstständig Experimente innerhalb klar definierter Grenzen durch und treffen sogar an einzelnen Forschungsverzweigungen Entscheidungen. Was bisher von keinem der führenden Labore dokumentiert wurde, ist ein Modell, das von Anfang bis Ende selbstständig die Forschungsrichtung wählt, Erfolgskriterien formuliert, die Arbeit durchführt und dabei ein nachfolgendes Modell hervorbringt, das ihm selbst erheblich überlegen ist, ohne den maßgeblichen Beitrag eines Menschen in jeder dieser Phasen.

Sowohl OpenAI als auch Anthropic erkennen trotz unterschiedlicher öffentlicher Rhetorik im Wesentlichen denselben Fakt an: Das entscheidende fehlende Glied ist nicht die technische Komplexität der Automatisierung einzelner Schritte, sondern die autonome Bestimmung, welche Schritte überhaupt unternommen werden sollten. Deshalb formuliert OpenAI sein Ziel vorsichtig und schrittweise – zuerst ein „Praktikant-Forscher“ bis September 2026 und erst dann, im optimistischen Szenario, ein vollständig autonomer Forscher bis 2028 (Marketing AI Institute), anstatt bereits jetzt einen fertigen geschlossenen Zyklus zu verkünden.

Häufig gestellte Fragen

Was ist rekursive Selbstverbesserung in einfachen Worten?

Dies ist ein Mechanismus, bei dem ein KI-System an der Erstellung seines eigenen Nachfolgers – einer intelligenteren Version von sich selbst – beteiligt ist, und dieser Zyklus kann sich theoretisch mit zunehmender Geschwindigkeit wiederholen.

Findet bereits eine rekursive Selbstverbesserung von KI statt?

Ein vollständig geschlossener, vom Menschen unabhängiger Zyklus wurde bisher von keiner führenden Labor dokumentiert. Gleichzeitig werden einzelne Elemente des Zyklus – Codeautomatisierung, Durchführung von Experimenten, teilweise Beteiligung an der Auswahl der nächsten Forschungsschritte – bereits aktiv genutzt.

Wie viel Code schreibt Anthropic selbst mit Claude?

Nach Angaben des Unternehmens wurden im Mai 2026 über 80 % des Codes, der in die Produktionscodebasis von Anthropic gelangte, von Claude geschrieben – verglichen mit einstelligen Werten Anfang 2025.

Warum fordert Anthropic eine Pause bei der KI-Entwicklung, wenn es selbst solche Ergebnisse erzielt?

Das Unternehmen präsentiert diese Daten nicht als Marketing, sondern als Argument für die Industrie: Wenn sich mehrere führende Labore gleichzeitig dem Schwellenwert der Selbstverbesserung nähern, ist eine kontrollierte und koordinierte Pause seiner Meinung nach sicherer als ein unkontrollierter Wettlauf.