Seit zwei Wochen reden alle über rekursive Selbstverbesserung — RSI, Modelle, die sich selbst schneller machen, bis niemand mehr hinterherkommt. Nathan Lambert, der bei Interconnects für 83.000 Abonnenten über die Innenseite der Labore schreibt, hat am Freitag aufgeschrieben, warum er das nach wie vor nicht glaubt.
Seine Gegenthese heißt lossy self-improvement, verlustbehaftete Selbstverbesserung. Drei Punkte tragen sie: Der automatisierbare Teil der Forschung ist zu schmal, um gegen die exponentiellen Kosten der Scaling Laws anzukommen. Mehr Agenten parallel bringen abnehmenden Ertrag. Und was ein starkes Modell am Ende wirklich ausbremst, sind Rechenzentren, Strom und Politik — daran kann KI wenig ändern.
Der Satz aus dem System Card
Lambert zitiert das System Card zu Claude Fable 5.1 und Mythos 5.1. Dort schreibt Anthropic, der interne Einsatz der eigenen Modelle sei ein Schlüsselfaktor dafür gewesen, das bisherige Tempo zu halten. Klare Anzeichen für eine dramatische Beschleunigung über dieses Tempo hinaus sehe man aber nicht.
Das passt zu dem, was wir vorige Woche über den R&D-Automatisierungsindex geschrieben haben: viel Automatisierung, wenig Explosion. Lamberts Lesart der internen Zahlen von OpenAI und Anthropic: Am weitesten ist die Automatisierung bei Softwareentwicklung, Log-Überwachung und dem Abarbeiten geplanter Experimente. Also bei Routine, die niemand gern macht.
Die Zahlen aus dem Podcast
Interessanter als die Thesen sind die Fristen, die Lambert aus zwei Dwarkesh-Podcasts einsammelt. John Schulman, Beren Millidge und Charlie O’Neill sollten sagen, wann KI bestimmte Schwellen reißt:
- Ersatz für eine Bürokraft über einen ganzen Monat: O’Neill rund ein Jahr, wenn das Modell direkten Zugriff auf die Werkzeuge bekommt, zwei Jahre über den Browser. Schulman ein Jahr für eine passable Version. Millidge drei Jahre für volle Allgemeinheit.
- Zehnfache Produktivität für KI-Forscher: Schulman zwei Jahre. O’Neill fünf bis zehn.
- Besser als die besten Menschen in allem am Computer: Schulman drei bis vier Jahre, Millidge etwa fünf, O’Neill fünf bis zehn.
Richard Ngo, den Lambert zustimmend zitiert, formuliert das Grundproblem so: Die Sicherheitsleute würden am Ende richtungsweisend richtig und faktisch falsch liegen. Superintelligenz komme nicht in den nächsten acht Jahren — aber es werde sich anfühlen, als hätten die kurzen Fristen recht behalten.
Was Maschinen am Post-Training scheitern lässt
Schulman erklärt im Podcast, warum Post-Training-Teams groß sind: Jemand muss für jeden einzelnen Bereich entscheiden, wie sich das Modell verhalten soll. Dazu der Satz, der jedem bekannt vorkommt, der schon mal ein Modell verschlimmbessert hat: Es sei sehr leicht, Post-Training so kaputtzumachen, dass es in keinem Benchmark auffällt.
Zwei Exponentialkurven, nur eine biegt sich
Lamberts stärkstes Argument steckt in einer Unterscheidung, die in der Debatte ständig verrutscht. RSI wirkt dort, wo es klare, messbare Ziele gibt — beim Ausliefern von Modellen, bei Effizienz, bei Kosten pro Token. Dort werden die Kurven steil, und über Jevons’ Paradox wird daraus ein gutes Geschäft.
Die andere Kurve ist die Spitzenintelligenz, und die kostet weiter exponentiell mehr Rechenleistung für lineare Gewinne. Lamberts Fazit: Bis mehr Belege da sind, bleibt verlustbehaftete Selbstverbesserung sein Basisszenario, und das viele Reden über Aussterberisiko hält er für fehl am Platz.
Man muss ihm nicht folgen. Aber wer die letzten zwei Wochen gelesen hat, hat wenig Widerspruch gehört, der so genau sagt, woran er sich messen lassen will.