Am Montag hat Bilal Chughtai auf X und LinkedIn erklärt, warum er bei Google DeepMind aufgehört hat. Er arbeitete dort an KI-Sicherheit und Alignment. Der Satz, der es in die Schlagzeilen geschafft hat, steht am Ende seines Absatzes: „Ich glaube ernsthaft, dass KI das Potenzial hat, uns alle zu töten.”
Was er geschrieben hat
Der Wortlaut, den Bloomberg zitiert: „Bei Google habe ich KI-Entwicklung aus erster Hand miterlebt. Auch ich bin äußerst besorgt über den Standardkurs dieser Technologie. Ich glaube ernsthaft, dass KI das Potenzial hat, uns alle zu töten.” Dazu der Zusatz, dass uns die Zeit ausgehen könnte, das noch zu verhindern.
Sein Vorschlag ist derselbe, der seit einer Woche durch die Branche geht: Die Firmen sollen sich abstimmen, statt weiter gegeneinander zu rennen, und das Tempo an dem ausrichten, was die Gesellschaft verkraftet. Google hat auf eine Anfrage von Bloomberg zunächst nicht reagiert.
Der Zeitpunkt ist gewählt, nicht zufällig
Chughtai hat DeepMind bereits im Juli verlassen. Zwei Monate lang hat er nichts gesagt. Veröffentlicht hat er den Text am Montag – also an dem Tag, an dem Donald Trump auf Truth Social die Sorgen der Branche als „Hoax” und „Scam” abtat und Peking die Warnungen der KI-Chefs Angstmacherei nannte.
Wer zwei Monate wartet und dann diesen Tag wählt, will gehört werden.
Der zweite in einer Woche
Am 9. September hatte Jacob Coxon bei Anthropic gekündigt, mit dem Vorwurf, die führenden Labore würden „mit unseren Leben spielen”. Evan Hubinger, Alignment-Lead bei Anthropic, stellte sich öffentlich dahinter und nannte eine Zahl: Er halte es für mehr als zehn Prozent wahrscheinlich, dass KI in diesem Jahrzehnt alle Menschen tötet.
Coxon kam von Anthropic und davor von OpenAI. Chughtai kommt von Google DeepMind. Das sind zwei der drei Labore, um die es in der ganzen Debatte geht, und die Aussagen sind fast deckungsgleich.
Zwei Fälle sind kein Muster, aber sie sind auch kein Zufall
Aus zwei Rücktritten lässt sich keine Welle ableiten, und wer das tut, macht dasselbe wie die Leute, die aus jeder Benchmark-Zahl eine Zeitenwende lesen. Was sich sagen lässt: Beide arbeiteten an Sicherheit, beide haben sich erst nach dem Ausstieg geäußert, und beide beschreiben nicht einen konkreten Vorfall, sondern die Richtung.
Das ist der unangenehme Teil. Ein Vorfall lässt sich untersuchen, beheben und abhaken. Eine Richtung nicht. Und solange die Warnungen erst nach der Kündigung kommen, weiß niemand, wie viele Leute in den Häusern dasselbe denken und bleiben.