Andrew Ng hat Bloomberg TV gesagt, dass Warnungen vor dem Aussterben der Menschheit durch KI „mehr Science-Fiction als Wissenschaft“ seien. Ng hat Google Brain mitgegründet und Coursera aufgebaut; Dario Amodei und Sam Altman kennt er aus früheren Jahren.
Bei der Meinungsverschiedenheit hat er es nicht belassen. Ng sagt, die Branche schüre solche Ängste gezielt – für Aufmerksamkeit und um Regeln in eine bestimmte Richtung zu schieben. Die aktuelle Welle datiert er auf den 8. September, als ein Anthropic-Forscher kündigte und seinem früheren Arbeitgeber vorwarf, mit dem Leben von Menschen zu spielen. Dessen Beitrag erreichte 150 Millionen Aufrufe.
Die Leiter, die hochgezogen wird
Der Vorwurf ist bei Ng nicht neu. Im Dezember 2023 sagte er vor einem Forum des US-Senats, große Unternehmen bauschten Risiken auf, um Regeln zu bekommen, die „die Leiter hochziehen“ – also neue Anbieter draußen halten. Im selben Statement bezifferte er die Wahrscheinlichkeit, dass KI die Menschheit auslöscht, auf ungefähr eins zu zehn Millionen über ein Jahrhundert.
Drei Jahre später ist der Wortlaut fast identisch. Was sich geändert hat, ist die Lautstärke. Über Jacob Coxon, dessen Kündigung die Debatte ausgelöst hat, haben wir gestern geschrieben; er selbst sagt, ihn habe die Reaktion überrascht. Ng liest dieselbe Welle als Kampagne.
Europa hat beide Lager ins selbe Gesetz geschrieben
Hier wird es interessant, und dafür muss man nach Brüssel schauen. Der EU AI Act listet systemische Risiken auf: gesenkte Hürden für chemische, biologische, radiologische und nukleare Waffen, Cyberfähigkeiten, Desinformation, schwere Unfälle in kritischen Sektoren. Das ist genau die Liste, die Ng für die richtige hält.
In derselben Textstelle steht aber auch der Kontrollverlust – unbeabsichtigte Probleme bei der Ausrichtung am menschlichen Willen, Modelle, die Kopien von sich selbst anfertigen. Beides steht in einem Absatz. Die EU-Technikchefin Henna Virkkunen hat diesen Monat gesagt, europäisches Recht verpflichte Anthropic und OpenAI dazu, das Risiko eines Kontrollverlusts zu bewerten, und weltweit sei das nicht der Fall.
Wer die Schwelle setzt, entscheidet die Debatte
Die Pflichten greifen erst oberhalb einer Rechenleistungs-Schwelle. Sie treffen also die größten Entwickler und sonst niemanden.
Genau das ist die Leiter, die Ng 2023 beschrieben hat – nur hat sie diesmal kein Labor gebaut, sondern ein Gesetzgeber. Und sie steht schräg zu seiner These: Wenn die Regulierung die Großen belastet und die Kleinen verschont, ist sie ein schlechtes Werkzeug, um Wettbewerb auszuschalten.
Bleibt seine zweite Behauptung, und die ist schwerer zu prüfen. Ob die Warnungen aufrichtig sind oder Öffentlichkeitsarbeit, lässt sich von außen nicht entscheiden. Was man prüfen kann, sind Zahlen – und Anthropic hat gestern erstmals welche vorgelegt. Genau darum geht es in diesem Streit eigentlich: nicht um Motive, sondern darum, dass sie bisher niemand nachrechnen konnte.
Quellen: