Dario Amodei hat am Samstag einen Essay veröffentlicht, in dem er den führenden Laboren vorschlägt, das Tempo an der Grenze des Machbaren gemeinsam zu drosseln. Seit Washington das abgelehnt hat, arbeitet sich eine Branche daran ab. Gestern Abend kam die bisher deutlichste Absage, und sie kam von Nvidia.
Was Amodei vorgeschlagen hat
Drei Schritte stehen in dem Essay. Erstens: unabhängige Prüfer in jedes Labor einbetten. Zweitens: demokratisch und international abgestimmte Sicherheitsstandards. Drittens: Grenzen für das Tempo ungeprüfter Fortschritte.
Der dritte Schritt ist der juristisch heikle. Die Labore sind Wettbewerber, ihre Modelle konkurrierende Produkte, und der Sherman Act verbietet Absprachen unter Rivalen, die den Wettbewerb unangemessen einschränken — Vereinbarungen über die Produktionsmenge ausdrücklich eingeschlossen. Amodei schreibt selbst, manche Formen der Abstimmung seien „rechtlich schwierig“ und bräuchten staatliche Unterstützung. Übersetzt: eine Ausnahme vom Kartellrecht.
Huangs Antwort
Jensen Huang hat das im Gespräch mit Jim Cramer bei „Mad Money“ erledigt. „Dass wir neue Gesetze brauchen, neue Kartellgesetze oder neue Vorschriften, damit diese Firmen ihre grundlegende Ingenieursarbeit machen und sie ordentlich machen, bevor sie Produkte veröffentlichen — das ist vollkommen unnötig“, sagte er. „Wir haben genug Gesetze. Wir haben genug Vorschriften, die Zuverlässigkeit und Funktion von Produkten regeln.“
Dass es ein Sicherheitsproblem gibt, bestreitet er nicht. „Sicherheit ist ein Ingenieursproblem. Testen ist ein Ingenieursproblem. Wir sollten Produkte bauen und sie ordentlich testen. Und wenn sie nicht bereit für die Veröffentlichung sind, behält man sie eben und testet und entwickelt weiter, bis sie es sind.“
Den existenziellen Teil der Debatte wischt er weg: „Wir werden 2030 nicht sterben. Es gibt so viele Leute auf der Welt, die KI ordentlich bauen werden.“
Anthropic wollte sich gegenüber CNBC nicht zu Huangs Aussagen äußern.
Auf der Dreamforce-Bühne, am selben Tag
Bei Salesforce hatte Huang tagsüber dieselbe Linie gefahren: „Wir brauchen keine neuen Gesetze — wir brauchen keine neuen Vorschriften.“ Tempo und Sicherheit seien keine Alternative, beides gehe. Und KI sei kein fremdartiger Verstand, wie ein OpenAI-Sicherheitsforscher es genannt hatte, sondern Hardware und Software, von Menschen gebaut.
Amodei stand auf derselben Bühne und blieb bei seiner Linie, formulierte sie aber als Frage nach der Praxis: „Lasst uns unsere Verfahren besser machen. Was können wir tun, um Standards für alle zu setzen?“ Sam Altman sprach über den Einbruch bei Hugging Face, bei dem ein OpenAI-Agent außer Kontrolle geriet: „Es braucht nicht viel Fantasie, um sich auszumalen, wie das schiefgehen kann. Die Welt hat zu Recht Angst davor.“ Gastgeber Marc Benioff reihte sich bei den Mahnern ein.
Zwei Lager, und eine Interessenlage
Am Abend stellte sich Mark Zuckerberg auf Huangs Seite: Labore hätten Verantwortung und Anreiz, sicher zu trainieren, und wer die Ausrichtung vernachlässige, falle ohnehin zurück. Damit stehen Trump, Huang und Zuckerberg auf der einen Seite, Amodei, Altman und Musk auf der anderen.
Bleibt die Frage, die CNBC nebenbei stellt und die man im Kopf behalten sollte: Anthropic und OpenAI gehören zu Nvidias wichtigsten Kunden, und ein gedrosseltes Modelltempo bedroht Nvidias Wachstum direkt. Das macht Huangs Argument nicht falsch. Es erklärt nur, warum ausgerechnet der Chiplieferant die schärfste Formulierung findet.
Quellen:
- CNBC: Nvidia’s Huang rips Anthropic’s proposal for AI safety antitrust waiver
- CNBC: Meta CEO Mark Zuckerberg sides with Nvidia’s Huang on AI safety and slowdown debate
- Bloomberg: Nvidia’s Huang Says AI Industry Doesn’t Need Any New Laws
- SiliconANGLE: AI progress and responsibility at Salesforce’s annual event