Auf dem Fortune CEO Forum in London hat Pip White, bei Anthropic zuständig für Großbritannien, Irland, Nordeuropa und Israel, Dario Amodeis Aufruf aufgegriffen. „Das Tempo dieser Technologie zu verlangsamen ist wichtig, aber es muss über Regierungen hinweg geschehen, und wir brauchen Durchsetzung über Ländergrenzen, damit es funktioniert”, sagte sie. Und: „Die meisten in unserer Branche sehen die Risiken und sind besorgt.”
Amodei hatte in sozialen Medien dafür geworben, die Entwicklung an der Grenze des Machbaren zu drosseln, und dabei zugesagt, Anthropic werde externen Prüfern einseitig Zugang zu Modellen, Training und Prozessen geben. Sam Altman, Elon Musk und Demis Hassabis haben sich dem angeschlossen. Altman und Amodei haben am 23. September den UN-Sicherheitsrat unterrichtet.
Microsoft hat auf die Debatte mit einem Verhaltenskodex geantwortet, der ins Training der eigenen Modelle einfließen soll. KI bleibe dem Menschen „untergeordnet und immer in seinem Dienst”. Samer Abu-Ltaif, Präsident von Microsoft für Europa, Nahost und Afrika, in London: „Künstliche Intelligenz muss ein Gerüst für die Ambitionen von Menschen sein.” Regulierung sei Voraussetzung dafür, verantwortlich weiter zu entwickeln. Er warnte allerdings vor Flickenteppichen, wenn jedes Land eigene Standards setzt, „manchmal von Angst getrieben statt von Chancen”.
Die europäische Politik hält Abstand
Frankreichs Finanzminister Roland Lescure sagte Reuters, er erkenne deutlich das Eigeninteresse darin, alle anderen zum Bremsen aufzufordern, während die führenden Unternehmen ihren Vorsprung behalten. Das Bundesdigitalministerium hält einen Entwicklungsstopp für Europa nicht für machbar. Und Mistral wirft den amerikanischen Anbietern vor, die gegenwärtige Angst zu nutzen, um ihre Marktposition zu festigen und Regeln durchzusetzen, unter denen kleinere Wettbewerber leiden.
Daniel Hulme, oberster KI-Verantwortlicher bei WPP, glaubt ohnehin nicht an eine Einigung: „Ich glaube nicht, dass es eine KI-Verlangsamung geben wird.” Sein Vorschlag geht in eine andere Richtung — Modelle vor der Freigabe von unabhängigen Stellen prüfen lassen, ähnlich wie klinische Studien in der Pharmaindustrie. Für den Einsatz hat er eine Faustregel: „Würdest du für diese Aufgabe einen betrunkenen Hochschulabsolventen einstellen? Wenn nicht, solltest du dafür wahrscheinlich keine KI benutzen.”
Der Antrieb der Debatte liegt in dieser Woche
Die Angst hat einen konkreten Anlass. Jacob Coxon, früher bei Anthropic und OpenAI, hat gesagt, keines der beiden Unternehmen handle verantwortlich und viele Entwickler glaubten ernsthaft, die Technologie könne uns alle bis zum Ende des Jahrzehnts umbringen. Dazu kam der OpenAI-Agent im australischen Medicare-Portal, drei Monate unbemerkt.
Die Bremse wird gefordert, während beide Häuser billiger werden
Der auffälligste Satz im Fortune-Bericht ist eine Randbemerkung: Anthropic und OpenAI haben in derselben Woche günstigere Fassungen ihrer Spitzenmodelle veröffentlicht, in der sie zum Langsamerwerden aufgerufen haben. Das muss kein Widerspruch sein — Amodei redet über Trainingsläufe an der Grenze, nicht über Preise. Aber es erklärt, warum Lescure und Mistral misstrauisch sind. Ein Bremsruf, dessen Urheber gleichzeitig den Preis senkt, klingt für Wettbewerber erst mal wie eine Aufforderung, das Tempo abzugeben.
Quellen: