Der Vatikan hat sich zu Wort gemeldet - und zwar deutlicher als erwartet. Papst Leo XIV hat heute seine erste Enzyklika veroeffentlicht, ein Dokument mit dem Titel ‘Magnifica Humanitas’. Das Thema: Kuenstliche Intelligenz und was sie mit uns macht.
Was der Papst fordert
Leo draengt Regierungen weltweit, die Entwicklung von KI-Systemen zu verlangsamen und strenger zu regulieren. Seine Begruendung: KI verbreite Desinformation, priorisiere Konflikte und riskiere, die Welt in einen Kreislauf endloser Kriege zu fuehren.
Besonders deutlich wird er bei autonomen Waffen. Einige dieser Systeme seien bereits ‘praktisch jenseits menschlicher Kontrolle’, warnte der erste US-amerikanische Papst bei einer Veranstaltung im Vatikan. Damit bricht Leo auch mit einer alten kirchlichen Tradition: In seiner Enzyklika stellt er die Theorie des ‘gerechten Krieges’ so klar in Frage wie kein Papst vor ihm seit dem fuenften Jahrhundert.
Anthropic sitzt mit am Tisch
Was die Sache fuer clauding.de-Leser besonders interessant macht: Chris Olah, Mitgruender von Anthropic, war bei der Veranstaltung im Vatikan dabei. Und er hat sich nicht nur hoeflich bedankt, sondern erstaunlich offen gesprochen.
Olah sagte, dass jedes fuehrende KI-Labor - einschliesslich Anthropic - innerhalb eines Systems von Anreizen und Zwängen operiere, die manchmal im Konflikt mit dem Richtigen stuenden. Er bedankte sich bei Leo dafuer, dass er die Probleme der Technologie adressiere, und betonte, dass Unternehmen wie seines externe Kontrolle braeuchten.
Das ist bemerkenswert. Ein Mitgruender eines der groessten KI-Unternehmen der Welt sagt oeffentlich im Vatikan, dass sein eigenes Unternehmen manchmal den falschen Anreizen folgen koennte. Das passt zu Anthropics DNA - die Firma wurde schliesslich von Leuten gegruendet, die sich genau ueber solche Fragen Sorgen machen.
Warum das wichtig ist
Man kann zur Kirche stehen, wie man will. Aber wenn der Papst eine Enzyklika schreibt - ein Dokument, das fuer 1,4 Milliarden Katholiken weltweit Gewicht hat - dann bewegt das etwas. Und Leo trifft einen Nerv: Die Debatte ueber autonome Waffen ist laengst keine akademische Uebung mehr. Die USA setzen KI im Iran-Konflikt ein, China baut an autonomen Drohnen, und die Frage, wer am Ende den Abzug drueckt, wird von Monat zu Monat dringlicher.
Dass ausgerechnet ein Anthropic-Gruender bei der Vorstellung dabei war und die Kritik nicht nur akzeptiert, sondern verstaerkt hat, zeigt: Die Branche weiss, dass sie ein Problem hat. Die Frage ist, ob sie es schnell genug loest.
Quellen: