Am 22. Mai hielt Jack Clark, Mitgruender von Anthropic und Leiter des neuen Anthropic Institute, die zweite Cosmos Lecture an der Universitaet Oxford. Was er dort sagte, war nicht gerade beruhigend: KI habe eine ‘nicht-null’-Wahrscheinlichkeit, alle Menschen auf dem Planeten zu toeten. Bis 2028, vielleicht frueher, koennten KI-Systeme zur rekursiven Selbstverbesserung faehig sein — ein Punkt, nach dem Vorhersagen schwierig werden.
Die zwei Gesichter von Anthropic
Time Magazine hat die Woche in London und Oxford zum Anlass genommen, ein Portraet ueber Anthropic zu veroeffentlichen. Der Titel: ‘A Tale of Two Anthropics’. Denn waehrend Clark in Oxford vor existenziellen Risiken warnte, feierte Anthropic wenige Tage zuvor in London das Code-with-Claude-Event — mit Hunderten von Entwicklern, die begeistert die neuesten Claude-Code-Features ausprobierten.
Diese Spannung ist kein Zufall. Anthropic verdient Geld mit einem Produkt, von dem seine eigenen Gruender sagen, dass es die Menschheit gefaehrden koennte. Clark macht kein Geheimnis daraus. In seiner Rede verglich er die Situation mit der fruehen Atomforschung: Man koenne die Risiken anerkennen und trotzdem daran arbeiten, die Technologie sicher zu machen.
Was Clark konkret sagte
Neben der existenziellen Warnung machte Clark auch optimistischere Vorhersagen: KI werde innerhalb von zwoelf Monaten helfen, einen Nobelpreis zu gewinnen. Er prognostizierte bipede Handelsroboter, KI-gefuehrte Unternehmen und massive gesellschaftliche Veraenderungen.
Zum Thema Mythos — Anthropics staerkstes Modell, das gerade ueber 10.000 Sicherheitsluecken gefunden hat — sagte Clark, dass man es bewusst nicht veroeffentlicht habe, eben weil die Risiken zu gross seien. Stattdessen habe man es in kontrollierter Umgebung an rund 50 Partner gegeben.
Einordnung
Die Dualitaet von Anthropic ist faszinierend und ehrlich. Kein anderes KI-Unternehmen spricht so offen ueber die Risiken seiner eigenen Technologie — und verkauft sie gleichzeitig so erfolgreich. Ob das auf Dauer funktioniert, haengt davon ab, ob Anthropic den Spagat zwischen Wachstum und Verantwortung tatsaechlich hinbekommt. Clarks Oxford-Rede zeigt zumindest, dass das Unternehmen die Spannung nicht ignoriert, sondern aktiv adressiert. Ob das reicht, ist eine andere Frage.
Quellen: