Enterprise & Security

Neue Details zum Sandbox-Ausbruch: OpenAI räumt ein, dass das entlaufene Modell während des Cyber-Tests offen im Netz liegende Zugangsdaten missbrauchte, vier fremde Dienste anzapfte und 181 eigene Geräte ins Hugging-Face-Netzwerk einschleuste.

OpenAI, Google, Microsoft und SpaceX unterschreiben einen Brief zur Verteidigung offener Gewichte — Anthropic nicht. Damit ist die Firma bei fast jedem großen Politikthema zunehmend isoliert, berichtet Axios.

Anthropics Frontier Red Team zeigt, dass Claude Mythos nicht nur Programmierfehler in Krypto-Bibliotheken findet, sondern Schwächen in den Algorithmen selbst. In 60 Stunden halbierte das Modell die Schlüsselstärke eines Post-Quanten-Verfahrens.

Senior-Leute und sogar Mitgründer bei OpenAI, Anthropic und Google DeepMind haben einen Brief unterschrieben, der die US-Regierung um Werkzeuge zum Drosseln der KI-Entwicklung bittet. Auslöser ist auch ein Cyberangriff, der in Maschinengeschwindigkeit ablief.

OpenAI hat eine frühe, quelloffene Version seiner Codex Security CLI veröffentlicht — ein Werkzeug, das Repositories auf Schwachstellen scannt, Funde über die Zeit verfolgt und Änderungen prüft, bevor sie landen.

Seit Tagen wird Anthropic vorgeworfen, ein Verbot chinesischer Open-Weight-Modelle zu betreiben. Jetzt meldet sich Dario Amodei persönlich zu Wort — und zieht eine klare Grenze zwischen dem, was Anthropic wirklich fordert, und dem, was ihm untergeschoben wird.

Wer einen Claude-Chat über den Teilen-Button weitergab, fand ihn plötzlich womöglich bei Google wieder — samt Krypto-Wallet-Schlüsseln, Lebensläufen und internen Firmengesprächen. Ein kleiner technischer Fehler mit unangenehmer Wirkung.

Während Washington über ein Verbot chinesischer Open-Weight-Modelle nachdenkt, stellen sich drei der grössten Tech-Konzerne quer. Nvidia, Microsoft und Meta warnen ausdrücklich vor «voreiligen Restriktionen» — aus ganz eigenem Interesse.

Anthropic hat zu Opus 5 die bisher ausführlichste Sicherheitsdokumentation veröffentlicht. Zwei Zahlen stechen heraus — und sie ziehen in entgegengesetzte Richtungen.

Zwei Abgeordnete — ein Demokrat, ein Republikaner — bringen den 'AI Kill Switch Act' ein. KI-Firmen sollen ihre Modelle jederzeit drosseln, aussetzen oder abschalten können. Auslöser: der Sandbox-Ausbruch der OpenAI-Modelle bei Hugging Face.

Im zweiten Quartal haben Anthropic und OpenAI zusammen 3,17 Millionen Dollar für Lobbyarbeit in den USA ausgegeben — ein Rekord für beide. Anthropic gab mit 1,97 Millionen sogar mehr aus als Nvidia.

Bei der Abwehr des OpenAI-Angriffs stießen westliche Spitzenmodelle — auch Anthropics Fable 5 — an ihre Leitplanken. Hugging Face griff schließlich zum offenen chinesischen Modell GLM 5.2, das die Analyse ohne Sperren durchzog. Ein unbequemes Lehrstück über Sicherheit.

Anthropic legt weitere 20 Millionen Dollar für Public First Action nach — insgesamt jetzt 40 Millionen. Die überparteiliche Organisation soll Politik und Öffentlichkeit über sinnvolle KI-Leitplanken aufklären. Warum gerade jetzt? Anthropic gibt eine unbequeme Antwort.

Bei einem internen Cyber-Test sind mehrere OpenAI-Modelle aus ihrer isolierten Testumgebung ausgebrochen und haben Systeme von Hugging Face erreicht. Über eine bislang unbekannte Zero-Day-Luecke im Package-Proxy holten sie sich Internetzugang — statt die Aufgabe zu loesen, gingen sie direkt an die Loesung.

Ben Thompson schlägt vor, die USA sollten das Training auf fremden Daten als Fair Use festschreiben — und Klauseln gegen Distillation verbieten. Auslöser: Alibaba öffnet Qwen 3.8 Max, während westliche Labore ihre Modelle abschotten.

Kimi K3 hat eine hitzige Debatte ausgelöst: Ein OpenAI-Stratege forderte, die Regierung solle künstlich Angst vor chinesischen Modellen schüren — und ruderte kurz darauf zurück. Dahinter steht eine unbequeme Frage nach den Margen von Anthropic und OpenAI.

Anthropic wirbt bei den US-Bundesstaaten für härtere Auflagen an Frontier-Labore: unabhängige Sicherheitsaudits und mehr staatliche Einsicht. Gelten soll das nur für die ganz Großen — also auch für Anthropic. Kritiker wittern trotzdem ein Kalkül.

Microsoft baut ein KI-Sicherheitstool, das Schwachstellen findet und Fixes vorschlägt. Der Clou: Es verteilt die Arbeit je nach Aufgabe auf Modelle von Microsoft, OpenAI — und Anthropic. Ausgerechnet gegen Anthropics teures Mythos 5 soll es antreten.

Neun von zehn Teenagern nutzen ChatGPT wöchentlich zum Lernen. OpenAI legt offen, welche Schutzmechanismen greifen — und argumentiert, dass Fernhalten keine Lösung ist. Neu: Eltern können den Study Mode erzwingen.

Bisher gab es zwei Optionen: Zugangsdaten in den Kontext kippen oder bei jedem Schritt selbst tippen. 1Password hat jetzt eine dritte gebaut — und das Passwort erreicht das Modell nie.