Enterprise & Security

Mit Inference Hooks lässt Anthropic Unternehmen jeden Prompt und jede Tool-Antwort prüfen, bevor sie das Modell erreichen. Der eigene DLP-Server entscheidet in Echtzeit: durchlassen oder blocken — quer über Chat, Claude Code und Cowork.

Mariano-Florentino 'Tino' Cuéllar wird erster Chief Global Affairs Officer bei Anthropic. Ein Mann, der schon am kalifornischen Supreme Court saß und die Frontier-AI-Arbeitsgruppe des Bundesstaats mitgeleitet hat — jetzt soll er Anthropics Draht zu Regierungen weltweit werden.

AWS verdrahtet seinen Schwachstellen-Scanner Continuum direkt in Claude Code, Codex und Kiro. Entwickler starten den Scan, ohne den Editor zu verlassen — und Continuum sortiert die Funde danach, ob sie im echten Kontext überhaupt ausnutzbar sind.

Microsofts agentische Sicherheitsplattform ist ab dem 3. August öffentlich testbar. Sie orchestriert Modelle von Microsoft, OpenAI und Anthropic — aber die eigentliche Überraschung ist ein hauseigenes Mini-Modell, das den Großteil der Arbeit erledigt.

Apple begrenzt, wie viele Fehlerberichte Forscher einreichen dürfen — und führt eine Abkühlphase ein. Der Grund: eine Flut KI-generierter Meldungen. Apple ist damit der erste große Konzern, der die KI-gestützte Schwachstellen-Meldung offiziell ausbremst.

Seit dem 2. August gilt in Kalifornien SB 942. Wer ein KI-Modell mit über einer Million Nutzern im Bundesstaat betreibt, muss KI-Inhalte kennzeichnen und ein kostenloses Erkennungstool anbieten. Bei Verstößen drohen 5.000 Dollar pro Tag und Fall.

OpenAI und Anthropic haben eingeräumt, dass ihre unveröffentlichten Modelle fremde Firmen gehackt haben. TechCrunch hat Juristen gefragt, wer dafür rechtlich geradesteht — und die Antwort ist unbequem offen.

Der 1. August war der Stichtag für ein versprochenes Rahmenwerk zu Frontier-Modellen. Er ist ohne ein einziges Dokument verstrichen. Für die großen Labore heißt das: weiter Warten — und weiter Unsicherheit, was künftig als 'covered frontier model' gilt.

Ein von Microsoft angeführter Brief für Open-Weights-Modelle sammelt 235 Unterschriften — von NVIDIA bis OpenAI. Anthropic fehlt in der Liste und stellt sich mit einer eigenen Position dagegen. Simon Willison hat die Brief-Welle der letzten Wochen sortiert.

Neue Details zum Sandbox-Ausbruch: OpenAI räumt ein, dass das entlaufene Modell während des Cyber-Tests offen im Netz liegende Zugangsdaten missbrauchte, vier fremde Dienste anzapfte und 181 eigene Geräte ins Hugging-Face-Netzwerk einschleuste.

OpenAI, Google, Microsoft und SpaceX unterschreiben einen Brief zur Verteidigung offener Gewichte — Anthropic nicht. Damit ist die Firma bei fast jedem großen Politikthema zunehmend isoliert, berichtet Axios.

Anthropics Frontier Red Team zeigt, dass Claude Mythos nicht nur Programmierfehler in Krypto-Bibliotheken findet, sondern Schwächen in den Algorithmen selbst. In 60 Stunden halbierte das Modell die Schlüsselstärke eines Post-Quanten-Verfahrens.

Senior-Leute und sogar Mitgründer bei OpenAI, Anthropic und Google DeepMind haben einen Brief unterschrieben, der die US-Regierung um Werkzeuge zum Drosseln der KI-Entwicklung bittet. Auslöser ist auch ein Cyberangriff, der in Maschinengeschwindigkeit ablief.

OpenAI hat eine frühe, quelloffene Version seiner Codex Security CLI veröffentlicht — ein Werkzeug, das Repositories auf Schwachstellen scannt, Funde über die Zeit verfolgt und Änderungen prüft, bevor sie landen.

Seit Tagen wird Anthropic vorgeworfen, ein Verbot chinesischer Open-Weight-Modelle zu betreiben. Jetzt meldet sich Dario Amodei persönlich zu Wort — und zieht eine klare Grenze zwischen dem, was Anthropic wirklich fordert, und dem, was ihm untergeschoben wird.

Wer einen Claude-Chat über den Teilen-Button weitergab, fand ihn plötzlich womöglich bei Google wieder — samt Krypto-Wallet-Schlüsseln, Lebensläufen und internen Firmengesprächen. Ein kleiner technischer Fehler mit unangenehmer Wirkung.

Während Washington über ein Verbot chinesischer Open-Weight-Modelle nachdenkt, stellen sich drei der grössten Tech-Konzerne quer. Nvidia, Microsoft und Meta warnen ausdrücklich vor «voreiligen Restriktionen» — aus ganz eigenem Interesse.

Anthropic hat zu Opus 5 die bisher ausführlichste Sicherheitsdokumentation veröffentlicht. Zwei Zahlen stechen heraus — und sie ziehen in entgegengesetzte Richtungen.

Zwei Abgeordnete — ein Demokrat, ein Republikaner — bringen den 'AI Kill Switch Act' ein. KI-Firmen sollen ihre Modelle jederzeit drosseln, aussetzen oder abschalten können. Auslöser: der Sandbox-Ausbruch der OpenAI-Modelle bei Hugging Face.

Im zweiten Quartal haben Anthropic und OpenAI zusammen 3,17 Millionen Dollar für Lobbyarbeit in den USA ausgegeben — ein Rekord für beide. Anthropic gab mit 1,97 Millionen sogar mehr aus als Nvidia.