OpenAI hat am Freitag eine Partnerschaft mit Hacktron bekannt gegeben. Die Sicherheitsfirma soll Schwachstellen in OpenAIs eigenen Systemen finden. Ingenieure beider Seiten wählen gemeinsam die Bereiche aus, die zuerst geprüft werden, und der Schwerpunkt liegt darauf, wie OpenAIs Systeme mit Diensten Dritter zusammenspielen. Dazu erweitert OpenAI den Zugang von Hacktron zu den eigenen Spitzenmodellen über Daybreak Red.
Der Name wird manchen bekannt vorkommen. Im Juli sind drei Leute von Hacktron in OpenAIs internes Code-Repository eingedrungen, und ihr Werkzeug war Claude Opus 5. Angefangen hatte es mit einem präparierten Bild im OpenAI-Forum. OpenAI schreibt jetzt, man habe Hacktron über das eigene Bug-Bounty-Programm kennengelernt und sei von der Wirkung der gemeldeten Schwachstellen beeindruckt gewesen.
Was Hacktron baut
Die Firma entwickelt KI-Agenten für Code-Review, Penetrationstests und Red Teaming. Ihre Funde betreffen laut OpenAI vor allem die Nahtstellen: wie Anwendungen, Cloud-Infrastruktur und Identitätssysteme ineinandergreifen. Genau dort liegt auch der Schwerpunkt der neuen Zusammenarbeit, und das passt zur Lage. Je mehr Agenten Dienste miteinander verbinden, desto mehr Angriffsfläche entsteht zwischen den Systemen statt in ihnen.
Zayne Zhang, Chef von Hacktron, sagt dazu: „Die Zukunft der Cybersicherheit wird nicht davon bestimmt, wer das größte Sicherheitsteam hat, sondern davon, wer menschliche Kreativität am besten mit KI-Fähigkeiten verbindet.“
Die dritte Sicherheitsmeldung in einer Woche
OpenAI hat am 2. November zwei Dinge angekündigt: Forscher von Cathedral arbeiten im nächsten Security Sprint mit, und die Bug-Bounty-Prämien steigen. Am 5. November kamen 948 Linux-Exploits für 1,2 Millionen Dollar dazu, am selben Tag GPT-6 Cyber mit der Einstufung „Critical“ im eigenen Preparedness Framework. Hacktron ist damit der vierte Baustein in sieben Tagen.
Die eigene Firma ist der schwierigste Kunde
Was hier passiert, ist für mich die interessanteste Entwicklung der Woche, und zwar nicht wegen der Partnerschaft. OpenAI hat gerade ein Modell vorgestellt, das Angriffe findet, und stellt im selben Atemzug eine externe Firma an, um die eigenen Systeme prüfen zu lassen. Beides zusammen heißt: Das eigene Werkzeug reicht nicht, um das eigene Haus zu sichern.
Das ist ein ehrliches Eingeständnis, und es gilt für jeden, der Agenten an Produktionssysteme hängt. Ein Modell, das Lücken findet, findet sie in dem Code, auf den man es ansetzt. Welchen Code man ansetzt, entscheidet jemand, der schon weiß, wo er suchen würde. Dafür hat OpenAI die Leute geholt, die es vorher selbst aufgemacht haben.