KI hilft beim Finden von Sicherheitslücken — theoretisch. In der Praxis produziert sie gerade so viele Berichte, dass die Empfänger nicht mehr hinterherkommen. Apple hat jetzt reagiert und die Notbremse gezogen.
Was Apple ändert
Laut Financial Times führt Apple im Feedback Assistant eine Obergrenze für eingereichte Fehlerberichte ein, dazu eine 30-tägige Abkühlphase. Der Grund sei die überwältigende Menge KI-generierter Einreichungen. Wer mehr einreichen will, kann ein höheres Kontingent beantragen.
Apple ist damit nicht allein — nur prominent. Ähnliche Bremsen gab es zuvor schon beim curl-Projekt, beim Internet Bug Bounty und in anderen Open-Source-Projekten. Neu ist, dass zum ersten Mal ein Großkonzern die KI-gestützte Schwachstellen-Meldung formal begrenzt.
Das eigentliche Problem
Die Idee klingt gut: Ein KI-Modell scannt Code, findet einen Bug, schreibt einen Report. Das Problem ist die Trefferquote. Viele dieser automatisch erzeugten Meldungen sind plausibel formuliert, aber inhaltlich falsch — halluzinierte Lücken in schönem Fachjargon. Für die Teams, die jede Meldung prüfen müssen, ist das Gift. Echte Berichte gehen im Rauschen unter, die knappe Zeit von Sicherheitsleuten verpufft.
Meine Einordnung
Das ist eine dieser unbeabsichtigten Nebenwirkungen, die zeigen, wie schnell sich KI in etablierte Abläufe drängt. Schwachstellen-Meldung lebt von Vertrauen und Signalqualität — und beides erodiert, wenn jeder mit ein paar Klicks tausend halbgare Reports absetzen kann. Die Antwort von Apple ist nachvollziehbar, aber sie kuriert das Symptom, nicht die Ursache. Spannender wäre der umgekehrte Weg: KI, die einreichende Berichte vorab prüft und filtert, statt sie nur zu produzieren. Die gleiche Technik, die das Problem schafft, könnte es auch lösen. Bis dahin gilt: Ein Werkzeug ist nur so nützlich wie die Disziplin, mit der man es einsetzt.
Quellen: