OpenAI hat am Donnerstag zwei Dinge angekündigt: einen regelmäßigen Bericht über Gewaltprävention und engere Grenzen für Waffeninhalte bei Minderjährigen. Der Community Safety Report soll Anfang 2027 erstmals erscheinen, die zweite Jahreshälfte 2026 abdecken und danach halbjährlich fortgeschrieben werden.
Dabei fällt eine Zahl, die vorher nirgends stand: Im dritten Quartal 2026 hat OpenAI über 200 Meldungen an Strafverfolgungsbehörden abgegeben.
Was sich für alle Nutzer ändert
ChatGPT soll zu vergangenen Attentaten und den Tätern weniger ins Detail gehen, selbst wenn dieselben Angaben anderswo online stehen. Drei Dinge sind ausdrücklich eingeschränkt: wie ein Anschlag ablief, welche Waffen und Ausrüstung dabei benutzt und woher sie beschafft wurden, und Vergleiche, die einen Täter nach Opferzahlen einordnen und damit bekannter machen. Fragen nach Hintergründen, nach den Folgen für Betroffene und nach Warnsignalen bleiben erlaubt. Diese Grenze gilt für jeden. Alter und Begründung ändern nichts.
Der Chat, der von selbst aufhört
Der technisch interessanteste Teil steckt im Abschnitt über Warnsignale. Zeigt eine Unterhaltung, dass jemand sich auf Gewalt oder darauf fixiert, einem anderen Menschen schwer zu schaden, soll ChatGPT das Gespräch künftig selbst beenden, um das Muster im Moment zu unterbrechen. Passiert das mehrfach, kann OpenAI das Konto vorübergehend sperren. Und wenn frühere Chats Warnsignale enthielten, antwortet das Modell in späteren Unterhaltungen zurückhaltender – auf Basis kurzer, faktischer Zusammenfassungen, die OpenAI seit Mai einsetzt.
Dieselben strengeren Grenzen sollen greifen, wenn das System jemanden für minderjährig hält, auch ohne Hinweis auf eine Gewaltabsicht.
Jugendschutz: von Verbot auf Vorfeld
Bisher galt: keine Hilfe bei der Planung von Gewalt, keine Hilfe beim Beschaffen von Waffen. Neu ist die Vorfeldstufe. Praktische Informationen über Waffen und über Sicherheitssysteme sind für Minderjährige künftig gesperrt, auch wenn die Frage harmlos aussieht und nichts auf eine Absicht hindeutet. Gewaltprävention, Deeskalation und die Suche nach Hilfe bleiben möglich.
Dazu kommt die Altersschätzung, die OpenAI im letzten Jahr eingeführt hat: Sie liest laufend Verhaltenssignale mit und verschiebt Konten in die Unter-18-Erfahrung. Wer falsch einsortiert wird, kann sich über den Partner Persona als erwachsen verifizieren. Die Elternkontrolle bekommt eine weitere Benachrichtigung – künftig auch dann, wenn ein Teenager-Konto wegen wiederholter Gewaltthemen pausiert wird.
Ein Modell, das Gespräche abbricht, ist ein neues Verhalten
Inhaltsgrenzen sind bekannt, Kontosperren auch. Ein Modell, das eine laufende Unterhaltung von sich aus schließt, ist etwas anderes: Es greift nicht in die Antwort ein, sondern in die Sitzung. Für Entwickler, die ChatGPT-Verhalten als Referenz lesen, ist das die Stelle, die man sich merken sollte – und die Frage, die OpenAI selbst offen lässt, ist die nach Fehlalarmen. Im Text steht nur, man arbeite daran, Warnsignale zuverlässig zu erkennen.