OpenAI hat gestern ein neues Sicherheitsfeature für ChatGPT vorgestellt, das in der Branche seinesgleichen sucht: Trusted Contact. Nutzer können eine Vertrauensperson benennen, die benachrichtigt wird, wenn automatisierte Systeme und geschulte Prüfer erkennen, dass der Nutzer möglicherweise über Selbstverletzung spricht.
Wie es funktioniert
Du kannst in den ChatGPT-Einstellungen eine erwachsene Person als Trusted Contact hinzufügen. Diese Person bekommt eine Einladung, die sie innerhalb einer Woche annehmen muss.
Wenn ChatGPTs automatische Überwachungssysteme eine mögliche Selbstgefährdung erkennen, passiert Folgendes: ChatGPT informiert den Nutzer, dass es den Trusted Contact benachrichtigen könnte, und schlägt Gesprächseinstiege vor. Ein speziell geschultes Team prüft die Situation. Wenn die Prüfer zu dem Schluss kommen, dass ein ernsthaftes Sicherheitsproblem vorliegen könnte, wird der Trusted Contact per E-Mail, SMS oder In-App-Benachrichtigung informiert.
Die zweischneidige Klinge
Das Feature ist freiwillig — niemand wird automatisch überwacht. Aber es wirft trotzdem wichtige Fragen auf.
Einerseits: KI-Chatbots sind für viele Menschen inzwischen ein Gesprächspartner, an den sie sich in schwierigen Momenten wenden. Ein Sicherheitsnetz zu haben ist grundsätzlich sinnvoll.
Andererseits: Ein KI-System, das Gespräche auf Selbstgefährdung analysiert und Dritte informiert, bewegt sich auf sensiblem Terrain. Wo verläuft die Grenze zwischen Fürsorge und Überwachung?
Was OpenAI verspricht
Laut OpenAI erhält der Trusted Contact nur eine kurze Benachrichtigung — keine Gesprächsinhalte, keine Details. Die Funktion soll ein zusätzliches Sicherheitsnetz sein, kein Überwachungstool.
Einordnung
Nach dem FSU-Shooting-Fall und der laufenden strafrechtlichen Ermittlung in Florida steht OpenAI unter massivem Druck, mehr für die Nutzersicherheit zu tun. Trusted Contact ist eine Antwort darauf — nicht perfekt, aber ein erster Schritt in eine Richtung, die andere KI-Unternehmen ebenfalls einschlagen werden müssen.
Quellen: OpenAI: Introducing Trusted Contact in ChatGPT, TechCrunch: OpenAI introduces new ‘Trusted Contact’ safeguard