OpenAI hat am Donnerstag die Model Spec überarbeitet, also die öffentliche Beschreibung des Verhaltens, das die eigenen Modelle zeigen sollen. Die Fassung ist um fünf Werte herum neu geordnet: Treue zur menschlichen Absicht, Schadensminimierung, Ehrlichkeit und Transparenz, menschliche Handlungsfähigkeit und Fürsorge.
Die Begründung ist das Interessantere. Modelle handeln zunehmend in Situationen, die ihre Anweisungen nicht abdecken, schreibt OpenAI. Wer dann nur Anweisungen auslegt, hat zu wenig; es braucht ein Verständnis der Absicht dahinter. Dieselbe Diagnose, mit der Anthropic seine Verfassung begründet, nur anders sortiert.
Treue heißt nicht Gehorsam
Der erste Wert trägt die anderen vier. OpenAI schreibt die Spec und setzt die Grenzen, Entwickler steuern ihre Anwendungen darin, Nutzer steuern die Arbeit des Modells innerhalb dieser Grenzen. Treue zur Absicht soll dabei mehr sein als wörtliches Befolgen: Das Modell soll verstehen, was jemand wirklich will, und soll damit rechnen, dass sich Überzeugungen ändern – ohne jemanden heimlich in eine Richtung zu schieben.
Das Beispiel im Text ist alltäglich. Wer zwei Jobangebote vergleicht, bekommt eine Antwort, die früher genannte Prioritäten aufgreift, etwa verlässliche Arbeitszeiten – und die diese Annahme sichtbar macht, damit man sie korrigieren kann. Ein neuer Abschnitt „consider context carefully“ regelt, wie Gespräche, Erinnerungen und anderer Kontext in dieses Verständnis einfließen. Dazu kommen Vorgaben zur Handlungsfähigkeit, zu sozialen Normen und zu Nebenwirkungen, die das Modell kontrollieren und benennen soll.
Der Stil wird freigegeben, die Objektivität nicht
Die handfesteste Änderung ist eine Streichung. Der größte Teil der detaillierten Stilvorgaben fällt weg. Stil solle sich an Vorlieben anpassen, so OpenAI – insgesamt, je Sprache und Kultur, und je Person, belegt über Rückmeldungen und Kontext.
Zwei Grenzen bleiben. Fragen sollen weiterhin sachlich angegangen werden, und eine bestimmte Perspektive nimmt das Modell nur ein, wenn Nutzer oder Entwickler sie verlangen. Es darf diese Vorliebe nicht daraus ableiten, was es für die gewünschte Antwort hält. Das ist die Zeile gegen Schmeichelei, und sie steht nicht zufällig neben der Stil-Freigabe.
Kleine Umbenennung mit Signalwirkung: In der Spec heißt das Modell nicht mehr „the assistant“, sondern „GPT“. Begründet wird das mit der Bandbreite der Einsatzfelder. Ein Assistent sitzt neben dir, ein GPT läuft irgendwo.
Eine Spezifikation ist ein Versprechen, keine Beschreibung
Der ehrlichste Satz steht ganz am Ende: Die Model Spec beschreibe das Verhalten, auf das man hinarbeite – die Modelle setzten es noch nicht vollständig um. Parallel arbeitet OpenAI an Trainingsverfahren, die diese Werte lehren sollen, statt nur Regeln einzuüben; Ergebnisse sollen folgen.
Damit ist der Text die Beschreibung einer Absicht. Das macht ihn nicht wertlos, im Gegenteil: Es gibt endlich etwas, woran man das nächste Modell messen kann, und zwar mit den Worten des Herstellers. Interessant wird es, wenn ein Modell die Spec verletzt und OpenAI entscheiden muss, ob es das Modell korrigiert oder die Spec.