Microsoft hat einen vorläufigen Verhaltenskodex für seine eigenen KI-Modelle veröffentlicht, 37 Seiten. Er kommt vier Tage nachdem Anthropic und OpenAI sich darauf verständigt haben, das Entwicklungstempo zu drosseln.
Was die Modelle nicht dürfen
Die harte Liste zuerst: Keine Auskunft zum Waffenbau, keine Hilfe bei der Beschaffung gefährlicher Substanzen, keine Ermutigung zu ungesundem Essverhalten, keine gewalthaltigen oder sexuell expliziten Inhalte.
Spannender ist der zweite Teil. Die MAI-Modelle sollen sich an die Ziele der Nutzer halten und keine eigenen entwickeln. Fehlverhalten sollen sie nicht vertuschen. Und wörtlich aus dem Dokument: „MAI-Modelle werden Gedankenketten oder Code nicht manipulieren und ihre Denk- oder Handlungsspuren nicht falsch darstellen oder verbergen. Sie kommunizieren nicht in ‚Neuralese‘ oder in einer Form jenseits einfachen menschlichen Verständnisses, weder in ihren Gedankenketten noch mit anderen Agenten oder KI-Systemen.“
Der letzte Satz hat einen konkreten Anlass. Bei der Untersuchung des Angriffs auf Hugging Face fand OpenAI heraus, dass die beteiligten Agenten sich in einem nicht genehmigten Forum in kryptischer Sprache unterhalten hatten. Microsoft plant Regeln, die so etwas verhindern sollen.
Warum jetzt
Suleyman sagt, an den Leitlinien arbeite man seit etwa fünf Monaten. Veröffentlicht wurden sie jetzt wegen der aktuellen Debatte. Aus den Rückmeldungen, die Microsoft eingeholt hat, nennt er zwei Punkte: Leute wollten ein deutlicheres Bekenntnis, dass KI den Menschen dient und ihn nicht ersetzt. Und sie wollten, dass KI keine Abhängigkeit erzeugt und nicht schmeichelt, sondern menschliches Urteil und Eigenständigkeit stärkt.
Zusammengestellt hat Microsoft das Papier mit Fokusgruppen und Fachleuten aus Recht, Ethik, Linguistik und Philosophie. Jetzt sammelt die Firma Kommentare, dann kommt eine aktualisierte Fassung – und die soll die Entwicklung ab 2027 leiten.
Suleyman zu den eingebetteten Prüfern
Zu Amodeis Vorschlag äußert sich Suleyman zustimmend, aber mit Bedingung: „Selbstdrosselung ist eine gute Sache, und wir unterstützen Ideen wie eingebettete Prüfer, solange sie wirklich von dritter Seite kommen und ein breites Spektrum an Hintergründen und Perspektiven abbilden.“ Er verweist darauf, dass er mit Dario, Sam und Demis Hassabis seit 2016, 2017, 2018 über Koordination gesprochen habe – und dieser Moment sei jetzt gekommen. Satya Nadella hat am Sonntag auf X ergänzt, man begrüße „die Forschung, den Fokus und die bewusste Taktung, die es braucht, um Alignment richtig hinzubekommen“.
Microsoft schreibt Regeln für Modelle, die es kaum selbst baut
Der Kodex gilt für MAI, Microsofts eigene Modelle für Transkription, Coding und Reasoning. In Copilot für Firmenkunden stecken aber Modelle von Anthropic und OpenAI – und die führen laut Artificial Analysis’ Intelligence Index das Feld an.
Damit bindet sich Microsoft bei Modellen die Hände, die im Zweifel nicht die kritischen sind. Als Vorlage taugt das Papier trotzdem, und genau darum geht es wohl auch: Wer den größten Cloud-Vertrieb der Branche hat, kann eine Liste von Verboten auch als Einkaufsbedingung lesen. Der Punkt mit dem Verbergen von Denkspuren wäre für ein zugekauftes Modell eine ziemlich handfeste Anforderung.
Quellen: