Am Donnerstag haben 25 Fields-Medaillisten eine Erklärung veröffentlicht. Nicht 25 Mathematiker, sondern 25 Träger der Fields-Medaille – Artur Avila, Pierre Deligne, Alessio Figalli, Maxim Kontsevich, Peter Scholze, Terence Tao, Maryna Viazovska, Cédric Villani und weitere. Terence Tao schreibt in seinem Blog, die Erklärung sei aus Gesprächen der letzten Woche entstanden. Für ein ordentliches Konsultationsverfahren, wie bei der Leidener Erklärung, habe die Zeit nicht gereicht. Man hielt die Lage für dringend genug.
Der Titel: „A Severe Misalignment of AI in Mathematics”. Das Wort Misalignment ist mit Bedacht gewählt. Es ist der Begriff, mit dem die KI-Labore selbst über ihre Modelle sprechen – und die Mathematiker geben ihn zurück.
Der Vorwurf
Die Erklärung bestreitet nicht, dass LLMs mittlerweile große offene Probleme lösen können. Sie stellt das an den Anfang. Der Einwand kommt danach: Berühmte Probleme waren immer Landmarken, an denen man ein besseres Verständnis der mathematischen Landschaft ablesen konnte. Wer eines löste, hatte fast zwangsläufig neue Ideen und Methoden entwickelt, und die wurden dann über Jahre in Vorträgen, Diskussionen und Vereinfachungen durchgearbeitet, bis am Ende eine Darstellung stand, die ein Studierender lesen kann.
Ein Beweis ist aus dieser Sicht kein Ergebnis, sondern ein Nebenprodukt. Das Ergebnis ist das Verständnis.
Wenn KI-Labore das Lösen von Problemen als Benchmark betreiben, dreht sich dieses Verhältnis um. Die Erklärung formuliert es scharf: Die Fließbandproduktion von Wahr-Falsch-Aussagen in immer höherem Takt könne fruchtbaren Boden zerstören, statt ihn zu beleben.
Dazu kommt die Art der Veröffentlichung. Lösungen würden im Eiltempo angekündigt, ohne saubere Ausarbeitung, ohne dass die neuen Methoden herausgelöst werden, ohne Verweis auf einschlägige Vorarbeiten anderer. Die Erklärung nennt das beim Namen: Das wirft Fragen nach Zuschreibung und Plagiat auf, so wie in allen kreativen Berufen.
Warum das über Mathematik hinausgeht
Der interessanteste Absatz ist der vorletzte. Dort verlassen die Unterzeichner ihr Fach. Jahre der Ausbildung dienten in vielen Berufen nie nur dazu, am Ende eine Antwort zu produzieren, sondern dazu, Verständnis aufzubauen und neue Fragen stellen zu können. KI-Systeme, die auf der Arbeit von Generationen aufbauen, liefern das Endprodukt inzwischen direkt – und damit fallen die beiden Ziele auseinander.
Die Frage, die daraus folgt, richtet sich ausdrücklich an alle: Wie stellen wir sicher, dass wir mit der veränderten Arbeitsweise nicht aus dem Blick verlieren, wozu diese Arbeit eigentlich da war?
Der Auslöser
Der Zeitpunkt ist kein Zufall. Vor einer Woche hat OpenAI einen Beweis für das Navier-Stokes-Problem verkündet, und seitdem läuft ein Streit darüber, ob der Beweis trägt und wessen Vorarbeit da eigentlich verwertet wurde. Die Erklärung nennt weder OpenAI noch einen konkreten Fall. Sie muss es auch nicht.
Weitere Unterschriften sind ausdrücklich erwünscht, per ORCID direkt auf der Seite.
Einordnung
Ich finde die Erklärung aus einem Grund bemerkenswert, der leicht untergeht: Sie argumentiert nicht mit Arbeitsplätzen und nicht mit Angst. Sie sagt, dass ein Werkzeug gegen seinen Zweck gerichtet werden kann, wenn man das Zwischenergebnis für das Ziel hält. Das ist ein Argument, das auch dann noch steht, wenn die Modelle in zwei Jahren doppelt so gut sind.
Und es ist eines, das sich übertragen lässt. Wer Code von einem Agenten schreiben lässt, kennt die Variante: Das Ding funktioniert, du hast dabei nichts verstanden, und beim nächsten Problem stehst du wieder am Anfang. Bei mir ist das der Punkt, an dem ich anfange, den Diff wirklich zu lesen. 25 Fields-Medaillisten sagen gerade dasselbe über ihr Fach, nur mit deutlich mehr Gewicht.
Quellen: Declaration – Math and AI, Terence Tao: A Severe Misalignment of AI in Mathematics, Techmeme-Übersicht zur Erklärung