Modelle & Forschung

Gemini Decisions API: Googles neues Modell antwortet nur mit Ja, Nein oder einer Note

2 Min. Lesezeit KI-generiert

Bis zu 1.000 Fragen auf einen Datensatz, 150 bis 250 Millisekunden, 10 Cent pro Million Eingabe-Token. Für die Ausgabe zahlst du nichts, weil es keine Ausgabe-Token gibt.

Featured image for "Gemini Decisions API: Googles neues Modell antwortet nur mit Ja, Nein oder einer Note"

Google hat am Mittwoch die Gemini Decisions API gestartet, dahinter steckt ein neues Modell namens Gemini Decision 1 (gemini-decision-1). Es läuft über die Gemini API im AI Studio und kann genau drei Dinge: Ja-Nein-Fragen beantworten, aus einer vorgegebenen Liste auswählen und etwas auf einer Skala bewerten, die du selbst definierst.

Das klingt nach weniger, als ein Sprachmodell kann, und genau das ist der Punkt.

Ein Durchlauf statt Token für Token

Ein normales Modell schreibt seine Antwort Token für Token. Gemini Decision 1 bewertet die Kandidaten stattdessen in einem einzigen Vorwärtsdurchlauf und gibt Wahrscheinlichkeiten samt Konfidenzwert zurück. Daraus folgt der Rest: 50 bis 100 Millisekunden Rechenzeit im Modell, 150 bis 250 Millisekunden bis zur Antwort beim Aufrufer, und zwischen einer und hundert Fragen pro Anfrage bleibt die Latenz nahezu gleich.

In eine Anfrage packst du einen multimodalen Datensatz mit bis zu 256.000 Token, also Text, Bilder, Audio, Video oder eine Mischung daraus, und dazu bis zu 1.000 voneinander unabhängige Fragen. Der Preis liegt bei 10 Cent pro Million Eingabe-Token, Ausgabe-Token werden gar nicht abgerechnet. Über Googles eigene Benchmark-Sammlung gerechnet kommt das Haus auf knapp ein Fünftel der Kosten von Gemini 3.5 Flash-Lite über die Interactions API.

Googles Beispiele sind Werkzeugauswahl, Richtlinienprüfungen, Modell-Routing und das Bewerten von Kontext. SiliconANGLE nennt ein praktisches: ein Sicherheitsteam lässt den Schweregrad einer Virenwarnung auf einer Skala von 1 bis 10 einschätzen.

Die Kategorie ist zwei Monate alt und hat schon drei Anbieter

Entscheidungsmodelle gibt es erst seit Mitte September. Damals startete das Startup TypeSafe AI mit Jev, hatte binnen Tagen eine Million Nutzer und sammelte drei Wochen später 870 Millionen Dollar bei einer Bewertung von 7,5 Milliarden ein. OpenAI zog im Oktober mit einer eigenen Decisions API nach. Google ist also der dritte Anbieter in acht Wochen, und das Haus hat sein Modell nach eigenen Angaben gegen Jev und gegen OpenAIs Dienst gemessen.

Was das für Agenten-Bauer bedeutet

Wer Agenten baut, kennt das Problem: Die meisten Modellaufrufe in einer Schleife sind keine kreative Arbeit. Sie sind Entscheidungen. Welches Werkzeug jetzt, ist dieser Treffer relevant, verstößt der Text gegen die Richtlinie, reicht das kleine Modell. Dafür ein Sprachmodell zu bezahlen, das Prosa schreibt und dann wieder geparst werden muss, war immer Verschwendung, nur gab es nichts anderes.

Anthropic hat bislang keinen vergleichbaren Endpunkt. Wer mit Claude arbeitet und viele solcher Mikroentscheidungen trifft, wird früher oder später rechnen müssen, ob die Routing-Schicht beim selben Anbieter bleiben soll wie das Modell, das die eigentliche Arbeit macht. Diese Rechnung fiel vor acht Wochen noch nicht an.

Quellen

GoogleGeminiAPIAgenten