Modelle & Forschung

DeepSeek V4.1-Flash: 890 Byte KV-Cache pro Token – und V4 Pro wird abgeschaltet

2 Min. Lesezeit KI-generiert

DeepSeek hat V4.1-Flash offiziell gestartet. Interessant ist nicht der Benchmark, sondern was das Modell an Speicher braucht: rund ein Viertel des Vorgängers. Ab dem 14. September gehen alle V4-Pro-Anfragen auf Flash.

Featured image for "DeepSeek V4.1-Flash: 890 Byte KV-Cache pro Token – und V4 Pro wird abgeschaltet"

DeepSeek hat V4.1-Flash heute offiziell freigegeben. Die Gewichte liegen unter MIT-Lizenz auf Hugging Face, vLLM und SGLang unterstützen das Modell.

Die Eckdaten: 552 Milliarden Parameter als multimodales Mixture-of-Experts, davon 196 Milliarden Engram-Parameter. Aktiv sind 8 Milliarden beim Prefill und 16 Milliarden beim Decode. Kontextfenster: eine Million Token.

Die Zahl, um die es geht

890 Byte KV-Cache pro Token. Das sind rund 25 Prozent dessen, was V4-Flash gebraucht hat, und ein Bruchteil dessen, was V1 gebraucht hätte – DeepSeek nennt den Faktor 437.

Drei Sachen greifen dafür ineinander. Der Haupt-KV-Cache liegt in FP4 (E2M1 mit E4M3-Skalen je 16 Kanäle), was gegenüber FP8 die Hälfte spart. Die Sliding-Window-Attention wird nicht mehr komplett gehalten, sondern aus den letzten 128 Prompt-Token neu abgespielt. Und über die Layer hinweg arbeitet das Modell in drei Modi: einer rechnet eigenes KV und wählt neue Top-512-Indizes, einer nutzt vorhandenes KV und bewertet es mit eigenen Queries neu, einer überspringt das Indexieren ganz. DeepSeek nennt das CSA2.

Bei den Benchmarks stehen unter anderem 90,6 auf Terminal-Bench 2.1 und 74,2 auf DeepSWE v1.1.

Der Preis und das Ende von V4 Pro

Ab dem 14. September, 12 Uhr Pekinger Zeit, gehen Anfragen an V4 Pro auf V4.1-Flash und werden zu Flash-Tarifen abgerechnet. DeepSeek begründet das damit, dass Flash den Vorgänger intern wie extern bei Leistung, Kosten, Geschwindigkeit und Gesamtlaufzeit überholt habe.

Die Preise außerhalb der Stoßzeiten: 0,02 Yuan pro Million Token bei Cache-Treffern, 1 Yuan ohne Cache-Treffer, 4 Yuan für Output. Zu Stoßzeiten das Doppelte.

Warum der Speicher wichtiger ist als der Benchmark

Wer Agenten laufen lässt, kennt das Problem: Der KV-Cache wächst mit jedem Schritt, und irgendwann ist nicht das Modell das Limit, sondern der Speicher auf der Karte. Bei langen Läufen mit vielen Tool-Calls ist das die Wand, gegen die man zuerst fährt – nicht die Modellqualität.

Ein Viertel des Speichers bedeutet ungefähr: viermal so viele parallele Sessions auf derselben Hardware, oder deutlich längere Läufe, bevor irgendwas kippt. Für alle, die selbst hosten, ist das die relevantere Nachricht als jeder Punkt auf Terminal-Bench.

Und ja, es passt zu dem Muster, das man seit Monaten sieht: Die chinesischen Labore optimieren gegen Speicher und Kosten, weil sie bei der Rechenleistung nicht aus dem Vollen schöpfen können. Diese Einschränkung produziert gerade die interessanteren Architekturideen.

Ob die Zahlen halten, sieht man in ein paar Tagen, wenn die Ersten unabhängig nachmessen. Die Gewichte liegen ja offen.

Quellen: TechNode: DeepSeek formally launches V4.1 Flash, routes V4 Pro requests to Flash · MarkTechPost: DeepSeek AI Released DeepSeek-V4.1-Flash with 1M Context, FP4 KV Cache, and Cross-Layer Attention Reuse

DeepSeekOpen SourceModelleAgenten