OpenAI baut seit einer Weile am eigenen Chip. Jetzt gibt es zum ersten Mal Zahlen — und die haben es in sich.
Jalapeño ist OpenAIs erster eigener Inferenz-Chip, also die Hardware, die fertig trainierte Modelle im Betrieb ausführt. Die Idee dahinter: einen Chip von Grund auf für genau diese Aufgabe zu bauen, statt Grafikkarten zweckzuentfremden, die eigentlich fürs Training gedacht sind.
Getestet wurde auf InferenceX, einem öffentlichen Benchmark von SemiAnalysis, und zwar über drei offene Modelle hinweg: GPT-OSS 120B, DeepSeek R1 mit 670 Milliarden Parametern und Kimi K2.5 mit einer Billion. Über alle drei lieferte Jalapeño zwischen 1,5- und 1,9-mal mehr Rechenarbeit pro Watt bei voller Auslastung und 1,7- bis 3,6-mal niedrigere Latenz als die Vergleichssysteme. Bei stark interaktiven Aufgaben — genau dort, wo Agenten viele Schritte hintereinander abarbeiten — waren es bis zu 4,1-mal mehr Leistung.
Der interessante Teil ist die Kombination. Normalerweise musst du dich entscheiden: hoher Durchsatz oder niedrige Latenz. Jalapeño schafft beides in einer Architektur, weil OpenAI Chip, Speicher, Netzwerk und Software zusammen um echte Sprachmodell-Lasten herum entworfen hat. Zum Einordnen: OpenAI gibt den Chip mit 700 Watt an, gemessen blieb er bei den Tests unter 550 — verglichen wurde gegen Nvidias GB200 und GB300, die mit 1.200 und 1.400 Watt zu Buche stehen.
Was mich am meisten hängen bleibt, ist ein anderer Punkt. OpenAI hat KI beim Design des Chips eingesetzt — vom ersten Entwurf bis zum fertigen Tapeout in neun Monaten. Und bei ausgewählten Bausteinen liefen die von der KI geschriebenen Implementierungen 1,5- bis 1,8-mal schneller als die der menschlichen Experten. Modelle, die im ursprünglichen Plan gar nicht vorgesehen waren, brachte das Team mit Codex und einem Modell namens GPT-Astra innerhalb von zwei Monaten zum Laufen.
Da schließt sich ein Kreis: KI hilft, die Hardware zu bauen, auf der KI dann läuft. Je besser die Modelle werden, desto schneller lässt sich die nächste Chip-Generation optimieren.
OpenAI will Jalapeño noch dieses Jahr in die eigene Infrastruktur bringen. Es ist die erste von mehreren geplanten Generationen, Gen 2 steckt schon in der Entwicklung. Nvidia bleibt trotzdem im Spiel — für Training und Inferenz kauft OpenAI weiter zu, wo immer Rechenleistung herkommt.
Ehrlich gesagt: Für Endnutzer ändert sich erstmal nichts. Aber wenn Inferenz billiger und schneller wird, merkt man das früher oder später überall — an reaktionsschnelleren Agenten, niedrigeren Preisen, mehr Kapazität. Und der Wettlauf um die Chips darunter ist gerade mindestens so spannend wie der um die Modelle darüber.
Quelle: OpenAI: Jalapeño’s first results