Am 6. August hat AMD verbindlich zugesagt, Taalas zu übernehmen – ein kleines, technisch aber bemerkenswertes Startup aus Toronto. Der Ansatz dahinter ist so radikal, dass er einen Moment zum Nachdenken taugt.
Modelle aus Transistoren statt aus Speicher
Die meisten KI-Chips arbeiten heute nach demselben Prinzip. Die Gewichte eines Modells liegen im schnellen Speicher (HBM) und werden bei jeder Berechnung hin- und hergeschoben. Genau dieser ständige Transport ist einer der größten Flaschenhälse. Er kostet Zeit, und vor allem kostet er Energie.
Taalas dreht das um. Das 2023 gegründete Unternehmen baut sogenannte model-specific integrated circuits. Statt das Modell im Speicher zu halten, gießt Taalas die Architektur und die trainierten Gewichte direkt in die Transistoren. Das Modell ist dann der Chip. Der Preis dafür ist Flexibilität, denn so ein Chip kann nur dieses eine Modell. Dafür ist er brutal schnell: Ein Demo-Chip kam mit Llama 3.1-8B auf über 16.000 Token pro Sekunde und Nutzer. Ein Vielfaches dessen, was vergleichbare Universal-Hardware schafft.
Der dritte Zukauf in neun Monaten
Für AMD ist Taalas schon die dritte KI-Übernahme in neun Monaten, nach MK1 im November und dem Speicher-Startup Mext im Juni. Die Konditionen nannte AMD nicht. Die Richtung schon: AMD will sich für die Inferenz rüsten, also für den laufenden Betrieb von KI-Modellen. Und dieser Betrieb wird gerade zum größten Kostenblock der Branche, weil viel mehr Leute Modelle nutzen als trainieren.
Meine Einordnung
Warum ist das für uns relevant? Weil es dieselbe Bewegung ist, die wir vor ein paar Tagen bei Anthropic gesehen haben. Die haben ein eigenes Chip-Team gestartet, um Claude günstiger und schneller laufen zu lassen. AMD und Anthropic ziehen von zwei Seiten am selben Strang. Die Ära, in der man einfach alles auf teuren Universal-GPUs laufen lässt, geht langsam zu Ende.
Für uns als Nutzer ist das eine gute Nachricht, auch wenn sie erst mit Verzögerung ankommt. Günstigere Inferenz heißt am Ende mehr Token fürs Geld, schnellere Agenten, weniger Kompromisse. Dass ausgerechnet ein GPU-Riese wie AMD in „Modell-in-Silizium” investiert, ist bisher das deutlichste Signal, dass spezialisierte Hardware kein Nischen-Experiment mehr ist. Offen bleibt, ob Taalas’ Ansatz in einer Welt besteht, in der neue Modelle im Wochentakt erscheinen. Ein fest verdrahtetes Modell veraltet nun mal schneller als ein flexibler Chip.
Quellen: AMD Pressemitteilung, SiliconANGLE, The Register