Google baut spezialisierte Frozen v2 Chips für Gemini

Stellen Sie sich einen Serverchip vor, der nicht nur ein Modell ausführt, sondern dessen Spielregeln subtil befolgt. Ingenieure bei Google bauen genau das stillschweigend: einen Serverbeschleuniger mit dem Codenamen Frozen v2, der Teile der Gemini-Architektur in Silizium integriert, mit Blick auf drastisch höhere Effizienz und geringere Latenz.

Die Informationen stammen aus einem Bericht von The Information, der sich auf zwei Insider beruft. Ihre Behauptung ist bemerkenswert: Frozen v2 könnte sechs- bis zehnmal mehr Token pro Watt verarbeiten als Googles aktuellste Tensor Processing Units. Zieltermin? 2028. Die Motivation ist direkt und vertraut für jeden, der beobachtet hat, wie die Cloud-Nachfrage die Kapazität übersteigt: Google Cloud musste Berichten zufolge einige Kundenabschlüsse ablehnen, weil es einen Engpass bei der KI-Verarbeitung gab.

Architektur einbetten statt Regeln

Traditionelle TPUs und GPUs sind Generalisten. Sie laden ein Modell, und die Hardware trifft viele Laufzeitentscheidungen: wie Daten verschoben werden, welche Operationen geplant werden, wann Speicher geladen wird. Diese Flexibilität ist mächtig. Sie verursacht jedoch Overhead. Frozen v2 verfolgt einen anderen Ansatz: Es schreibt bestimmte Gemini-spezifische Entscheidungen in die Transistorlogik. Das Ergebnis sind weniger Ausführungsschritte und weniger Datenbewegung pro Anfrage. Weniger Bewegung. Weniger Overhead. Geringere Latenz. Neue Echtzeit-Anwendungsfälle werden dadurch denkbar.

Auf dem Tisch lag eine noch kühnere Idee. Frühere Frozen-Entwürfe unter der Leitung von Jeff Dean sollen versucht haben, Modellgewichte direkt in Silizium zu verdrahten. Das wäre eine radikale Optimierung gewesen. Gleichzeitig wäre das Design schnell veraltet — Chips, die an eine einzelne Modellversion gebunden sind, haben eine sehr kurze Nutzungsdauer. Google wählte einen Mittelweg. Frozen v2 würde das architektonische Skelett einbetten, während Gewichte updatefähig bleiben, sodass derselbe Chip mehrere Gemini-Versionen bedienen kann, solange sie denselben Architekturmustern folgen.

Dieser Ansatz könnte die Antwortzeiten so sehr verkürzen, dass neue Klassen interaktiver und latenzarmer KI-Anwendungen möglich werden.

Google beabsichtigt nicht, seine TPU-Flotte durch Frozen v2 zu ersetzen. Man kann es als eine experimentelle Spur neben der TPU-Produktion sehen — ein Testfeld für spezialisiertere Siliziumlösungen, während sich Modelldesigns stabilisieren. Die TPU-Produktroadmap selbst hat kürzlich Trainings- und Inferenzbedürfnisse getrennt, mit Chips der achten Generation, die auf der Cloud Next-Veranstaltung im April angekündigt wurden. Das Frozen-v2-Projekt ist kleiner angelegt; Google plant keine Massenproduktion auf dem gleichen Niveau wie bei TPUs.

Das erwartete Erscheinen von Frozen v2 passt auch zu anderen Branchenbewegungen. Google hat Berichten zufolge Intel beauftragt, bis 2028 mehr als drei Millionen TPU-Chips zu verpacken. Unterdessen erkunden Startups und Wettbewerber bereits modellbewusstes Silizium. Das kanadische Unternehmen Taalas brachte seinen HC1-Chip in Kombination mit Llama 3.1 8B auf den Markt und gibt an, 17.000 Token pro Sekunde zu erreichen, ohne HBM auf dem Package. Das Startup sammelte rund 186 Millionen Euro ein. Und im letzten Jahr unterzeichnete Nvidia eine Technologielizenzvereinbarung mit Groq im Wert von etwa 18,6 Milliarden Euro — ein Hinweis darauf, dass der Markt großen Wert darin sieht, Modellverhalten und Hardware zu integrieren.

Es gibt Kompromisse. Die Einbettung von Architektur reduziert bestimmte Arten von Flexibilität. Sie begünstigt Anwendungsfälle, bei denen Modellfamilien über die Zeit konsistent bleiben. Sie verschiebt auch den Produktlebenszyklus: Silizium, das um eine Modellarchitektur herum entwickelt ist, muss durch vorhersehbare Designstabilität und Einsatzscale gerechtfertigt werden. Das erklärt Googles vorsichtige Haltung. Frozen v2 ist experimentell; nicht jedes Experiment wird zu einem Produkt.

Vorerst hat Google Frozen v2 nicht öffentlich bestätigt. Ein Unternehmenssprecher erinnerte The Information daran, dass viele interne Projekte nie in Produktion gehen. Dennoch hat sich die Grundidee — einen Teil der Modelllogik ins Silizium zu verlagern, um Energie zu sparen und Latenz zu reduzieren — von einer akademischen Neugier zu einer wettbewerbsstrategischen Option entwickelt. Erwarten Sie, dass mehr Unternehmen ähnliche Mischformen aus modellbewusster Hardware und updatefähigen Gewichten testen, da die Nachfrage nach effizienter und latenzarmer KI weiter steigt.