Smartphones könnten 100-Milliarden-KI lokal 2028 laufen

Qualcomm-CEO Cristiano Amon erklärte, einige KI-Unternehmen entwickelten Smartphones, die bis 2028 100-Milliarden-Parameter-Sprachmodelle dauerhaft ausführen könnten.

Amon sagte dies am 10. Oktober 2026 in einem Interview mit Fireside Alpha, ohne die beteiligten Unternehmen zu nennen.

Die Ausführung eines 100-Milliarden-Parameter-Modells auf einem Smartphone stößt auf erhebliche Speichergrenzen. Ein auf 4 Bit quantisiertes 100B-Modell benötigt etwa 50 Gigabyte RAM; selbst eine 2-Bit-Variante würde rund 25 Gigabyte allein für das Modell beanspruchen – noch ohne Betriebssystem, Apps und Kontext-Cache.

Qualcomm und andere Unternehmen sehen vor allem das DRAM-Angebot und die Kosten als größte Hürden. Nach Angaben des Unternehmens wird die Branche die verbreitete 16-GB-Speichergrenze wohl kurzfristig nicht überschreiten. Aufgrund des knappen DRAM-Markts hätten Hersteller Modelle mit mehr RAM zurückgefahren, obwohl Android-Smartphones vor etwa einem Jahr noch bis zu 24 GB LPDDR5X boten.

Die kontinuierliche Inferenz größerer Modelle steigert zudem die Wärmeentwicklung und erhöht das Risiko von Thermal Throttling. Das setzt auch dann praktische Grenzen, wenn ausreichend Arbeitsspeicher vorhanden wäre.

Änderungen beim Chip-Package, darunter Apples A20 Pro und Qualcomms Snapdragon 8 Elite Extreme Gen 6, lösen einige Integrationsprobleme, beseitigen den Speicherengpass aber nicht.

Zu den technischen Ausweichlösungen zählt eine aggressive Quantisierung, die den Speicherbedarf deutlich senkt. 1-Bit-Varianten passen zwar in den DRAM, doch Branchenbewertungen zufolge leidet die Modellqualität bei einer Quantisierung unter 4 Bit deutlich – insbesondere bei Schlussfolgerungsaufgaben.

Ein weiterer Ansatz ist Mixture of Experts mit ausgelagerten Experten: Pro Token ist nur eine Teilmenge der Experten im RAM aktiv, während der Rest im Flash-Speicher verbleibt. Apple hat untersucht, Modelle direkt aus dem internen Flash-Speicher auszuführen. UFS- und NVMe-Speicher sind jedoch langsamer als DRAM und können die Inferenzgeschwindigkeit verringern.

Als derzeit marktfähigerer Weg gilt die Modell-Destillation: Destillierte 20B- bis 30B-Modelle können die Leistung einiger 100B-Modelle auf dem Gerät annähernd erreichen und halten zugleich Speicher- und Wärmeanforderungen beherrschbar.

Amon nannte weder eine technische Roadmap noch Partner. DRAM-Angebot, Kosten und thermische Grenzen bleiben die entscheidenden Faktoren dafür, 100B-Modelle bis 2028 nativ auf Smartphones auszuführen.