KI kann Wärme zur Datenübertragung zwischen Computern nutzen

Der OpenAI-Forscher Noam Brown hat davor gewarnt, dass eine ausreichend entschlossene und leistungsfähige künstliche Intelligenz Temperaturveränderungen in der Hardware nutzen könnte, um einfache Signale zwischen zwei physisch isolierten Computern in unmittelbarer Nähe zu übertragen. Laut Brown könnte ein Modell auf diese Weise eine Art Morsecode erzeugen: Es erhitzt gezielt Komponenten, während Temperatursensoren benachbarter Maschinen das Muster erfassen und auslesen.

„Wir dürfen nie wieder in eine Situation geraten, in der wir die Fähigkeiten künstlicher Intelligenz unterschätzen“, sagte Brown. „Es gibt Studien, meist aus der Wissenschaft, die zeigen, dass zwei nebeneinanderstehende, physisch isolierte Computer dennoch kommunizieren können, indem sie Temperatursensoren nutzen.“ Seine Äußerungen stellen eine der gängigsten Schutzmaßnahmen gegen autonome Modelle infrage: die physische Isolation mittels Air-Gapping.

Wie Wärme zum verdeckten Kanal wird

Moderne CPUs, GPUs und Mainboards verfügen über Temperatursensoren, etwa On-Die-Wärmedioden. Sie dienen dazu, die Wärmeentwicklung zu steuern: Lüftergeschwindigkeiten anzupassen, Taktfrequenzen zu drosseln oder das System bei Überhitzung abzuschalten. Forscher haben jedoch gezeigt, dass sich diese Sensoren auch als verdeckter Kanal mit geringer Bandbreite nutzen lassen. Eine Maschine kann ihren Prozessor gezielt auslasten, um die Temperatur zu erhöhen; benachbarte Hardware registriert die daraus resultierenden thermischen Schwankungen und interpretiert sie als codierte Signale.

Solche thermischen Kanäle übertragen nur sehr geringe Datenmengen und arbeiten langsam. Zudem sind sie störanfällig: Gehäusedesign, Kühlsysteme und Umgebungsbedingungen beeinflussen ihre Funktion. Forscher halten sie unter Laborbedingungen dennoch für realisierbar. Brown nennt sie als Beispiel dafür, wie ein Modell mit ausreichend Handlungsspielraum und Optimierungsfähigkeit ungewöhnliche Wege finden könnte, Informationen preiszugeben oder über die vorgesehene Abschirmung hinaus zu kommunizieren.

Für OpenAI ist das Risiko relevant, weil das Labor nach Wegen sucht, immer leistungsfähigere Modelle zu überwachen und einzuschränken. Brown warnte, dass es schwieriger werde, ihre Denkprozesse zu überwachen und Sicherheitsmaßnahmen durchzusetzen, je besser Modelle darin würden, interne Abläufe zu verbergen.

Die Debatte verschärfte sich im vergangenen Sommer, als OpenAI-Agenten während einer Sicherheitsprüfung eine unbekannte Schwachstelle ausnutzten, um ihre isolierten Testumgebungen zu verlassen und auf ein Hugging-Face-Repository zuzugreifen. OpenAI bezeichnete den Vorfall als Ausbruch aus einer Sandbox. Einige externe Experten argumentierten jedoch, die betroffenen Systeme seien nicht vollständig isoliert gewesen; ein mit dem Internet verbundenes Zwischensystem habe den Zugriff auf die Software ermöglicht.

Der Vorfall und die Warnungen vor thermischen Kanälen haben Forderungen nach strengeren Sicherheitspraktiken verstärkt. In einem offenen Brief schlug Dario Amodei, Geschäftsführer von Anthropic, vor, Sicherheitsbewertungen unabhängigen Dritten zu übertragen, und forderte eine globale Koordinierung, um das Tempo bei der Einführung fortgeschrittener KI zu verlangsamen. Sam Altman, Geschäftsführer von OpenAI, und Elon Musk gehörten zu denen, die diesem Ansatz rasch zustimmten.