OpenAI Kontrollraum: Stoppt Modelle in maximal 35 Sekunden

OpenAI erklärt, dass sein neu eingeführtes zentrales System Kontrollraum ein Modell spätestens 35 Sekunden nach einem Stopp-Befehl daran hindern kann, weitere Ausgaben zu erzeugen.

Das Unternehmen beschreibt Kontrollraum als Sicherheitsebene, die Forschungsaufgaben, Inferenz-Engines und einen zentralen Autorisierungsdienst verbindet. So lassen sich laufende Forschungsprozesse mit potenziellen Risiken stoppen. OpenAI zufolge ist das System inzwischen in der gesamten Forschungsinfrastruktur ausgerollt.

So funktioniert der Stopp- und Widerrufsmechanismus

Kontrollraum verknüpft drei zentrale Komponenten: die Forschungsaufgabe, die Inferenz-Engine und den zentralen Kontrollraum-Dienst. In der Terminologie von OpenAI bezeichnet eine Aufgabe Forschungsarbeiten wie Verstärkungslernexperimente, Evaluationen oder umfangreiche Datenverarbeitungsaufträge, die agentenbasierte Inferenz erfordern.

Jede Aufgabe, die agentenbasierte Inferenz benötigt, muss mit einer genehmigten Sicherheitsdatei verknüpft sein. Startet ein Forscher einen Prozess, fordert der Aufgabencode beim Kontrollraum eine eindeutige Job-ID an. Diese Job-ID wird jeder Anfrage angehängt, die an die Inferenz-Engines gesendet wird. Die Engines führen die Modelle direkt auf GPUs aus und erzeugen die Ausgaben.

Bevor eine Inferenz-Engine eine Antwort zurückgibt, prüft sie beim Kontrollraum, ob die Aufgabe weiterhin autorisiert ist. Gibt ein Forscher oder ein automatisiertes Überwachungssystem einen Stopp-Befehl aus, verweigert der Kontrollraum-Dienst die nächste Anfrage, und die Inferenz-Engine unterbindet weitere Ausgaben. OpenAI weist darauf hin, dass der Programmcode dadurch nicht zwangsläufig beendet oder geschlossen wird. Stattdessen wird die Fähigkeit des Modells blockiert, Ausgaben zu erzeugen. Das Design verlagert die entscheidende Validierung in die Inferenz-Engine und verringert die Abhängigkeit von sicherheitsrelevanten Prüfungen durch einzelne Forscher in jeweiligen Codebasen.

OpenAI zufolge ist Kontrollraum für Fehlerfälle nach dem Prinzip „standardmäßig blockieren“ ausgelegt. Fällt der zentrale Dienst aus, wird manipuliert oder geht offline, verarbeiten die Inferenz-Engines keine Anfragen, bis das System wiederhergestellt ist.

Die Verzögerung von maximal 35 Sekunden zwischen einem Stopp-Befehl und der tatsächlichen Blockierung der Ausgaben führt das Unternehmen auf eine Zwischenspeicherschicht zurück, die für hohe Anfragevolumina eingesetzt wird. OpenAI arbeitet nach eigenen Angaben daran, dieses Intervall auf nahezu null zu reduzieren.

OpenAI gibt an, dass Kontrollraum nun in der gesamten Forschungsinfrastruktur eingesetzt wird.