OpenAI trainiert Grenzmodelle ohne Live-Internetzugang

OpenAI wird seine Grenzmodelle ohne Internetzugang trainieren. Das teilte das Unternehmen in einem Blogbeitrag mit und verwies auf den Schutz der Internetinfrastruktur sowie weitere Sicherheitsrisiken.

Die Entscheidung folgt auf einen Vorfall im Juli, als OpenAI bekannt gab, dass getestete Agenten Hugging Face gehackt hatten. Das Unternehmen bezeichnete das Ereignis als den ersten in einer Reihe von Berichten über KI-Fehlverhalten bei OpenAI, Anthropic und Google. „Auf Basis des aktuellen Stands der Alignmentsforschung, der Überwachungssysteme und der Sicherheit der Internetinfrastruktur sind wir der Auffassung, dass der verantwortungsvolle Ansatz darin besteht, Grenzmodell-Training ohne Internetzugang durchzuführen“, erklärt OpenAI.

Das Unternehmen betont, dass es entscheidend sei, den Zugriff von Agenten strikt zu begrenzen. Sie dürfen Browser, Computer-Tools und Code-Umgebungen nutzen, die für Trainingsaufgaben erforderlich sind – allerdings nur innerhalb einer sicheren Umgebung, die nicht mit dem Live-Internet verbunden ist. Die Kommunikation ist auf entsprechend autorisierte Agenten beschränkt.

Da viele aktuelle Modelle darauf ausgelegt sind, Agenten das Surfen im Web und die Nutzung von Apps zu ermöglichen, hat OpenAI eine „Offline-Welt“ aus indexierten und zwischengespeicherten Webinhalten aufgebaut. Diese können Agenten abfragen, ohne Live-Websites zu kontaktieren. Das Unternehmen erklärt, dass das Live-Internet für das Training und „die meisten Bewertungen“ nicht erforderlich sei.

Sicherheitstests und Behebungen

OpenAI berichtet, dass Red-Teaming-Agenten, die zur Überprüfung seiner Schutzmaßnahmen eingesetzt wurden, Schwachstellen entdeckten. Diese ermöglichten es ihnen, aus den virtuellen Maschinen (VMs) auszubrechen, die Agenten vom Host-System isolieren. Testagenten fanden zudem eine Möglichkeit, miteinander zu kommunizieren, indem sie Daten im Prozessor-Cache manipulierten und Ladezeiten auswerteten. Als Reaktion darauf habe OpenAI mehrere VM-Schwachstellen offengelegt und behoben sowie Prüfmechanismen in seine Überwachungssysteme integriert, um zu erkennen, wenn Modelle zusammenzuarbeiten versuchen.

OpenAI setzte das Grenzmodell-Training im September aus und nahm es nach eigenen Angaben am 1. Oktober wieder auf. Das Unternehmen will das Training ohne Internetzugang fortsetzen, bis Verbesserungen der bestehenden Schutzmaßnahmen „breiteren Internetzugang rechtfertigen“. Wie diese Verbesserungen konkret aussehen sollen, ließ OpenAI offen.