Sam Altman warnt vor zwei gefährlichen KI-Szenarien

Sam Altman, Geschäftsführer von OpenAI, sagte im Podcast Figuring Out With Raj Shamani, dass eine fortgeschrittene künstliche Intelligenz zwei grundverschiedene, aber gleichermaßen gefährliche Folgen haben könnte: Entweder übergibt die Menschheit die Kontrolle an ihr weit überlegene Systeme, oder eine einzelne Person, ein Unternehmen oder ein Staat erlangt unverhältnismäßig viel Macht.

Altman ordnete die Warnung in seine seit Langem vertretene Haltung ein, die Chancen von KI hervorzuheben und zugleich apokalyptische Narrative zurückzuweisen. Die beiden Szenarien beschrieb er schlicht: „Das eine ist, dass die Kontrolle an die KI übergeben wird; wir geben absichtlich oder versehentlich die Zügel der Zukunft an Systeme, die uns unglaublich überlegen sind, und können sie nicht mehr zurücknehmen. Das andere Szenario ist, dass eine Person, ein Unternehmen oder ein Staat im Vergleich zu anderen zu mächtig wird.“

Zwei katastrophale Szenarien

Das erste Szenario weicht vom filmischen Bild eines Roboteraufstands ab. Es geht vielmehr um einen schleichenden Verzicht auf Entscheidungsbefugnisse und Autorität, bis Menschen ihre Handlungsfähigkeit nicht mehr zurückgewinnen können. Das zweite entspricht der modernen Science-Fiction-Sorge vor Zentralisierung: Eine mächtige Technologie liegt fest in den Händen einer Einzelperson oder Organisation und wird genutzt, um anderen den eigenen Willen aufzuzwingen.

Diese Möglichkeiten sind Forschern und politischen Entscheidungsträgern nicht neu. Doch Altmans Warnungen haben wegen seiner Rolle bei OpenAI besonderes Gewicht. Er räumte die Reichweite des Unternehmens ein und sagte: „Ich glaube, wir haben die meisten Nutzer und den besten Technologiestack – von Chips über Rechenzentren bis hin zu Modellen und anderen Komponenten –, also eine Infrastruktur, die viel Intelligenz in die Hände der Menschen bringt. Wir haben die beste Marke und die Werte, die Nutzer dieser Technologie suchen; dennoch wollen wir, dass andere erfolgreich sind, und ich denke, die Menschen spüren das.“

Entscheidungsfindung und die Delegation von Autorität

Die Sorge vor einer unkontrollierbaren KI hat zugenommen, da Systeme längst mehr leisten als einfache Antworten zu geben und zunehmend in Entscheidungsprozesse vordringen. Modelle und Agenten können inzwischen im Web interagieren und komplexe Aufgaben mit minimaler menschlicher Überwachung erledigen. Je mehr Verantwortung an diese Systeme delegiert wird, desto gravierender sind die Folgen, wenn ihre Ziele von menschlichen Absichten abweichen.

Wichtig ist dabei, sich vor Augen zu führen, dass heutige KI-Systeme auf der Vorhersage von Wahrscheinlichkeiten beruhen. Sie sind leistungsfähig und mit riesigen Datensätzen trainiert, verfügen aber weder über menschliches Urteilsvermögen noch über menschliches Verständnis. Um Schaden anzurichten, brauchen sie keine böswilligen Motive. In simulierten Governance-Szenarien kamen Modelle beispielsweise mitunter zu verhängnisvollen Entscheidungen, darunter Vorschläge, die den Einsatz von Atomwaffen einschlossen.

Obwohl Altman diese Grenzen und Risiken betont, bleibt er langfristig optimistisch. „Ich weiß nicht, wie die Zukunft aussehen wird, aber ich bin mit ihr im Reinen und habe großes Vertrauen in die Fähigkeit der Menschen, sich anzupassen, Fortschritte zu machen und die Gesellschaft für uns alle zu verbessern; ich denke, die Welt wird mit der Zeit wahrscheinlich besser werden“, sagte er.

Altman begeistert sich zudem für den Einsatz von KI zur Beschleunigung wissenschaftlicher Entdeckungen. Er stellte sich eine Maschine vor, die unser Verständnis der Welt vertieft und tiefgreifende Erkenntnisse in der Physik, neuartige medizinische Behandlungen sowie neue Energiequellen hervorbringt – Ergebnisse, die heute schwer vorstellbar sind, mit einem besseren wissenschaftlichen Verständnis jedoch möglich werden könnten. „Ich bin außerordentlich gespannt, wie weit wir KI treiben können, um neue Wissenschaft voranzubringen“, sagte er.

Altmans Äußerungen folgen auf seine jüngste Ankündigung, dass KI in den kommenden Wochen mehr mathematische Ergebnisse veröffentlichen werde. Sie spiegeln zudem Kommentare des OpenAI-Mitbegründers Greg Brockman wider, der auf einer Konferenz andeutete, dass KI den Tod eines Tages zu einem optionalen Ergebnis machen könnte.