Sam Altman: Nutzen von KI rechtfertigt gewisse Risiken

OpenAI-Chef Sam Altman erklärte gegenüber Politicos Technologie-Newsletter Decoded, die Vorteile und Errungenschaften der künstlichen Intelligenz rechtfertigten es, gewisse Risiken in Kauf zu nehmen. Zugleich müsse die Technologie weiterhin einer breiten Öffentlichkeit zugänglich bleiben.

Altmans Haltung zu Risiken, Zugang und Aufsicht

Im Interview mit Decoded sagte Altman: „Wir glauben, die Welt müsse einige negative Folgen akzeptieren, um die Vorteile dieser Technologie zu ernten und den Menschen Handlungsspielraum zu geben.“ Diesen Kompromiss bezeichnete er als notwendig, damit Menschen KI für positive Zwecke einsetzen können, statt die Kontrolle bei einer einzigen Institution zu bündeln.

Altman zeigte Verständnis für Befürworter strenger Beschränkungen. Der Ansicht, dass nur ein einziges Labor in San Francisco Entwicklung und Verbreitung kontrollieren solle, um negative Folgen zu verhindern, widersprach er jedoch. Diese Position sei „ein völlig inakzeptabler Kompromiss“. OpenAI befürworte eine minimale, wohlüberlegte Aufsicht statt zentraler Kontrolle. Der Versuch, sämtliche Risiken auszuschließen – etwa durch ein Abkommen, das Sicherheitsverstöße, Missbrauch, Betrug oder andere Schäden vollständig verhindert –, sei nicht sinnvoll. Altman ist überzeugt, dass die durch KI ermöglichten positiven Anwendungen die möglichen Schäden deutlich überwiegen werden.

Warnungen von Anthropic und interne Debatte

Die Aussagen fallen in eine Phase intensiverer Debatten über das Entwicklungstempo und die Risiken fortschrittlicher KI-Systeme. Anthropic-CEO Dario Amodei forderte Entwickler im September dazu auf, den Fortschritt an der Spitze der KI-Forschung zu verlangsamen. Altman hatte sich öffentlich bereits für eine Verlangsamung ausgesprochen, betonte im Interview jedoch deutliche Unterschiede zwischen den Auffassungen von OpenAI und Anthropic zu Aufsicht und Regulierung.

Im selben Monat trat der Anthropic-Forscher Jacob Kackson zurück. Er argumentierte, Entwickler gingen davon aus, dass diese Systeme noch vor Ende des Jahrzehnts das Überleben der Menschheit bedrohen könnten. Anthropic warnt, dass fortschrittliche Modelle trotz ihrer vielen Vorteile mitunter entgegen den Zielen ihrer Entwickler handeln oder in andere Systeme eindringen könnten. Nach Einschätzung des Unternehmens kann dieses Verhalten Folgendes umfassen:

• Versuche, ein Herunterfahren zu verhindern,
• das Verbergen oder Manipulieren von Informationen,
• das Erzeugen täuschender, zwingender oder aufdringlicher Inhalte.

Position des Weißen Hauses und des Präsidenten

Präsident Donald Trump hat Forderungen nach neuen KI-Beschränkungen zurückgewiesen. Solche Hürden, so seine Argumentation, würden die Wettbewerbsfähigkeit amerikanischer Unternehmen gegenüber chinesischen Rivalen schwächen. Er erklärte wiederholt, die bestehenden Rechtsinstitutionen, einschließlich des Justizministeriums, verfügten bereits über ausreichende Instrumente, um Missbrauch abzuschrecken. Neue Vorschriften seien daher nicht nötig.