Jensen Huang: KI wird die Welt nicht bis 2030 beenden

Nvidia-Chef Jensen Huang hat jüngste Warnungen zurückgewiesen, wonach künstliche Intelligenz zur Auslöschung der Menschheit führen könnte. Einige Führungskräfte von KI-Unternehmen könnten die Öffentlichkeit aus anderen Motiven verunsichern, sagte er. In einem Interview mit CBS Sunday Morning bezifferte Huang die Wahrscheinlichkeit eines durch KI ausgelösten Weltuntergangs bis 2030 auf null Prozent.

Huang weist Behauptungen über existenzielle Risiken zurück

Sorgen um die KI-Sicherheit seien grundsätzlich berechtigt, sagte Huang. Warnungen, die die Technologie als Bedrohung im Ausmaß einer Auslöschung darstellten, seien jedoch wissenschaftlich nicht fundiert. Er räumte ein, dass KI „schreckliche Anwendungen“ haben könne und „sicher“ entwickelt werden müsse. Die Darstellung eines Weltuntergangs im Jahr 2030 sei jedoch unzutreffend. „Wie immer man es beschreibt: 2030 wird nicht das Ende der Welt sein. Die Wahrscheinlichkeit, dass es das Ende der Welt ist, beträgt null Prozent“, sagte er.

Jüngste Branchendebatte und Regulierungsforderungen

Huangs Äußerungen fielen in eine erneut aufgeflammte öffentliche Debatte über KI-Risiken. Anfang dieses Monats sagte ein ehemaliger Anthropic-Forscher, viele Beschäftigte führender KI-Unternehmen glaubten „wirklich, dass diese Technologie uns bis zum Ende des Jahrzehnts alle töten könnte“. Der Kommentar löste unter anderem Forderungen von Branchenvertretern nach einem langsameren Entwicklungstempo und stärkeren Sicherheitsmaßnahmen aus.

• Dario Amodei, Geschäftsführer von Anthropic, forderte eine Verlangsamung der Forschung, nationale Testprogramme und verstärkte Sicherheitsmaßnahmen.
• Sam Altman, Geschäftsführer von OpenAI, unterstützte eine Verlangsamung der Forschung, und das Unternehmen forderte Regierungen auf, verbindliche Sicherheitsanforderungen zu erlassen.
• Ein ehemaliger Anthropic-Forscher warnte, dass viele Mitarbeitende glauben, KI könne bis zum Ende des Jahrzehnts eine existenzielle Bedrohung darstellen.

Motive, Durchsetzung bestehender Gesetze und praktische Sicherheitsmaßnahmen

Huang deutete an, dass einige Branchenführer existenzielle Risiken aus politischen Gründen oder zur Aufmerksamkeitserregung übertreiben könnten. Außerdem argumentierte er, jüngste Forderungen nach mehr Regulierung könnten der Versuch sein, Verantwortung für Verstöße gegen bestehende Regeln zu vermeiden – insbesondere angesichts jüngster Sicherheitsvorfälle. „Lasst nicht zu, dass diese apokalyptische Erzählung irgendjemandem Befreiung von den bereits bestehenden Gesetzen ermöglicht. Sie fordern nicht wirklich mehr Gesetze. Sie wollen von den Gesetzen, die wir haben, ausgenommen sein“, sagte er und fügte hinzu: „Setzt zunächst die bestehenden Gesetze durch.“

Huang empfahl, die KI-Sicherheit nach dem praktischen, prozessorientierten Ansatz der Verkehrsflugzeugindustrie weiterzuentwickeln. Wenn Technologien reifen, verlagern Ingenieure seiner Ansicht nach den Schwerpunkt üblicherweise von der bloßen Inbetriebnahme von Systemen auf die Gewährleistung eines sicheren Betriebs durch Verifikation, Tests, Bewertungen und Standardisierung. „Macht zuerst die praktischen Dinge und dann können wir über die theoretischen sprechen. Aber redet nicht über das Theoretische, ohne das Praktische zu tun“, sagte er.