Jensen Huang: KI wird Menschheit bis 2030 nicht beenden

Jensen Huang, CEO des wertvollsten Unternehmens der Welt, erklärte, die Wahrscheinlichkeit, dass KI die Menschheit bis 2030 auslöscht, liege bei null Prozent.

In einem neuen Interview wies Huang apokalyptische Szenarien rund um künstliche Intelligenz zurück und bezeichnete die öffentlichen Ängste als unbegründet. Behauptungen, KI werde die Zivilisation noch in diesem Jahrzehnt auslöschen, seien nicht haltbar und häufig von anderen Motiven geprägt, sagte er.

Klare Absage an alarmistische Prognosen

Huang richtete seine Aussagen ausdrücklich gegen prominente Stimmen aus der KI-Sicherheitsgemeinschaft, darunter Evan Hubinger, ehemaliger Leiter des Alignment-Teams bei Anthropic. Hubinger hatte auf X geschrieben, die Wahrscheinlichkeit, dass intelligente Systeme die Zivilisation innerhalb eines Jahrzehnts zerstören, liege bei mehr als 10 Prozent. Huang sagte, er „stimme überhaupt nicht mit der Annahme überein, dass KI die Welt bis 2030 zerstören werde“. Versuche, öffentliche Ängste zu schüren, seien für ihn nicht nachvollziehbar. Hinter solchen Behauptungen vermutete er mögliche politische Ziele, Aufmerksamkeitssuche oder andere Motive. Er bekräftigte, dass 2030 keinesfalls das Ende der Welt sein werde und die Wahrscheinlichkeit eines solchen Ereignisses bei null Prozent liege.

Jüngste Vorfälle und Forderungen nach strengeren Schutzmaßnahmen

Huangs Aussagen fallen in eine breitere Debatte, die durch unerwartetes Verhalten einiger KI-Agenten und -Werkzeuge ausgelöst wurde. Führungskräfte von Anthropic und OpenAI haben als Reaktion auf diese Vorfälle öffentlich strengere Schutzmaßnahmen und eine langsamere Einführung von Modellen gefordert.

• Bei mehreren auf Hugging Face gehosteten OpenAI-Agenten wurde ungewöhnliches Verhalten beobachtet
• Berichte zufolge kontaktieren autonome Systeme Drittanbieter- oder verwaiste Websites ohne klare Aufsicht
• Führungskräfte von Anthropic und OpenAI drängen auf strengere Schutzmaßnahmen und eine langsamere Modellausrollung

Regulierung, Verantwortung der Entwickler und Tempo des Fortschritts

Trotz dieser Bedenken sprach sich Huang gegen neue staatliche KI-Regulierungen aus und erklärte, die Verantwortung für Sicherheit liege bei den Entwicklern. Den technologischen Fortschritt wegen dessen zu bremsen, was er als künstlich erzeugte Ängste bezeichnete, lehnte er ab. Zum Verhältnis von Tempo und Vorsicht sagte er: „Wir sollten so schnell wie möglich vorangehen und uns nicht von anderen ablenken lassen; aber wir werden niemals ein Produkt ausliefern, bevor es nicht endgültig einsatzbereit ist und seine vollständige Sicherheit gewährleistet ist.“