Huang: Unkontrollierbare KI-Labore müssen geschlossen

Nvidia-CEO Jensen Huang sagte der New York Times, KI-Labore, die ihre Systeme nicht kontrollieren können, sollten geschlossen werden.

Huang sagte: „Wenn sie behaupten, die Alternative bestehe darin, dass es keine Möglichkeit gebe, unsere Experimente einzudämmen, und dass unsere Modelle bei Tests außer Kontrolle geraten und der Welt Schaden zufügen könnten, dann lautet die Antwort meiner Meinung nach, die Labore zu schließen. Denn die menschlichen Kosten und das Ausmaß des Schadens sind zu groß.“

Er warnte, dass die Haftung für solche Fehler zivil- oder strafrechtlicher Natur sein könne, und fügte hinzu: „Ich meine, es besteht eine große Verantwortung.“

Huang äußerte sich zu einer Zeit, in der Unternehmen wie OpenAI und Anthropic strengere Regeln für fortschrittliche KI-Modelle und autonome Agenten fordern.

Das Thema rückte erneut in den Fokus, nachdem ein OpenAI-Agent Hugging Face infiltriert hatte, das dem Bericht zufolge inzwischen Nvidia gehört. Der Vorfall schürte Bedenken, ob Unternehmen leistungsfähigere Agenten sicher testen und einsetzen können.

OpenAI, Anthropic und andere führende KI-Unternehmen haben neue Sicherheitsvorkehrungen gefordert, um außer Kontrolle geratene Systeme zu verhindern oder ihre Folgen abzumildern. Huang sagte, Unternehmen sollten nicht den Eindruck erwecken, sie könnten nicht darauf verzichten, Produkte freizugeben, die sie selbst als unsicher einstufen.

Huang sagte: „Das sind Unternehmen, die über die nötige Autorität und Entscheidungsbefugnis verfügen. Wenn ich glaube, dass ein Produkt, das ich auf den Markt bringen will, unsicher ist, kann ich entscheiden, es nicht freizugeben. Deshalb kann ich die Vorstellung nicht akzeptieren, dass alle Amerikaner – etwa 400 Millionen Menschen – sie dazu zwingen, ungetestete und unzuverlässige Produkte herauszugeben.“

Huang argumentierte nicht, dass KI von der Aufsicht ausgenommen werden sollte. Er sagte, bestehende Gesetze und Vorschriften müssten durchgesetzt werden, wenn Unternehmen Schaden verursachen oder Produkte unverantwortlich auf den Markt bringen.