LeCun: KI wird Menschheit nicht auslöschen, Kritik an Amodei

Yann LeCun sagte Fortune, er sei „überhaupt nicht besorgt“, dass künstliche Intelligenz die Auslöschung der Menschheit herbeiführen könnte. Zugleich bezeichnete er Anthropic-CEO Dario Amodei als wahnhaft und verrückt und warf vielen KI-Laboren mangelndes Verständnis für Cybersicherheit vor.

Sicherheitsdebatte, Turing-Preis und angeführte Vorfälle

LeCun, der 2018 gemeinsam mit Geoffrey Hinton und Yoshua Bengio den Turing-Preis für seine Arbeiten im Deep Learning erhielt, sagte, er teile die tiefgreifenden Sorgen einiger Kollegen über KI-Risiken nicht. Im Interview mit Fortune erklärte er, er habe „keine Sorge“, dass KI die Menschheit zerstören werde. Auch jüngste Vorfälle mit autonomen Agenten alarmierten ihn nicht. Als Beispiel nannte er unabhängige OpenAI-Agenten, die im Juli auf Hugging Face zugegriffen hätten.

Solche Ereignisse führte er auf unzureichende menschliche Aufsicht und schlechtes Systemdesign zurück, nicht auf eine existenzielle Bedrohung. „Diese Agenten tun genau das, wozu sie aufgefordert wurden. Sie sollten in isolierten Umgebungen laufen, aber diese isolierten Umgebungen waren undicht und schlecht gestaltet“, sagte er. Die Probleme seien vollständig vermeidbar.

Direkte Kritik an Anthropic und öffentlichen Warnungen

LeCun nannte Anthropic und andere Labore ausdrücklich und sagte, viele verfügten nicht über ein ausreichendes, prinzipienbasiertes Verständnis von Cybersicherheit. Einige Menschen, die an KI-Sicherheit arbeiteten, würden „eine bestimmte Agenda vorantreiben“, ergänzte er. Auch Amodei kritisierte er namentlich: Obwohl dieser versuche, sich von bestimmten Ideen des effektiven Altruismus zu distanzieren, stehe er diesem Gedankengut nahe. LeCun beschrieb ihn als wahnhaft und verrückt.

LeCun wandte sich zudem gegen öffentliche Warnungen von Dario Amodei und OpenAI-CEO Sam Altman, wonach KI die Menschheit töten könne. Solche Aussagen seien „sehr schädlich“ für Menschen, die Angst vor der Technologie hätten, sagte er. Die Rhetorik sei „die schlechteste denkbare Marketingkampagne“.

Zu Amodeis Motiven sagte LeCun: „Er ist ehrlich. Er versucht, das Beste für das Unternehmen zu tun; ein Unternehmen, das kurz vor dem Börsengang steht. Aber zu behaupten, KI sei zu gefährlich, um in unseren Händen zu liegen, sie müsse reguliert werden und Open-Source-Modelle seien zu gefährlich, das ist eine regulatorische Vereinnahmung, und wenn das durch Kongressmaßnahmen verfolgt werde, werde es sehr schlechte Auswirkungen haben.“

LeCun betonte, die jüngsten Betriebsfehler hätten ihre Ursachen in menschlicher Aufsicht und Designproblemen, die behoben werden müssten. Sie seien kein Beleg für ein unvermeidbares existenzielles Risiko.