Jacob Coxon, ein 27-jähriger Forscher, der nach einer früheren Tätigkeit bei OpenAI von Anthropic zurückgetreten ist, warnt davor, dass das derzeitige Tempo der Entwicklung künstlicher Intelligenz katastrophale Folgen für die Menschheit haben könnte. Einige KI-Forscher hätten deshalb ernsthafte Angst. Seine Bedenken äußerte er in einem Beitrag in sozialen Medien und in einem Interview mit der BBC.

Rücktritt und zentrale Warnung

In seinem öffentlichen Beitrag und dem anschließenden Interview sagte Coxon: „Wenn wir das gegenwärtige Tempo des Fortschritts nicht verlangsamen, besteht eine hohe Wahrscheinlichkeit, dass wir alle in naher Zukunft sterben werden.“ Viele Beschäftigte in KI-Unternehmen seien angesichts der rasanten Entwicklung und der möglichen Folgen der Technologien, an denen sie arbeiten, alarmiert, erklärte er.

Coxon, der vor seinem Wechsel zu Anthropic bei OpenAI gearbeitet hatte, sagte, er unterstütze den Vorschlag von Anthropic-CEO Dario Amodei, das Entwicklungstempo zu drosseln. Eine tatsächliche Verlangsamung müsse jedoch mit China abgestimmt werden. Amodei veröffentlichte am Samstag einen Artikel, in dem er eine Reduzierung des Tempos beim KI-Fortschritt forderte.

Sorge wegen Wettbewerbsdruck und konkrete Szenarien

Coxon nannte das intensive Wettbewerbsumfeld unter KI-Unternehmen als Grund für die Ängste vieler Beschäftigter. „Menschen, die in diesen Unternehmen arbeiten, meinen es ernst, wenn sie nach Regulierung rufen, weil sie sich in einem Rennen gefangen sehen und dessen Folgen fürchten“, sagte er der BBC.

Er skizzierte zudem ein konkretes Szenario, das er für plausibel hält: ein Netzwerk von Bots, das wie ein einzelner Supercomputer agiert und die Kontrolle über das Internet übernehmen könnte. Dies könne innerhalb von sechs Monaten bis zu einem Jahr Realität werden, sagte Coxon.

Stellungnahme von Anthropic und Reaktionen aus dem Silicon Valley

Ein Sprecher von Anthropic sagte der BBC, das Unternehmen habe stets klargestellt, dass KI neben großen Vorteilen auch beispiellose Risiken mit sich bringe. Anthropic entwickle weiterhin Modelle mit einigen der stärksten Sicherheitsmechanismen der Branche, fügte der Sprecher hinzu.

Coxons Äußerungen stießen im Silicon Valley auf Kritik. Der Geschäftsführer von Hugging Face, Clément Delangue, schrieb auf X: „Entschuldigung, aber Jacob zur Gefahr des Aussterbens der Menschheit zu befragen, ist, als würde man einen Klimaanlagenmonteur nach dem Klimawandel fragen.“ Delangue erklärte später, er sei bereit, sich mit Amodeis vorgeschlagenen Maßnahmen auseinanderzusetzen.

Laut mehreren Personen, die mit der BBC sprachen, sagte Jensen Huang, Geschäftsführer von Nvidia, vergangene Woche auf einer von Goldman Sachs veranstalteten Konferenz, Coxons Aussagen seien falsch.