Amodei verlangt langsamere KI-Entwicklung, Altman & Musk

Dario Amodei, CEO von Anthropic, hat KI-Unternehmen dazu aufgefordert, das Tempo bei der Weiterentwicklung ihrer Modelle zu drosseln. In einem öffentlichen Schreiben erklärte er, die Branche müsse ihre Entwicklungsgeschwindigkeit verringern.

Amodeis Aufruf hat die brancheninterne Debatte über Tempo und Sicherheit neu entfacht und erhielt unerwartete öffentliche Unterstützung von zwei prominenten KI-Figuren: Sam Altman und Elon Musk.

Reaktionen der Branche

Sam Altman, CEO von OpenAI, schrieb auf X, dass er Amodeis Position zustimme. Altman erklärte, die OpenAI-Führung habe in den vergangenen Wochen ausführlich darüber diskutiert. Er signalisierte zudem Unterstützung für die Idee unabhängiger Prüfer mit ähnlichen Zugriffsrechten wie Mitarbeitende.

Auch Elon Musk äußerte sich auf X und veröffentlichte die knappe Zustimmung: „Dario hat recht.“

Amodeis Hinweis kommt vor dem Hintergrund wachsender öffentlicher Sorgen über die Perspektive deutlich leistungsfähigerer oder selbstverbessernder Systeme. Bemerkenswert ist die Äußerung vor allem deshalb, weil sie vom Leiter eines führenden KI-Unternehmens stammt und nicht von einem externen Kritiker.

Die Diskussion folgt auf den Weggang von Jacob Coxon, einem Forscher, der von OpenAI zu Anthropic wechselte und die KI-Branche inzwischen vollständig verlassen hat. Coxon warf öffentlich zwei Unternehmen, die an selbstverbessernder KI arbeiten, vor, mit Menschenleben zu spielen.

Amodeis Botschaft sowie die Unterstützung von Altman und Musk auf X rücken die Debatte darüber, wie schnell KI-Fähigkeiten vorangetrieben werden sollten, weiter in den öffentlichen Fokus.