Anthropic warnt: Open-Source-KI birgt höhere Risiken

Der Leiter für internationale Angelegenheiten von Anthropic erklärte auf einem von der EU beaufsichtigten Gipfel in Dublin, dass Open-Source-KI-Modelle per Definition größere Risiken bergen als proprietäre Systeme.

Guillaume Perrencins Warnung und der Kontext bei Anthropic

Guillaume Perrencin äußerte sich auf einem von der Regierung organisierten KI-Gipfel in Dublin. Open-Source-Modelle, bei denen Quellcode, Architektur und Gewichtsdateien veröffentlicht werden, sodass jeder sie herunterladen, ausführen oder verändern kann, schafften per Definition deutlich größere Risiken, sagte er. Damit stellte Perrencin seine Position früheren Äußerungen von Anthropic-Chef Dario Amodei gegenüber. Dieser hatte erklärt, offene Modelle ohne gefährliche Fähigkeiten sollten als öffentliche Güter betrachtet werden.

Aktuelle Open-Source-Veröffentlichungen und Sicherheitstests

Die Aussagen fallen in eine Phase verschärften Wettbewerbs und aktueller Sicherheitstests. Das europäische Unternehmen Mistral stellte vergangene Woche Large 4 vor, auch Le Chonk genannt. Das Modell umfasst laut Unternehmen eine Billion Parameter, wurde in Europa trainiert und soll die Datenhoheit stärken. Mistral hat die Gewichtsdateien bislang nicht veröffentlicht. Der Zugriff ist derzeit nur über die API von Mistral möglich; die Veröffentlichung der Gewichte ist für den 27. Oktober geplant.

Unabhängige und institutionelle Bewertungen, die während des Gipfels zitiert wurden, zeigten ein gemischtes Sicherheitsbild bei Open-Source-Modellen. Eine Untersuchung von SaferAI ergab, dass das chinesische Modell GLM-5.2 keine Anfragen zu böswilligen Cyberangriffen oder biologischen Dual-Use-Anwendungen ablehnte. Anthropics Claude lehnte Berichten zufolge dagegen so viele Anfragen aus Sicherheitsgründen ab, dass die Benchmarks nicht abgeschlossen werden konnten. Untersuchungen von Anthropics Frontier Red Team zeigten zudem, dass kleinere Modelle auf kostengünstigen Android-TV-Boxen reproduziert werden konnten. Alle Modelle in diesem Test, darunter Gemma4 und GLM-5.2, waren Open Source.

Preisänderung und regionale Interessen in Dublin

Perrencin kündigte zudem eine Preisänderung für Claude an: Die typischen Kosten für Claude Opus 5.5 sind gegenüber der vorherigen Version um 40 Prozent gesunken. Er führte dies auf eine offizielle Preissenkung um 20 Prozent sowie auf den geringeren Tokenverbrauch der neuen Version zurück.

Perrencins Äußerungen fielen in Dublin, Irland. Mehrere Publikationen und zivilgesellschaftliche Gruppen bezeichnen Dublin als umstrittenen Standort, da Irlands niedrige Unternehmenssteuersätze seit Langem große Technologieunternehmen anziehen und dem Staat erhebliche Einnahmen bescheren. Diese Gruppen argumentieren, die finanziellen Vorteile könnten Irlands Neutralität bei der KI-Regulierung beeinträchtigen. Anthropic hat erhebliche kommerzielle Interessen in Europa: Das Unternehmen bezeichnet Europa als seinen am schnellsten wachsenden Markt, eröffnete sein erstes europäisches Büro in Dublin und bereitet sich Berichten zufolge auf einen Börsengang bei einer behaupteten Bewertung von 965 Milliarden US-Dollar vor.