König Charles III warnt vor gefährlichen KI-Fähigkeiten

König Charles III. sagte am Donnerstag Spitzenvertretern von KI-Unternehmen, künstliche Intelligenz könne „dunklere Fähigkeiten entwickeln – möglicherweise sogar die Fähigkeit, menschliches Leben zu nehmen“. Schutzmaßnahmen müssten ergriffen werden, bevor es zu spät sei.

Die Warnung sprach er bei einem privaten Treffen mit einigen der führenden Persönlichkeiten der Branche und hochrangigen britischen Beamten aus. Den anwesenden Technologiechefs sagte der König, dass „die Menschen, die diese Technologien geschaffen haben, jetzt mehr denn je davor warnen, dass KI Gefahr läuft, dunklere Fähigkeiten zu entwickeln – möglicherweise sogar die Fähigkeit, menschliches Leben zu nehmen“. Er fügte hinzu: „In diesem Zusammenhang, wenn ich das so sagen darf, scheint es dringend geboten, die existenziellen Risiken zu prüfen, die entstehen, wenn diese Technologien in falsche Hände geraten und potenziell katastrophal eingesetzt werden.“

Teilnehmer und Kontext des Treffens

Zu den Anwesenden gehörten Jensen Huang, Chief Executive von Nvidia, mehrere Führungskräfte von OpenAI und Anthropic, Kanishka Narayan, der neue britische Minister für künstliche Intelligenz, sowie der Leiter des britischen Auslandsgeheimdienstes. Ebenfalls dabei war Paolo Benanti, päpstlicher Berater für KI. Das Treffen war privat und fand am Donnerstag statt.

Die Äußerungen sind bemerkenswert, da die britische Königsfamilie sich aus verfassungsrechtlichen Gründen traditionell nicht tiefgreifend in politische Debatten einmischt. Künstliche Intelligenz zählt derzeit jedoch zu den umstrittensten globalen Themen. Der König beschrieb die rasante Entwicklung der KI als gleichermaßen faszinierend und zutiefst beunruhigend.

Sicherheitsbedenken und ein jüngster Rücktritt

Die Kommentare des Königs folgten auf den Rücktritt eines Anthropic-Forschers, der Sicherheitsbedenken als Grund nannte. In einem Online-Beitrag schrieb der Forscher, KI-Unternehmen „konkurrieren darum, Maschinen zu bauen, die weit klüger sind als jeder Mensch“, und warnte: „Die Menschheit wird dies möglicherweise nicht überleben.“

König Charles schloss mit dem Aufruf an die Führungskräfte, Wege zu finden, die positiven Aspekte der KI zu nutzen sowie internationale Zusammenarbeit und einen Konsens aufzubauen, um dieses Ziel zu erreichen.