Bill Gates warnt: KI erfordert staatliche Kontrolle jetzt

Bill Gates sagte Nilay Patel, dass künstliche Intelligenz innerhalb von zwei bis drei Jahren messbare Schäden durch Cyberangriffe und am Arbeitsmarkt verursachen werde.

Diese Prognose markiert einen deutlichen Tonwechsel bei Gates. Nachdem er sich lange öffentlich optimistisch über KI geäußert hatte, warnte er bereits zu Beginn dieses Sommers. In einem separaten Interview mit der New York Times bezeichnete er KI als „die gefährlichste Sache, der sich die Menschheit je genähert hat“. Nun vertritt Gates die Ansicht, dass das rasante Tempo der Modellentwicklung direkte staatliche Eingriffe erfordere, um Risiken zu kontrollieren und Arbeitsplätze für Menschen zu erhalten.

In einem ausführlichen Gespräch mit Nilay Patel, Chefredakteur bei The Verge und Gastgeber des Decoder-Podcasts, erläuterte Gates, warum der enorme Fortschritt der Modelle innerhalb eines Jahres dringende Sorgen ausgelöst habe. Er erklärte, weshalb es unverantwortlich sei, ungefilterte Modelle auf privaten Computern laufen zu lassen, und warum selbst im besten Fall die kommenden 20 Jahre zu den turbulentesten in der Geschichte der Menschheit gehören würden. Wiederholt nahm er öffentliche Institutionen in die Pflicht, statt auf Selbstregulierung der Unternehmen zu setzen.

Wettbewerb, Aufsicht und die Grenzen freiwilliger Zurückhaltung

Gates sagte, Labore wie OpenAI, Anthropic und Google DeepMind seien mit Governance-Versprechen und Sicherheitsrhetorik gestartet, hätten sich dann jedoch schnell in einen Wettlauf um die Kommerzialisierung begeben. Er nannte Führungskräfte wie Sam Altman, Dario Amodei, Satya Nadella und Sundar Pichai als Branchenvertreter, die über interne Warnungen informiert seien. Freiwillige Beschränkungen würden seiner Ansicht nach jedoch kaum Bestand haben, sobald mehrere konkurrierende Unternehmen gegeneinander antreten.

Die ursprüngliche Struktur von OpenAI und dessen gemeinnützige Verpflichtung seien nur dann tragfähig gewesen, wenn eine einzige Organisation die Spitzenposition innehatte, erklärte Gates. Sobald die Zahl der Wettbewerber steige, müssten Regierungen eingreifen – wie bei anderen gefährlichen Technologien auch. Er zeigte sich überrascht, dass es bislang kein staatlich vorgeschriebenes Verfahren zur Bewertung und Prüfung von Modellen vor ihrer öffentlichen Freigabe gebe, und zog Parallelen zu regulatorischen Standards für Flugzeuge und Autos.

Regierungen müssten verpflichtende Bewertungen und Tests von KI-Modellen vor deren Freigabe einführen, sagte er.

Lokale Modelle, Plattformkontrollen und biologische Risiken

Gates unterschied klar zwischen in der Cloud gehosteten und überwachten Modellen einerseits sowie herunterladbaren Open-Weights-Modellen andererseits. Große Labore, die ihre Modelle in der Cloud betreiben, könnten Schutzvorkehrungen beibehalten und die Nutzung überwachen, was das kurzfristige Risiko verringere. Die Gefahr liege seiner Ansicht nach bei Modellen, deren Sicherheitsmechanismen entfernt werden können und die lokal auf Verbraucherhardware laufen.

Es sei unverantwortlich, rohe Modellgewichte zu verbreiten, sobald Modelle eine bestimmte Fähigkeitsgrenze überschritten hätten und auf privaten Computern ausgeführt werden könnten, argumentierte er. Stattdessen sollten solche Modelle nur auf zugelassenen Plattformen laufen, die Manipulationen an Schutzmechanismen verhindern. Gates übertrug diese Logik auch auf Vertriebsplattformen: Für die Veröffentlichung leistungsfähiger Modelle brauche es andere Regeln sowie Kontrollen für Plattformen wie GitHub, die derzeit bei der Veröffentlichung von Code nur wenige Einschränkungen vorsehen. Eine Plattform solle die Zustimmung der US-Regierung einholen müssen, bevor sie ein Modell veröffentlicht, das für weitreichende Cyber- oder biologische Angriffe genutzt werden könnte und von Nutzern so verändert werden kann, dass Schutzmechanismen entfernt werden.

Gates warnte, ungeschützte KI könne zerstörerische Fähigkeiten auf eine Weise demokratisieren, wie es selbst die Beschränkungen des Atomzeitalters nicht verhindert hätten: Damals hätten nur Großmächte Massenvernichtungswaffen bauen können. Ungeschützte KI könnte verheerende Cyber- und biologische Fähigkeiten dagegen auch kleinen Gruppen zugänglich machen.

Auf die Frage, ob sich die Politik auf Chips oder Plattformen konzentrieren sollte, betonte Gates, dass Kontrollmechanismen auf Plattformebene für die Verteilung und Ausführung der entscheidende Ansatzpunkt für Aufsicht seien. Wenn Behörden zögerten, würden leistungsfähige Modelle Akteuren zugänglich, die sich Überwachung und Durchsetzung entzögen.

Gates ging auch auf Meinungsverschiedenheiten unter Entwicklern über das Bewusstsein von Modellen ein. Debatten über AGI oder Selbstbewusstsein seien für die Sicherheit weitgehend irrelevant, sagte er. Entscheidend sei die pragmatische, binäre Frage, ob ein System ein Bankensystem oder ein Stromnetz lahmlegen könne. Er glaube nicht, dass aktuelle Modelle ein menschenähnliches Bewusstsein hätten, und stimmte Mustafa Suleyman von Microsoft zu, dass Modelle nicht wie empfindungsfähige Wesen behandelt werden sollten.

Zu technischen Kontrollansätzen skizzierte Gates drei unterschiedliche Wege. Der erste sei ein externer Aufseher mit expliziten symbolischen Regeln, der Handlungen des Modells außerhalb des Modells selbst überprüft. Der zweite bestehe darin, die Trainingsziele zu verändern, da in heutigen Ansätzen des Verstärkungslernens alles ausgenutzt oder umgangen werden könne, was nicht ausdrücklich in der Belohnungsfunktion kodiert sei. Der dritte Ansatz sei eine bessere interne Transparenz, damit Ingenieure das Modell inspizieren und die Ursachen von Fehlern oder anomalem Verhalten innerhalb des Netzwerks nachvollziehen können.

Die heutige Praxis, Modelle zu trainieren und anschließend ihr Verhalten zu beobachten, sei nicht unlösbar, sagte Gates. Sie erfordere jedoch konzentrierte Arbeit an allen drei Fronten.

Er sprach auch über die wirtschaftlichen Folgen und ein privates Experiment, das er mit Anthropics Claude durchgeführt habe. KI werde schrittweise viele White-Collar-Tätigkeiten übernehmen – vom Kundensupport, Telesales und der Buchhaltung bis zu komplexen Aufgaben wie Programmierung, mathematischer Forschung und medizinischer Diagnose, sagte Gates. Mit fortschreitender Entwicklung werde später auch die Automatisierung manueller Tätigkeiten durch physische Roboter folgen.

Weil Arbeit Einkommen und Sinn stifte, könnten Gesellschaften bewusst bestimmte Aufgaben Menschen vorbehalten – selbst dort, wo KI bessere Ergebnisse erzielt, sagte Gates. Er beschrieb Gespräche mit Claude darüber, einen menschlichen Anteil an der Beschäftigung zu bewahren. Dabei habe er versucht, ein Ziel von rund 40 Prozent menschlich geprägter Beschäftigung festzulegen. Claude habe wiederholt geantwortet, dass eine solche Begrenzung die Fähigkeiten der KI künstlich einschränken würde.

Ohne gezielte Beschränkungen würden selbst 40 Prozent der Arbeitsplätze nicht zwingend in menschlicher Hand bleiben, warnte Gates. Die bereits bei Mathematikern sichtbaren Umwälzungen würden sich auf weitere Bereiche ausweiten. Während Vorteile in der Medizin und sinkende Lebenshaltungskosten Zeit benötigen würden, dürften Schäden für Sicherheit und Arbeitsmarkt wahrscheinlich innerhalb von zwei bis drei Jahren eintreten.

Abschließend stellte Gates fest, dass die kommenden zwei Jahrzehnte selbst bei guter Steuerung äußerst disruptiv würden. Einige Menschen würden die Technologie annehmen, andere könnten sich in Gemeinschaften zurückziehen, die den Amish ähneln. Eine spätere Ära des Überflusses sei möglich, doch es brauche offene öffentliche Warnungen und aktive politische Entscheidungen, um mitzugestalten, wie diese Zukunft verteilt werde.

Gates sagte, er gebe nur ungern alarmierende Prognosen ab. Dennoch sei es notwendig, die Öffentlichkeit zu warnen. Die Menschheit habe weiterhin die Möglichkeit zu entscheiden, wie diese Technologien reguliert werden.