8 Minuten
Sam Altman klingt normalerweise nicht wie ein Mann, der sich auf einen Gerichtsprozess vorbereitet. Dieses Mal allerdings schon.
Nach der Kritik an der neu bekannt gewordenen Zusammenarbeit von OpenAI mit dem US-Verteidigungsministerium erklärt der CEO, das Unternehmen werde seine Vereinbarung neu formulieren, um einen Punkt unmissverständlich herauszustellen: Die KI-Systeme von OpenAI dürfen nicht zur Massenüberwachung von US-Bürgern verwendet werden.
Altman veröffentlichte ein internes Memo — ursprünglich an Mitarbeitende gerichtet — in dem die Änderung erläutert wird. Die überarbeitete Formulierung, so sagt er, werde ausdrücklich die absichtliche innländische Überwachung von US-Personen und Staatsangehörigen verbieten und diese Einschränkung an bestehende rechtliche Schutzmechanismen wie den Vierten Verfassungszusatz (Fourth Amendment), den National Security Act und den Foreign Intelligence Surveillance Act (FISA) knüpfen.
Die vorgeschlagene Wortwahl im Memo ist für einen Auftragnehmer der Regierung ungewöhnlich direkt. Sie legt fest, dass im Einklang mit dem anwendbaren US-Recht das KI-System 'nicht absichtlich für die innländische Überwachung von US-Personen und Staatsangehörigen verwendet werden darf.' Zusätzlich wird eine klarstellende Passage ergänzt, die Schlupflöcher schließen soll: Das Verbot bezieht sich ausdrücklich auf bewusstes Tracking oder Monitoring, selbst wenn dies durch kommerziell erworbene persönliche oder identifizierbare Informationen ermöglicht wird.
Eine Vertragsänderung — und eine klare Linie
Altman behauptet außerdem, das Verteidigungsministerium habe etwas bestätigt, das Kritiker sofort beunruhigt hatte: OpenAIs Dienste würden unter dem aktuellen Vertrag nicht automatisch an US-Geheimdienste wie die NSA weitergeleitet. Sollte sich das je ändern, so schreibt er, wäre dafür eine Vertragsänderung erforderlich.
Der Satz, der am schnellsten die Runde machte, lautete: Altman schrieb, wenn er einen Befehl erhielte, den er für verfassungswidrig halte, würde er lieber ins Gefängnis gehen als zu gehorchen. Das ist natürlich eine dramatische Formulierung — gleichzeitig ist es ein Signal, dass OpenAI versucht, eine klare Grenze zwischen 'Verteidigungsarbeit' und 'innländischer Überwachung' zu ziehen, ein Unterschied, der sich tendenziell verwischt, sobald KI ins Spiel kommt.
Altman räumte auch ein, dass die Veröffentlichung schlecht gelaufen sei. Nach seiner Darstellung habe OpenAI die Ankündigung zu schnell herausgegeben — die Probleme seien 'sehr komplex' und bedürften klarerer Kommunikation. Die Absicht sei gewesen, eine angespannte Situation zu deeskalieren und 'ein viel schlimmeres Ergebnis' zu verhindern. Stattdessen wirkte das Timing opportunistisch und verstärkte Misstrauen.
Und das Timing war in der Tat bemerkenswert: Die Partnerschaft von OpenAI wurde kurz nach dem Befehl von Präsident Donald Trump bekannt, US-Regierungsbehörden die Nutzung von Anthropic's Claude und anderen Diensten von Anthropic zu untersagen. Anthropic arbeitet übrigens seit 2024 in bestimmten Bereichen mit der Bundesregierung zusammen.
Worauf die Vertragsformulierung abzielt
Die präzisere Vertragssprache verfolgt mehrere Ziele: Erstens die rechtliche Absicherung gegen missbräuchliche Nutzung durch staatliche Stellen, zweitens die Wiederherstellung öffentlichen Vertrauens durch eindeutige Zusicherungen, und drittens die Schaffung klarer interner Richtlinien für Entwickler und Sicherheitsteams. Indem OpenAI Begriffe wie 'absichtlich' und 'innländisch' definiert, versucht das Unternehmen, ambiguïteiten zu reduzieren, die in Rechtsstreitigkeiten oder bei Auslegungsschwierigkeiten problematisch wären.
Aus technischer Sicht ist das schwierig, weil KI-Systeme in komplexen Datenökosystemen operieren: Modelle können mit Trainingsdaten, APIs und externen Datenfeeds interagieren; sie können Vorhersagen liefern, Muster erkennen und Prozesse automatisieren. Vertragliche Verbote sind wichtig, aber ihre Durchsetzung setzt auch technische Kontrollen voraus — etwa Auditing, Zugriffsbeschränkungen, Protokollierung und klare Governance-Prozesse. Altman deutet an, dass solche Kontrollen Teil der vertraglichen Umsetzung sein sollen.
Rechtlicher Kontext und Grenzen
Die Verknüpfung des Verbots mit dem Vierten Verfassungszusatz, dem National Security Act und dem FISA schafft eine juristische Referenzlandschaft, die im US-Kontext relevant ist. Der Vierte Verfassungszusatz schützt vor unangemessenen Durchsuchungen und Beschlagnahmen und gibt richterliche Anforderungen vor; FISA regelt bestimmte Formen der Auslands- und Nachrichtendienstüberwachung und enthält spezielle Genehmigungs- und Kontrollmechanismen. Der National Security Act legt institutionelle Grundlagen für Nachrichtendienste und nationale Sicherheit fest.
Diese Bezüge sind absichtlich breit: Sie signalisieren, dass OpenAI nicht nur eine interne Unternehmenspolitik einführt, sondern sich an bestehende rechtliche Rahmen hält. Gleichzeitig bleibt offen, wie solche Normen im Einzelfall ausgelegt und durchgesetzt werden, wenn beispielsweise eine Regierung aus nationalen Sicherheitsgründen Druck ausübt.
Anthropic, Schutzvorkehrungen und der politische Druckkochtopf
Die tiefere Geschichte hier ist nicht nur eine Vertragsklausel — es ist die wachsende Kluft zwischen großen KI-Labors darüber, was ihre Modelle in den Händen der Regierung tun dürfen und was nicht.
Laut den Berichten, die in Altmans Memo zitiert werden, hätten Führungskräfte des Verteidigungsministeriums und der Minister Pete Hegseth Anthropic unter Druck gesetzt, Claudes Sicherheitsvorkehrungen abzuschwächen, damit das Modell für jegliche 'rechtmäßige' Zwecke einsetzbar wäre. Zu den als 'rechtmäßig' diskutierten Anwendungsfällen sollen demnach Massenüberwachung und Arbeiten an völlig autonomen Waffen gehört haben.
Anthropic lehnte das ab. In einer Stellungnahme erklärte das Unternehmen, 'keine Form von Einschüchterung oder Bestrafung' werde seine Position bezüglich Massenüberwachung im Inland oder völlig autonomer Waffen ändern. Daraufhin folgte Trumps Anordnung, und das Verteidigungsministerium traf offenbar erste Schritte, um Anthropic als 'Lieferkettenrisiko' einzustufen — eine Bezeichnung, die üblicherweise eher auf ausländische (oft chinesische) Firmen angewandt wird, denen Regierungskontakte oder mögliche Abhängigkeiten vorgeworfen werden.
Altman sagt, er habe US-Beamten mitgeteilt, Anthropic sollte nicht als Lieferkettenrisiko eingestuft werden, und er habe gehofft, das Pentagon würde Anthropic das gleiche Angebot machen, das OpenAI akzeptiert habe. In einem AMA am Wochenende auf X fügte er eine Einschränkung hinzu: Er kenne nicht die Details von Anthropic's Vereinbarung oder wie sie sich unterscheide. Sollte sie aber im Wesentlichen identisch sein, so glaubt er, hätte Anthropic das Angebot annehmen sollen.
Politische und wirtschaftliche Dynamiken
Dies ist nicht nur ein Politikstreit — es ist öffentliches Wettbewerbstheater. Nachdem die Nachricht über OpenAIs Deal mit dem Verteidigungsministerium bekannt wurde, stieg Claude an die Spitze der kostenlosen Apps im Apple App Store und überholte zeitweise ChatGPT und Google Gemini. Anthropic handelte schnell und veröffentlichte ein Werkzeug zum Importieren von 'Erinnerungen', um den Wechsel zwischen Chatbots zu erleichtern. Gleichzeitig stiegen die Deinstallationen von ChatGPT laut Sensor Tower binnen eines Tages um 295 %.
Diese Marktbewegungen zeigen: Nutzerreaktionen auf Fragen von Ethik, Privatsphäre und staatlicher Zusammenarbeit sind unmittelbar und können das Nutzerverhalten stark beeinflussen. Vertrauen schwindet schnell, wenn Kunden das Gefühl haben, Schutzmaßnahmen könnten verhandelbar sein.
Warum das Thema über eine einzelne Firma hinausgeht
Die Auseinandersetzung berührt mehrere übergeordnete Themen: die Rolle von Technologieunternehmen in der nationalen Sicherheit, die Grenzen der unternehmensinternen Ethik versus staatliche Interessen, sowie die Frage, wie sich demokratische Rechtsstaaten im Zeitalter leistungsfähiger KI-Instrumente schützen. Regulierungsbehörden, Legislative und die Gerichte werden zunehmend wichtige Rollen spielen, wenn es darum geht, verbindliche Regeln für den Einsatz von KI durch staatliche Akteure zu formulieren und durchzusetzen.
Für Entwickler, Anwender und politische Entscheider ist es entscheidend, technologische Möglichkeiten realistisch einzuschätzen. KI-Modelle sind mächtig, aber nicht allmächtig: Sie treffen Vorhersagen, sie identifizieren Muster, sie unterstützen Entscheidungsprozesse — doch sie können auch Fehler machen, systematische Verzerrungen aufweisen oder für Überwachungszwecke missbraucht werden, wenn keine harten Kontrollen greifen.
Technische Maßnahmen zur Durchsetzung vertraglicher Vorgaben
Um vertragliche Zusicherungen praktisch wirksam zu machen, sind mehrere technische und organisatorische Maßnahmen notwendig:
- Zugriffs- und Rollenmanagement: Nur autorisierte Personen mit klar geregelten Berechtigungen dürfen auf sensible Funktionen zugreifen.
- Audit-Logs und Nachvollziehbarkeit: Lückenlose Protokollierung von Anfragen und Modellantworten zur forensischen Prüfung.
- Datenkontrolle: Einschränkungen bei der Nutzung und Weitergabe personenbezogener Daten, inklusive Schutz vor dem Einkauf sensibler Datensätze für Monitoring-Zwecke.
- Red-Teaming und externe Prüfungen: Unabhängige Sicherheitsüberprüfungen, um mögliche Missbrauchspfade zu identifizieren.
- Vertragliche Sanktionen und Compliance-Prozesse: Klare Folgen bei Verstößen, verbunden mit Mechanismen zur Streitbeilegung.
Solche Maßnahmen würden helfen, die Lücke zwischen Vertragswortlaut und tatsächlicher Praxis zu schließen. Aber sie erfordern Aufwand, Transparenz und regelmäßige Überprüfung — und nicht jede Organisation ist bereit oder in der Lage, diese Anforderungen zu erfüllen.
Insgesamt zeigt der Fall, wie verwundbar das Vertrauen in Technologieplattformen ist und wie sensibel die Balance zwischen nationaler Sicherheit und Bürgerrechten bleibt, insbesondere in Demokratien mit starken verfassungsrechtlichen Schutzmechanismen.
Die Diskussion wird voraussichtlich weitergehen: Es ist wahrscheinlich, dass Kongressanhörungen, regulatorische Prüfungen und möglicherweise gerichtliche Auseinandersetzungen folgen könnten, wenn klare Leitplanken fehlen oder wenn Nutzer und Zivilgesellschaften weiterhin erheblichen Druck ausüben.
Kommentar hinterlassen