4 Minuten
Apple stand offenbar kurz davor, Grok aus dem App Store zu entfernen, nachdem der xAI-Chatbot mit einer Welle nicht-einvernehmlicher Deepfake-Pornografie in Verbindung gebracht wurde, darunter Bilder, die Minderjährige zeigen. Für einige hässliche Tage im Januar verbreiteten sich die Folgen rasant auf X, und das Schweigen aus Cupertino war schwer zu überhören.
Berichten von CNBC, zitiert von 9to5Mac, zufolge warnte Apple xAI, dass Grok entfernt werden könnte, falls die Probleme der App bei der Erzeugung von Deepfake-Nacktbildern nicht in den Griff bekommen würden. Das Unternehmen hatte bereits mindestens ein Update abgelehnt und deutlich gemacht, dass X einen Teil des größeren Moderationschaos angegangen war, während die Grok-App selbst weiterhin nicht den Regeln des App Store entsprach.
Der von Apple diese Woche veröffentlichte Brief ließ kaum Spielraum für Interpretation. Nach Überprüfung neuer Einreichungen erklärte das Unternehmen, X habe seine Verstöße „weitgehend behoben“, doch Grok entspreche weiterhin nicht den Vorgaben. Die Botschaft war klar: Problem beheben oder mit Entfernung rechnen.
Diese Warnung war nicht ohne Wirkung. Auf X hatte Elon Musk die Moderationsrichtlinien bereits angepasst, nachdem die Plattform mit illegalen, KI-generierten sexuellen Inhalten überschwemmt worden war. Trotzdem reagierte die Grok-App langsamer, und Nutzer entdeckten schnell, dass sich manche Missbräuche weiterhin durchschummeln konnten.
Wenn eine Sperre zur Herausforderung wird
Musks eigene Provokation half nicht. Nachdem er Leute dazu aufgefordert hatte, mit Grok Deepfake-Nacktbilder realer Personen zu erzeugen, taten viele genau das. Seither wurden Sicherheitsfilter verschärft, aber nicht in dem Maße, dass der Missbrauch vollständig verschwunden wäre. Die Aufforderungen sind zwar schwieriger geworden. Die Umgehungsmöglichkeiten bestehen weiterhin.
Apples Regeln für nutzergenerierte Inhalte sind nicht immer ein Vorbild an Klarheit, doch Moderation ist keine Option. Im Fall von Grok scheint das Unternehmen entschieden zu haben, dass etwas Moderation besser ist als keine, und das könnte ausgereicht haben, um die App online zu lassen.
Hier wird die Geschichte unbequem. Apple hat eine lange Geschichte darin, Apps wegen Verstößen gegen Richtlinien zu entfernen, die weit weniger alarmierend waren als dieser Fall. Deepfake-Pornografie-Apps sind zuvor schon stillschweigend aus dem Store entfernt worden, darunter mindestens 28 nach einem separaten Bericht, der das Problem aufdeckte. Wenn die betreffende App jedoch Elon Musk gehört, scheint der Prozess deutlich komplizierter zu werden.
Geld. Politik. Einfluss. Bürokratie. Wählen Sie aus. Bei Musk sind all diese Faktoren im Spiel.
Es gibt auch den hartnäckigen Mythos, X funktioniere wie eine unangreifbare Festung der Meinungsfreiheit. Das ist nicht der Fall. Und Apple kennt den Unterschied. Dennoch scheint das Unternehmen diesmal einen weicheren Weg gewählt zu haben und erlaubte, dass Grok nach einem als deutlich verbesserten Update bezeichneten Schritt weiterhin verfügbar blieb.
Was genau sich geändert hat, ist unklar. Apple hat es nicht konkret dargelegt, und xAI hat ebenfalls nur wenig Details geliefert. Doch das Ergebnis spricht eine deutliche Sprache: Die App überstand die Krise, obwohl sie mit einem der hässlicheren KI-Sicherheitsversagen des Jahres in Verbindung gebracht wurde.
Solche Fälle erklären, warum Regulierungsbehörden weltweit die App-Store-Richtlinien von Apple weiterhin genau beobachten. Einige Regierungen haben bereits ein Modell gefordert, bei dem die App-Prüfung eher wie eine externe Aufsichtsinstanz und weniger wie ein Torwächter behandelt wird, der nur Apple Rechenschaft schuldig ist. Nach der Grok-Episode wird diese Idee für Kritiker, die meinen, das aktuelle System gebe bei hohen Einsätzen zu leicht nach, nur attraktiver klingen.
Kommentar hinterlassen