Wie KI gefälschte Onlineshops und Betrug erleichtert

Jemand klickte auf einen Link, der offiziell wirkte. Der Preis war zu gut, um wahr zu sein. Das Paket kam nie an. Das Bankkonto wurde geleert. Das ist kein Tech-Thriller. Es ist ein Muster, das Sicherheitsforscher nun beobachten, wenn konversationelle KI auf Online-Betrug trifft.

Jüngste Untersuchungen des Betrugsprüfdienstes Ask Silver ergaben, dass ChatGPT überzeugende, aber gefälschte Onlineshops ausgeben kann, wenn Nutzer nach Produkten bekannter britischer Marken wie Russell & Bromley oder Dunelm fragen. Attraktive Rabatte. Glaubwürdige Schaufenster. Links, die Käufer zu geklonten Websites führen, die darauf ausgelegt sind, Geld und Zahlungsdaten zu stehlen.

Wenn Trainingsdaten zur Schwachstelle werden

Angreifer platzieren bösartige Seiten im Web. Diese Seiten werden gecrawlt, indexiert und — wenn der Zeitpunkt passt — in die Quellen aufgenommen, die große Sprachmodelle speisen. Das Ergebnis nennen Experten "Data Poisoning": Das Modell lernt von betrügerischen Seiten und gibt dieselben falschen Hinweise an alltägliche Nutzer weiter.

Anna Jones von Ask Silver sagt, Kriminelle nutzten manchmal ungewöhnliche Momente im Lebenszyklus einer Marke, wie einen Eigentümerwechsel oder wenn die offizielle Seite nicht erreichbar ist, um der KI falsche Referenzen zu geben und ihre Seiten legitim erscheinen zu lassen. Die Methode ist einfach. Eine glaubwürdige Seite erstellen. Sie wie den echten Shop aussehen lassen. Dann lässt man das Modell sie aufgreifen und empfehlen.

Lewis Baxter, Leiter des Betrugsteams bei den National Trading Standards des Vereinigten Königreichs, warnt, dass die bloße Nennung einer Website in einer KI-Antwort kein Authentizitätsstempel ist. Menschen wenden sich an Chatbots für schnelle Einkaufstipps. Betrüger haben sich ebenso schnell angepasst. Ein überzeugender Link in einer Chatbot-Antwort kann Käufer dazu verleiten, grundlegende Prüfungen zu überspringen.

Die in den Berichten beschriebenen gefälschten Schaufenster sind oft verstörend gut gestaltet. Sie verwenden Domainnamen, die echten Marken sehr ähneln — zum Beispiel mit Zusätzen wie onlineuk oder official neben einem bekannten Namen — und werben mit hohen Rabatten, manchmal bis zu 80 Prozent, um Käufer zu übereilten Handlungen zu drängen. Viele dieser Seiten akzeptieren ausschließlich Banküberweisungen, ein weiteres Warnsignal.

Überprüfen Sie den Verkäufer immer direkt: Suchen Sie den Shop per Namen, schauen Sie auf die offizielle Seite, und zahlen Sie niemals per Banküberweisung, es sei denn, Sie sind sicher, dass der Anbieter seriös ist.

Was können Nutzer jetzt tun? Gehen Sie langsamer vor. Lesen Sie die URL genau. Achten Sie auf zusätzliche Wörter, ungewöhnliche Endungen und Rechtschreibfehler. Bevorzugen Sie Karten oder Zahlungsarten mit Käuferschutz. Wenn eine Seite ausschließlich Banküberweisungen verlangt, ist das ein deutliches Warnsignal, die Seite zu verlassen. Möglichst den Händlernamen selbst in eine Suchmaschine eingeben oder über ein vertrauenswürdiges Lesezeichen navigieren, statt auf einen vom Chatbot angebotenen Link zu klicken.

• Prüfen Sie die Domain genau auf zusätzliche Wörter oder unbekannte Endungen.
• Suchen Sie nach Kontaktangaben und überprüfbaren Kundenbewertungen.
• Vermeiden Sie ausschließlich Banküberweisungen als Zahlungsoption.
• Verwenden Sie Kreditkarten oder Zahlungsdienste mit Käuferschutz.

OpenAI erklärt, es habe identifizierte betrügerische Seiten aus den Suchergebnissen des Modells entfernt und biete eine Möglichkeit für Nutzer, problematische Links zu melden. Hilfreich. Notwendig. Aber keine vollständige Lösung. Modelle lernen aus großen Teilen des Webs, und Angreifer müssen nur wenige überzeugende Seiten erstellen, um Schaden anzurichten.

Letztlich teilen sich alle die Verantwortung. Technische Teams müssen Modell-Pipelines härten und Datenvergiftung erkennen. Plattformen müssen die Überprüfung von Links verbessern. Und Käufer sollten KI-Vorschläge als Ausgangspunkt, nicht als Bestätigung betrachten. Neugier bewahren. Seien Sie noch vorsichtiger.