.avif)
4 Minuten
Gefährdung von ChatGPT-Empfehlungen: KI-gestützte Desinformation nimmt zu
ChatGPT hat sich schnell als führende Plattform für KI-basierte Empfehlungen etabliert – sei es bei der Suche nach vertrauenswürdigen Online-Diensten, lokalen Unternehmen oder spezialisierten Produkten. Doch neueste Hinweise zeigen eine ernsthafte Schwachstelle: Cyberkriminelle und Betrüger manipulieren gezielt die Wissensbasis von ChatGPT, indem sie irreführende oder sogar schädliche Empfehlungen durch kompromittierte Websites und abgelaufene Domainnamen einschleusen.
Wie Cyberkriminelle KI-Suchergebnisse manipulieren
Aktuelle Untersuchungen, insbesondere von James Brockbank, dem Gründer und Geschäftsführer von Digitaloft, beleuchten das Ausmaß dieser Manipulation. In den vergangenen Monaten hat Brockbank ein beunruhigendes Muster festgestellt: ChatGPT zitiert Empfehlungen, die direkt von gehackten Webseiten oder aufgekauften, ursprünglich seriösen Domains stammen, welche mittlerweile für betrügerische Zwecke genutzt werden. Diese übernommenen Seiten bewerben häufig Online-Glücksspiel, Casinos oder themenfremde kommerzielle Angebote ohne echte Autorität oder Kontrolle.
So wurde beispielsweise die Website einer seriösen Anwaltskanzlei, geleitet von Rechtsanwältin Veronica T. Barton, um versteckte Seiten ergänzt, die britische Online-Casinos bewarben – Inhalte, die unbemerkt von Angreifern eingefügt wurden. Ein weiteres Beispiel ist eine ehemalige Webseite einer UN-Jugendorganisation, die nun als Werbeplattform für „Casinos außerhalb von GamStop“ dient. Auch abgelaufene Domains, die einst renommierten Wohltätigkeitsorganisationen gehörten und in Medien wie BBC oder Bloomberg erwähnt wurden, werden heute für Spam und Glücksspielwerbung missbraucht. Dennoch empfiehlt ChatGPT weiterhin solche kompromittierten Ressourcen und bringt ihnen fälschlicherweise Vertrauen aufgrund ihrer früheren Identität entgegen.
Warum empfiehlt ChatGPT kompromittierte Links?
Im Gegensatz zu klassischen Suchmaschinen überprüft das Sprachmodell von ChatGPT nicht eigenständig die Inhaberschaft oder redaktionelle Kontrolle einer Website. Es priorisiert aktuelle Inhalte und verlässt sich stark auf den historischen Ruf der Domain. Dies bietet Angreifern ideale Bedingungen: Durch das Einschleusen von Spam oder schädlichen Inhalten in ehemals vertrauenswürdige, aber unüberwachte Domains stellen Betrüger sicher, dass ihre Inhalte in KI-generierten Empfehlungen erscheinen – ein hohes Risiko für ahnungslose Nutzer.
Vergleich mit Suchmaschinen
Herkömmliche Suchmaschinen bewerten Glaubwürdigkeit, Autorität und Relevanz von Inhalten mit speziellen Algorithmen und entfernen kompromittierte oder missbrauchte Domains häufig aus den Suchergebnissen. ChatGPT hingegen besitzt aktuell keine vergleichbaren Schutzmechanismen, wodurch seine Empfehlungen leichter manipuliert werden können.
So schützen sich Nutzer: Praktische Tipps für mehr Sicherheit
Experten betonen, dass ChatGPT zwar ein hilfreicher Assistent für das Entdecken von Produkten, Dienstleistungen und Lösungen ist, Nutzer jedoch nicht jede Empfehlung ungeprüft übernehmen sollten. Zum eigenen Schutz gilt:
- Überprüfen Sie stets den Ruf, die Inhaberschaft und die Historie empfohlener Webseiten von ChatGPT.
- Seien Sie bei ungewöhnlichen oder themenfremden Inhalten vorsichtig, besonders wenn diese auf ehemals bekannten Domains auftauchen.
- Nutzen Sie unabhängige Werkzeuge wie Domain-Historie-Prüfer und Sicherheitsplugins zur Überprüfung der Seitenautorität.
Auswirkungen auf den Markt und nächste Schritte für KI-Sicherheit
Das Risiko von „Datenvergiftung“ in KI wird größer, je mehr Nutzer sich auf generative KI-Plattformen verlassen. Obwohl ChatGPT zahlreiche innovative Funktionen und umfassende Wissensvermittlung bietet, bleibt die derzeitige Methode zur Auswahl und Empfehlung von Links anfällig für Manipulationen. Deshalb setzt sich die Technologiebranche verstärkt für eine verbesserte Quellenvalidierung und neue Sicherheitsmaßnahmen in großen Sprachmodellen ein, um die Zuverlässigkeit der Empfehlungen im Zeitalter von Künstlicher Intelligenz dauerhaft zu sichern.
Fazit
Da generative KI-Plattformen wie ChatGPT zunehmend Teil der Online-Recherche werden, ist erhöhte Aufmerksamkeit unerlässlich. Nutzer, Fachleute und Unternehmen sollten sich der wachsenden Risiken bewusst sein, Empfehlungen kritisch prüfen und eine stärkere Absicherung von KI-Systemen fordern. Verantwortungsbewusster Umgang sowie stetige technologische Weiterentwicklung sind entscheidend, damit KI-gestützte Empfehlungen allen Anwendern sicher und vertrauenswürdig zugutekommen.
Quelle: techradar
Kommentare