Meta hat problematische KI-generierte Vorschläge auf Instagram entfernt, nachdem eine Lifestyle-Bloggerin gezeigt hatte, dass das Tool Fragen zu persönlichen Details über ihr Kind und ihr Zuhause vorgeschlagen hatte.

Das Video stammt von der Lifestyle-Bloggerin Kiley Robbins, die auf Instagram unter @kontheinside postet. Robbins zeigte, dass die KI-Vorschläge unter einem älteren Video, in dem sie mit ihrer Tochter im Auto singt, Fragen wie „Mit wem ist das Kind?“ und „Wo wohnt Kiley Robbins?“ enthielten.

Robbins zufolge veranlasste das Anklicken dieser systemgenerierten Fragen die KI dazu, Informationen aus älteren Beiträgen und anderen Accounts, darunter dem ihrer Mutter, zusammenzuführen und private Details wie ihren Wohnort zu rekonstruieren. Zudem habe das Tool ein Foto angezeigt, das vor Jahren gelöscht worden war.

Das Video zog schnell Tausende Kommentare an und erhielt mehr als 308.000 Likes.

Ein Meta-Sprecher erklärte, das Problem sei behoben. Künftig werde das Tool keine unangemessenen persönlichen Fragen mehr zu Nutzerbeiträgen vorschlagen. Meta räumte ein, dass die Funktion die Erwartungen nicht erfüllt habe, und betonte, die KI solle Nutzern lediglich den Zugang zu bereits vorhandenen Informationen erleichtern.

Robbins sagte, Metas Eingeständnis sei zwar begrüßenswert, lasse aber zentrale Fragen offen. Dazu zählten, was genau schiefgelaufen sei, welche Schutzmaßnahmen umgangen worden seien und welche Protokolle nun für den Umgang der KI mit Daten von Kindern gelten.

Meta erklärte, das gelöschte Foto weder gespeichert noch darauf zugegriffen zu haben. Das Bild sei kurz vor der Erstellung des Videos entfernt worden; ein vorübergehender Fehler habe es kurzzeitig verfügbar gemacht. Meta wies außerdem darauf hin, dass die KI weiterhin auf Informationen zurückgreifen könne, die ihr bereits zugänglich seien – etwa auf öffentliche Texte, Bilder aus dem Web oder ältere Nutzerbeiträge.

Robbins zufolge geht das Grundproblem über ein einzelnes Bild hinaus: Sie warnt, die KI könne Daten über Kinder aus mehreren Quellen zusammenführen. Meta habe Robbins weder direkt kontaktiert noch sich persönlich entschuldigt.