Meta erklärt, einen Fehler behoben zu haben, der Nutzerinnen und Nutzer mit höchst persönlichen Fragen konfrontierte. Zuvor hatte ein virales Video gezeigt, wie der KI-Assistent des Konzerns Details über die kleinen Töchter einer Frau aus Beiträgen zusammenfügte, die sie und ihre Angehörigen selbst veröffentlicht hatten.
Die Instagram-Nutzerin Kalie Robins schilderte in einem Video, was geschah, nachdem sie einen Clip, in dem sie mit ihrem Kind im Auto singt, auch auf Facebook geteilt hatte. Unter dem Video schlug Meta AI den Prompt vor: „Wer ist das Kind als Mitfahrer?" Als Robins darauf tippte, habe der Assistent Informationen über ihre Töchter aus ihren früheren Beiträgen und aus Beiträgen von Verwandten zusammengesetzt und weitere Vorschläge zum Alter der Kinder und zum Wohnort der Familie gemacht. Zudem zeigte er Fotos ihrer Töchter — darunter eines, das sie eigenen Angaben zufolge vor Jahren gelöscht hatte.
Zuerst berichtete Futurism über den Fall. In einer Stellungnahme gegenüber The Verge sagte Meta-Sprecherin Dina El-Kassaby, das Unternehmen habe „das Ziel verfehlt", und: „Die Funktion hätte die Person niemals mit solchen Fragen konfrontieren dürfen." Der Fehler, der Meta AI dazu brachte, Prompts zu persönlichen Themen vorzuschlagen, sei behoben. Antworten, die aus einem Prompt entstehen, basierten auf Informationen, auf die Nutzende ohnehin Zugriff hätten; in diesem Fall habe der Assistent möglicherweise auf Videos zurückgegriffen, in denen Robins ihre Kinder benannte.
Der Vorfall fällt in einen dichten Kalender von KI-Datenschutzbeschwerden. Meta hat seinen Assistenten in Facebook, Instagram, WhatsApp und Messenger integriert, wo er Fragen beantwortet, Beiträge entwirft und Bilder erzeugt. Im Juli zog das Unternehmen eine Funktion zurück, mit der sich KI-Deepfakes anderer Instagram-Nutzender erstellen ließen. Und der neuere Assistent Muse steht wegen der Art und Weise in der Kritik, wie er von sich aus Informationen über Menschen preisgibt — auch in Gruppenchats.
Für Nutzende bleibt eine vertraute Schwierigkeit: Nach Darstellung Metas wurden die Antworten aus Inhalten zusammengesetzt, die für die fragende Person bereits sichtbar waren. Diese Einordnung beantwortet eine enge Frage — ob die KI Zugriffskontrollen verletzt hat — und lässt die breitere offen: ob ein Assistent Menschen überhaupt aktiv dazu anregen sollte, die Identität eines Kindes aus jahrelangen Familienposts zu rekonstruieren. Robins' Video deutet darauf hin, dass viele Nutzende hier Nein sagen — und Meta hat die Vorschläge entsprechend geändert.
