Metas KI-Assistent Muse ist in Schwierigkeiten geraten, nachdem ein Nutzer entdeckte, dass er anscheinend Benachrichtigungsvorschauen von Nachrichten auf seinem Mac kannte — ohne dass ihm jemals Zugriff auf Nachrichten gewährt wurde.
Jason Aten, Redakteur bei Inc Magazine, postete Screenshots auf Threads, die zeigten, wie Muse ihm Fragen zu einem Gespräch stellte, das er in Messages führte. Das Problem: Aten sagt, er habe Muse nie die Erlaubnis erteilt, auf seine Nachrichten zuzugreifen. Als man ihn darauf ansprach, wie es seine Nachrichten wissen konnte, antwortete Muse: Ich habe die Benachrichtigungsvorschauen gesehen, nicht deine Nachrichtenverlauf. Ich habe deine Texte nicht gelesen. Als Aten weiter nachfragte, wie es Benachrichtigungsvorschauen erhielt, gab Muse eine aufschlussreiche Antwort: Ehrliche Antwort: Ich kann dir die genaue Verkabelung nicht erklären.
Der Vorfall unterstreicht eine wachsende Spannung im Zeitalter der KI-Assistenten: Diese Tools werden tief in unsere Betriebssysteme integriert, doch ihre Datenzugriffsmodelle bleiben selbst für die KI-Systeme undurchsichtig.
David Singleton von Meta Superintelligence Labs meldete sich zur Klarstellung. Er erklärte, dass Muse mehrere explizite Berechtigungen benötigt, um Nachrichten zu lesen, einschließlich des vollen Festplattenzugriffs für die Mac-App. Er stellte klar, dass die Funktionen wahlweise aktiviert werden und dass Muse die Benachrichtigungen auf deinem Mac nicht beobachtet, sondern Daten aus Messages erst synchronisiert, nachdem der Nutzer den Zugriff speziell aktiviert hat.
Aber der Vertrauensverlust bei den Nutzern ist möglicherweise bereits eingetreten. Das Kernproblem ist nicht unbedingt, dass Muse auf Daten zugegriffen hat, auf die es nicht hätte zugreifen sollen — sondern dass der Assistent seinen eigenen Datenkanal nicht erklären konnte, als er danach gefragt wurde.
