Google hat eine neu eingeführte KI-Bildgenerierungsfunktion in Google Earth nur einen Tag nach ihrer Einführung zurückgezogen, nachdem von Nutzern erstellte Bilder kursierten, die gegen Unternehmensrichtlinien zu verstoßen schienen. Die Funktion, angetrieben von Googles Modell Nano Banana 2, ermöglichte es Nutzern, mit Textanweisungen fotorealistische Bilder aus den Satelliten-, Luft- und 3D-Aufnahmen von Google Earth für Orte auf der ganzen Welt zu erzeugen.

Das Werkzeug geriet schnell in die Kritik wegen seines Potenzials zur Verbreitung von Desinformation: Da es reale Wahrzeichen und Denkmäler als Basisbilder nutzte, machte es plausible Szenen an erkennbaren Orten erzeugbar. In einem Beitrag auf X erklärte Google, man habe Geodaten-Profis gesehen, die die Funktion für praktische Zwecke nutzten – aber auch Nutzer, die Screenshots generierter Bilder teilten, die gegen die Richtlinien zu verstoßen schienen.

'Wir wissen, dass Menschen Google Earth für eine verlässliche Sicht auf die Welt besonders vertrauen', sagte das Unternehmen. 'Deshalb ziehen wir diese Funktion in Google Earth zurück, während wir an stärkeren Schutzvorkehrungen arbeiten.' Google betonte, dass generierte Bilder als KI-erstellt gekennzeichnet und nicht in der Hauptansicht von Google Earth für andere sichtbar waren.

Die Aussetzung ist das jüngste Beispiel dafür, dass Tech-Unternehmen KI-Funktionen wegen Missbrauchssorgen zurückfahren. Anfang des Monats hatte Meta das KI-Tool Muse Image eingestellt, das Bilder aus öffentlichen Instagram-Konten erzeugte – nach Datenschutzkritik, einschließlich Einwänden einer Hollywood-Gewerkschaft.

Der Vorfall zeigt eine wachsende Spannung für Plattformanbieter: Generative-KI-Funktionen sind starke Differenzierungsmerkmale – doch wenn sie vertrauenswürdige, faktische Produkte wie Karten berühren, wird der Preis eines Politikfehlers in Nutzervertrauen gemessen.

Quellen