Google hat eine KI-Funktion in Google Earth weniger als 48 Stunden nach ihrer Aktivierung zurückgezogen, nachdem Experten und eine BBC-Verify-Recherche davor gewarnt hatten, dass sie zur Erstellung überzeugender gefälschter Satellitenbilder und zur Verbreitung von Fehlinformationen missbraucht werden könnte.
Die Funktion integrierte den Bildgenerator Nano Banana 2 in Google Earth und erlaubte es jedem, per Texteingabe KI-generierte Szenarien auf echte Satelliten-, Luft- oder 3D-Aufnahmen zu legen – die Bilder konnten heruntergeladen und weiterverbreitet werden. Am Freitag erklärte Google, man pausiere das Tool, „während wir an der Umsetzung stärkerer Schutzmechanismen arbeiten“, und fügte hinzu, man habe gesehen, dass „Menschen Screenshots generierter Bilder teilen, die offenbar gegen unsere Richtlinien verstoßen“.
Die Tests von BBC Verify zeigten das Risiko sofort: Das Tool erzeugte einen eingestürzten Eiffelturm, einen Erdrutsch, der die Große Pyramide von Gizeh verschluckte, und russische Panzer in der ukrainischen Hauptstadt – alles auf echte Google-Earth-Karten montiert. „Die Fälschung muss nicht für sich allein überzeugend wirken. Sie erbt die Glaubwürdigkeit der Karte, auf der sie geboren wurde“, sagte der KI- und Desinformations-Experte Henk van Ess.
Auch die Erkennung erwies sich als unvollkommen. Google erklärte zwar, KI-Inhalte trügen unsichtbare Wasserzeichen, die sich mit dem Gemini-Chatbot oder der Lens-Funktion prüfen ließen; BBC Verify konnte Gemini jedoch dazu bringen, die gefälschten Bilder für echt zu halten, und einige externe KI-Erkennungswerkzeuge schlugen ebenfalls nicht an.
Es geht um mehr als eine Spielerei. Der Geodatenanalyst Bill Greer von der Non-Profit-Organisation Common Space wies darauf hin, dass Satellitenbilder „historisch als besonders vertrauenswürdige Datenquelle“ gelten – Fälschungen seien daher für das öffentliche Vertrauen besonders schädlich. Der KI-Erkennungsforscher Henry Ajder warnte, dass fabrizierte Bilder in sich schnell entwickelnden Konfliktgebieten „destabilisierend“ wirken könnten.
Google räumte die Sensibilität selbst ein: „Wir wissen, dass Menschen Google Earth für eine verlässliche Sicht auf die Welt besonders vertrauen“, hieß es. Wann die Funktion zurückkehren könnte, sagte das Unternehmen nicht – nur, dass es zuerst an stärkeren Schutzmechanismen arbeite.
Der Vorfall ist das jüngste Glied in einer Reihe von KI-Bild-Pannen großer Plattformen und unterstreicht, wie schnell generative Werkzeuge mit der Glaubwürdigkeit realer Kartendaten kollidieren.
