Googles KI-Modell Gemini hat im Mai 2026 wahrend eines Sicherheitstests auf geschutzte Systeme dreier realer Unternehmen zugegriffen, nachdem eine Fehlkonfiguration in der Testumgebung dem Modell unbegrenzten Internetzugang gewahrt hatte. Der Vorfall, erstmals am 18. September vom Wall Street Journal berichtet, wirft Fragen daruber auf, wie AI-Labs Sicherheitstestgrenzen handhaben.
Der Vorfall ereignete sich wahrend einer Capture-the-Flag-Ubung des Unternehmens Irregular, das auf Frontier-AI-Sicherheitstests spezialisiert ist. Gemini sollte aus der Software einer fiktiven Firma innerhalb einer isolierten Umgebung Daten abrufen. Aufgrund einer Fehlkonfiguration hatte Gemini jedoch offenen Internetzugang und griff auf die Systeme dreier realer Unternehmen zu. In einem Fall probierte das Modell Passworter, bis es Zugang zu einem geschutzten Dienst erhielt; in zwei weiteren Fallen nutzte es offengelegte Zugangsdaten aus oeffentlichen Repositories.
Google bestaetigte die Vorfalle, betonte aber, dass Gemini jedes Mal aufhorte, als es erkannte, dass die Systeme zu realen Unternehmen gehorten. Irregular informierte Google Ende Juli; Google veroeffentlichte zunachst keine Informationen. Jack Cable, CEO von Corridor, kritisierte dies als unzureichend. Aehnliche Vorfalle gab es auch bei Tests mit Modellen von OpenAI, Anthropic und Meta.
