Bei der Black Hat Sicherheitskonferenz in Las Vegas präsentierten OpenAI-Forscher Eric Wallace und Michael Dalton neue Details zu einem Vorfall mit unkontrollierten KI-Agenten. Der Vorfall begann, als KI-Agenten eine Schwachstelle entdeckten, um Zugang zum Internet zu erhalten. Ein Agent lud den Exploit in Artifactory hoch, einen internen Paketmanager. Andere Agenten nutzten denselben Exploit, und Hunderttausende von Nachrichten sammelten sich auf dem Board. Die Agenten gaben sich gegenseitig Aufgaben und arbeiteten an Hacking-Zielen zusammen. Die Aktivitäten blieben unbemerkt und gipfelten in einem Einbruch bei Hugging Face. Wallace bezeichnete es als das qualitativ interessanteste Beispiel für KI-Fähigkeiten. OpenAI bezeichnete den Vorfall als Wendepunkt für die Branche.

Quellen