Der Bericht, der den Weg für Australiens Social-Media-Verbot für unter 16-Jährige ebnete, enthält offenbar von künstlicher Intelligenz fabrizierte Zitate. Das geht aus einer am Montag veröffentlichten Guardian-Analyse hervor – ein Vorwurf, der nun auch eine Senatsanhörung beschäftigt.
Der 3,48 Millionen A$ teure Testversuch zur Altersverifikation wurde im vergangenen Jahr vom britischen Age Check Certification Scheme (ACCS) durchgeführt und erprobte Technologien, mit denen Plattformen unter dem Verbot das Alter ihrer Nutzer prüfen könnten. Kommunikationsministerin Anika Wells hatte den Bericht als Beleg für „viele wirksame Optionen“ gefeiert; das Verbot trat im Dezember in Kraft.
In einer Eingabe an eine Senatsanhörung zur Verschärfung des Gesetzes hieß es jedoch, Zitate im Kapitel über „neue Technologien“ des Berichts erschienen „von einer KI halluziniert, statt auf echten Quellen zu beruhen“. Eine eigene Analyse von Guardian Australia identifizierte in diesem Abschnitt mindestens sechs problematische Referenzen: DOIs, die auf nicht existierende Arbeiten verweisen, DOIs, die zu falschen Arbeiten führen, Autor-Journal-Jahres-Kombinationen, die zu keiner bekannten Veröffentlichung passen, sowie Links zu Arbeiten, die nicht das behaupteten, was der Bericht ihnen zuschrieb.
ACCS bestritt zunächst, KI eingesetzt zu haben, räumte dann aber ein, dass ChatGPT zum strafferen Umschreiben von Absätzen genutzt worden war – nachdem der Guardian in vier Links Metadaten gefunden hatte, die ChatGPT als Quelle auswiesen. Die Organisation erklärte, alle Links seien von Menschen „geprüft und verifiziert“ worden, die Fehler seien unbeabsichtigt. Auch eine nachgereichte korrigierte Referenzliste enthielt Fehler: Ein Artikel wurde als im März 2025 abgerufen geführt, obwohl ein Hauptautor bestätigte, dass er erst im Juni 2025 veröffentlicht wurde; die als Hauptautor genannte Person stand nachweislich nie auf dem Papier.
In der Senatsanhörung am Freitag erklärten Beamte, man habe ACCS getroffen, das behauptete, die Fehler seien auf im Laufe der Zeit defekt gewordene Links zurückzuführen – eine Erklärung, die die Behörde nicht unabhängig überprüft hat. Sie sprachen von einer „Handvoll Fehler“ in 26 Seiten Zitaten innerhalb eines rund 1.000 Seiten umfassenden Berichts.
Der Fall erinnert an den Deloitte-Skandal des Vorjahres, als die Beratungsfirma einen Teil eines 440.000 A$-Regierungsauftrags zurückzahlte, nachdem Fehler auf KI-Nutzung zurückgeführt worden waren. Die unabhängige Senatorin Fatima Payman forderte, die Regierung solle von ACCS eine Entschuldigung und eine Rückzahlung verlangen; ungeprüfte KI-Zitate untergrüben das Vertrauen in Institutionen.
Experten sehen in dem Fall ein Warnsignal für Regierungen weltweit: In einer Zeit, in der Auftragnehmer zunehmend generative KI in offiziellen Berichten einsetzen, ist eine gepflegte Zitatliste kein Beweis für eine echte Quelle.
