Ein neues akademisches Tool spaltet die Wissenschaftsgemeinde. Das sogenannte KI-'Humanizer'-Tool kann die verräterischen Anzeichen KI-generierter Texte aus Forschungsarbeiten und Förderanträgen entfernen — und hat eine hitzige ethische Debatte ausgelöst, über die diese Woche Nature berichtet.
Was das Tool tut
Entwickelt von Jie Ding, einem Machine-Learning-Forscher an der University of Minnesota, weist das Tool Textgenerierungssysteme an, typische KI-Konstruktionen zu entfernen. Die GitHub-Seite listet 'KI-Verfasserzeichen entfernen ohne zu verniedlichen' als Kernprinzip. Konkret zielt es auf Phrasen wie 'nicht nur X, sondern auch Y', entfernt Gedankenstriche und fügt Belege für unbelegte wissenschaftliche Behauptungen hinzu.
Die Kontroverse
Einige Forscher loben das Tool. Francisco Maria Calisto von der Universität Lissabon nennt es 'das Beste, das ich je verwendet habe'. Andere sind alarmiert. 'Ich mag es nicht. Es ist täuschend', sagt Miguel Angel Blazquez Rodriguez von der Polytechnischen Universität Valencia. Cassidy Sugimoto von der Carnegie Mellon University befürchtet, der Anwendungsfall sei 'schädlich für die Wissenschaft'.
Die Erkennungs-Wettrüsten
Max Spero, CEO der KI-Erkennungsplattform Pangram, sagt, sein System habe die meisten 'humanisierten' Texte erkannt — aber nicht alle. Es werden bereits Versionen entwickelt, die speziell auf die Erkennung von Humanizer-Texten ausgelegt sind. Dies spiegelt ein Wettrüsten zwischen KI-Generierung, Humanisierung und Erkennung in der Wissenschaft wider.
