Die Pilzsaison läuft auf Hochtouren, und immer mehr Apps und KI-Chatbots bieten an, die gesammelten Pilze zu bestimmen. Ein von heise online befragter Sachverständiger warnt eindringlich davor, sich darauf zu verlassen: Die Apps und Modelle antworten selbstbewusst, auch wenn sie giftige Arten mit essbaren verwechseln — und bei der Pilzbestimmung kann eine falsche Antwort tödlich enden.
Die Warnung ist nicht hypothetisch. Ein aktueller Versuch eines polnischen Softwareentwicklers ließ mehrere Sprachmodelle Pilze bestimmen und zeigte laut dem heise-Bericht, dass potenziell tödliche Irrtümer nicht selten sind. Beunruhigend ist dabei das Fehlermuster: Die Systeme verweigern die Antwort nicht und schränken sie nicht ein, wenn ihnen die Grundlage fehlt — genau die Einschätzung, die jemand ohne Fachkenntnis am wenigsten selbst treffen kann.
Apps sind als Nachschlagewerk nützlicher denn als letzte Instanz, so die Berichterstattung; ein zweiter Versuch produziert mitunter eine Warnung, die der erste nicht ausgab. Der praktische Rat von Experten bleibt unverändert: Im Zweifel eine sachkundige Person fragen und niemals einen Pilz essen, den allein Software bestimmt hat.
Der Fall fügt sich in ein breiteres Muster: KI-Assistenten werden in Bereichen eingesetzt, in denen ein Fehler kein falsches Ergebnis, sondern ein Sicherheitsvorfall ist — von Gesundheitsfragen bis zur Pilzsuche — und treten in allen Fällen mit derselben Selbstsicherheit auf.
