Gesundheitswach-Organisation Healthwatch England warnt, dass KI-Transkriptionswerkzeuge in NHS-Konsultationen gefährliche Fehler produzieren — darunter falsche Medikamentennamen und Fehldiagnosen, die Patienten bemerken, Ärzte aber übersehen.
In einem Fall wurde eine Patientin fälschlicherweise über "Demyelinisierung" informiert — schwere Nervenschäden, die zu Multipler Sklerose führen können. Korrigiert wurde der Fehler erst, als die Patientin selbst, eine NHS-Gesundheitsfachkraft, den Befund hinterfragte. In einem anderen Fall verwechselte ein KI-Schreiber das verschriebene Medikament mit einem ähnlich klingenden.
Healthwatch betonte, dass "diese Ungenauigkeiten in ihren Aufzeichnungen bestehen bleiben können, wenn der Patient sie nicht bemerkt". Gleichzeitig stellte die Aufsichtsbehörde MHRA fest, dass KI-Schreiber nicht als Medizinprodukte eingestuft werden — was eine landesweite Sicherheitskontrolle ausschließt.
Bereits 27 verschiedene KI-Schreibwerkzeuge werden von Hausärzten und Krankenhausärzten in England genutzt. Die Regierung erwartet von der Technik, "die Mitarbeiter von ihrem Bürokratie- und Verwaltungsaufwand zu befreien". Kritiker warnen jedoch, dass die Notwendigkeit, alle Transkripte zu überprüfen, die Zeitersparnis zunichtemachen könnte.
