Die britische Finanzaufsichtsbehörde wurde aufgefordert, eine Regulierung großer Sprachmodelle wie ChatGPT, Claude und Gemini zu prüfen, da diese zunehmend Einfluss auf finanzielle Entscheidungen der Verbraucher nehmen, wie eine am Montag veröffentlichte große Untersuchung ergab.

Die von der Financial Conduct Authority (FCA) in Auftrag gegebene und von Exekutivdirektor Sheldon Mills geleitete Untersuchung ergab, dass mehr als ein Viertel der britischen Verbraucher KI-Chatbots für Finanzberatung vertrauen, wobei nur begrenztes Bewusstsein dafür besteht, dass die Schutzmaßnahmen für regulierte Finanzdienstleistungen nicht für diese KI-Dienste gelten.

Mills empfahl der FCA, innerhalb der nächsten drei bis sechs Monate zu prüfen, ob die Regulierungsgrenzen durch eine Überprüfung des Umfangs, der Art und der Auswirkungen von KI-Modellen, die außerhalb dieser Grenzen liegen, "gesichert und angepasst" werden müssen.

Die Untersuchung wies auch darauf hin, dass die Abhängigkeit der Unternehmen von einer Handvoll Technologieanbietern systemweite Risiken schafft. Eine gemeinsame Abhängigkeit von denselben Modellen, Cloud-Anbietern oder der Technologieinfrastruktur könnte über das Finanzsystem hinweg korreliertes Verhalten, Herdenverhalten und gemeinsame Fehlerquellen verursachen.

Die stellvertretende Gouverneurin der Bank of England, Sarah Breeden, signalisierte letzte Woche erstmals den Bedarf an maßgeschneiderter KI-Regulierung und warnte, dass "unsere Rahmenwerke nicht dafür geschaffen wurden, autonome Agenten zu berücksichtigen". Jonathan Herbst von Norton Rose Fulbright sagte, Mills schlage kein sofortiges Durchgreifen vor, sondern frage, ob die Regeln weiterentwickelt werden müssten.

Quellen