Die rasche Integration künstlicher Intelligenz in Finanzdienstleistungen schafft eine Governance-Lücke, die bestehende Rahmenbedingungen nur unzureichend bewältigen können. Während KI verspricht, Transaktionen, Risikomanagement und Finanzzugang zu revolutionieren, hat ihre Entwicklungsgeschwindigkeit die traditionellen Leitplanken, die für eine von Menschen gesteuerte Wirtschaft konzipiert wurden, überholt. Diese Diskrepanz zeigt sich am deutlichsten in der ungelösten Frage der Rechenschaftspflicht, wenn ein KI-Agent Fehler macht.
Das Rechenschaftsrätsel bei KI-Fehlern
Chad Gerhardstein, Trulioo Chief Risk and Strategy Officer, schreibt im PYMNTS eBook „AI Runs Payments. Governance Decides What Happens Next“, dass etablierte Haftungsrahmen für menschlichen Betrug und Missbrauch nicht ohne Weiteres auf Fehler von KI-Agenten anwendbar sind. Wenn ein KI-Agent außerhalb seines Mandats handelt, folgt er möglicherweise lediglich seinem Code, doch die Echtzeitfolgen über Millionen globaler Transaktionen können zu erheblichen Risiken führen, die aktuelle Governance-Strukturen nicht angemessen bewältigen können.
Organisationen investieren zunehmend in hochentwickelte KI-Modelle und Automatisierung, um diese Risiken zu mindern. Gerhardstein argumentiert jedoch, dass dieser Fokus oft die kritischste Komponente der KI-Governance übersieht: den Menschen. Die weit verbreitete Einführung von KI in Finanzinstituten wurde nicht durch eine entsprechende Investition in menschliches Verständnis und Aufsicht begleitet.
Eine kritische Lücke in der KI-Kompetenz
Ein erheblicher Teil der Finanzfachleute verfügt nur über ein oberflächliches Verständnis von KI. Viele sind geschickt darin, große Sprachmodelle (LLMs) zu bedienen, aber ihnen fehlt das tiefere Wissen, um zu erklären, wie diese Modelle zu ihren Ergebnissen gelangen. Gerhardstein stellt unmissverständlich fest: „Wenn die für die Steuerung künstlicher Intelligenz zuständigen Menschen nicht wissen, wie sie funktioniert, dann wird die Steuerung performativ statt effektiv.“
Bei Trulioo beobachtet das Unternehmen diese Herausforderung aus erster Hand, wenn Organisationen weltweit Identitätsprüfungs- und Transaktionsüberwachungsprozesse skalieren. Das Schließen dieser Governance-Lücke erfordert mehr als nur grundlegendes Prompt-Training. Sie erfordert umfassende KI-Kompetenz, die Risiko, Compliance und Betrieb abdeckt. Dies bedeutet, Fachleute nicht nur mit den Fähigkeiten zur Nutzung von KI-Tools auszustatten, sondern auch mit der Fähigkeit, deren Ergebnisse kritisch zu bewerten und Risiken zu mindern.
Verantwortung und Schulung für KI-Aufseher
Gerhardstein betont, dass Organisationen, die Verifizierungs-, Authentifizierungs- und Betrugspräventionssysteme entwickeln, die Verantwortung tragen, als Verwalter dieser Governance-Rahmen zu agieren. Diese Verantwortung beinhaltet die Bereitstellung der notwendigen Schulungsniveaus für die menschlichen Aufseher, die für die Überwachung von KI-Agenten zuständig sein werden. Da agentenbasierte Transaktionen immer häufiger werden, müssen diese Architekturen sowohl auf der Ebene des Emittenten als auch auf der Ebene des Verbrauchers effektiv funktionieren und sicherstellen, dass jeder KI-Agent innerhalb der vom Auftraggeber festgelegten Grenzen agiert.
Die Aufgabe, eine robuste KI-Governance zu etablieren, ist beträchtlich, insbesondere in den Bereichen Finanzdienstleistungen und Zahlungsverkehr, wo eine einzige Autorisierung große Personengruppen beeinflussen kann, indem sie Geld bewegt, Kredite gewährt oder den Zugang verweigert. Ein robustes Vertrauensrahmen für KI ist daher unerlässlich.
Das Gebot der ‚richtigen Menschen‘
Letztendlich erfordert die Bewältigung der Anforderungen KI-gesteuerter Finanzoperationen mehr als nur die Einbeziehung von Menschen; es erfordert „die richtigen Menschen in der Schleife“. Angesichts der erheblichen Aufmerksamkeit, die dem Potenzial von KI gewidmet wird, ist es wichtig, die menschlichen Betreiber nicht zu vernachlässigen, die die wesentliche Intelligenz und Aufsicht für eine effektive und verantwortungsvolle KI-Implementierung bereitstellen. Die Zukunft der KI-Governance im Finanzwesen hängt von der Kultivierung einer Belegschaft ab, die über das tiefe Verständnis und das kritische Urteilsvermögen verfügt, um diese mächtigen Technologien zu steuern.
