Gefühltes Vertrauen ist keine Vertrauenswürdigkeit. Bei 89 Prozent der Banken klafft genau hier die Lücke.

Die Lücke zwischen Gefühl und Beleg

In vielen Banken wird KI-Ergebnissen entweder zu viel oder zu wenig vertraut, und in beiden Fällen entscheidet das Bauchgefühl der Beschäftigten, nicht die nachgewiesene Qualität des Systems. Eine Studie von IDC im Auftrag von SAS beziffert diese Lücke für die Bankbranche weltweit.

Vertrauen in KI wird erst belastbar, wenn es an überprüfbare Kriterien gebunden ist: dokumentierte Validierung, sichtbare Qualitätskennzahlen im Betrieb, klare Prüfregeln und nachvollziehbare Protokolle. Ohne diese Infrastruktur bleibt Vertrauen eine Stimmung, die sich zufällig verteilt und in beide Richtungen Kosten verursacht.

Was die IDC-Studie über Banken zeigt

Grundlage ist der „Data and AI Impact Report: The Trust Imperative“ von IDC im Auftrag von SAS, eine branchenübergreifende, weltweite Befragung von 2.375 IT- und Fachverantwortlichen aus dem September 2025. Die Auswertung für Banken hat SAS im Februar 2026 veröffentlicht. Danach verbinden nur 11 Prozent der Banken hohes internes Vertrauen in KI mit nachweislich vertrauenswürdigen Systemen. 47 Prozent stecken im sogenannten Vertrauensdilemma: Sie nutzen verlässliche KI zu wenig, weil sie ihr nicht ausreichend vertrauen, oder verlassen sich auf KI, die nicht ausreichend validiert ist.

Fehlendes Geld erklärt dieses Muster nicht. Die Ausgaben der Banken für KI wachsen nach der Studie stärker als in allen anderen untersuchten Branchen. Zugleich fehlt 45 Prozent der Banken eine wirksame Data Governance, 41 Prozent eine zentrale oder optimierte Dateninfrastruktur, und 42 Prozent kämpfen mit einem Mangel an spezialisierten KI-Fachkräften. Branchenübergreifend berichten Organisationen, die vertrauenswürdige KI priorisieren, nach IDC um 60 Prozent häufiger von einer Verdopplung ihres KI-Ertrags.

Welche zwei Fehler entstehen, wenn Vertrauen nicht kalibriert ist?

Der erste Fehler ist Vertrauen ohne Substanz. Beschäftigte übernehmen KI-Ergebnisse ungeprüft, weil das System überzeugend formuliert und meistens richtig liegt. Im Kreditgeschäft, in der Betrugserkennung oder im Meldewesen reicht ein systematischer Fehler, der monatelang unbemerkt mitläuft, um aus Effizienz ein Schadensereignis zu machen.

Der zweite Fehler ist Substanz ohne Vertrauen. Ein sauber validiertes System wird kaum genutzt, weil die Belegschaft ihm misstraut, jedes Ergebnis nachrechnet und jeden Vorschlag manuell übersteuert. Das Institut bezahlt dann die KI und die doppelte Arbeit. Beide Fehler haben dieselbe Wurzel: Vertrauen ist nirgends an überprüfbare Kriterien gekoppelt.

Woraus besteht eine Infrastruktur für Vertrauen?

Aus vier Bausteinen, die sich für jedes produktive KI-System einrichten lassen:

• Dokumentierte Validierung: Vor dem Einsatz ist festgehalten, an welchen Fällen das System geprüft wurde, wie hoch die Fehlerquote war und wo seine Grenzen liegen.

• Sichtbare Qualitätskennzahlen: Fehlerquote, Korrekturquote und typische Schwachstellen werden im Betrieb laufend gemessen und den Nutzerinnen und Nutzern zugänglich gemacht.

• Prüfregeln: Klare Vorgaben, wann ein Ergebnis geprüft werden muss, etwa abhängig von Betrag, Risiko oder der Sicherheit, die das System selbst ausweist.

• Nachvollziehbare Protokolle: Jede Empfehlung und jede menschliche Entscheidung darüber ist so dokumentiert, dass sie später erklärt werden kann.

Der Praxistest ist einfach: Kann eine Sachbearbeiterin für das System, mit dem sie täglich arbeitet, beantworten, wie oft es im letzten Monat danebenlag und woran sie einen Fall erkennt, den sie prüfen muss? Wenn nicht, fehlt die Grundlage für kalibriertes Vertrauen. Wie Antworten von Sprachmodellen an geprüfte Quellen gebunden werden, zeigt der Beitrag zur Quellenanbindung von KI-Assistenten.

Welche Rolle spielt die Aufsicht?

Sie setzt den Rahmen, ersetzt aber nicht die eigene Steuerung. Die BaFin hat im Dezember 2025 eine nicht bindende Orientierungshilfe zu IKT-Risiken beim Einsatz von KI veröffentlicht. Sie überträgt die Anforderungen der europäischen Verordnung über die digitale operationale Resilienz (DORA) auf KI-Systeme und deckt den gesamten Lebenszyklus ab, von der Datenbeschaffung über Entwicklung und Betrieb bis zur Außerbetriebnahme. Sicherheit und Resilienz eines KI-Systems müssen danach in jeder Phase gewährleistet sein.

Für die Praxis heißt das: Die Bausteine einer Vertrauensinfrastruktur sind keine zusätzliche Bürokratie, sondern weitgehend dieselben Nachweise, die ein sauberes IKT-Risikomanagement ohnehin verlangt. Wer sie einmal für ein System aufbaut, nutzt sie für jedes weitere. Wie Überwachung im laufenden Betrieb konkret aussieht, beschreibt der Beitrag zu MLOps im Finanzinstitut.

Wie liest das Management sein KI-Budget anders?

Nicht nach der Frage, wie viel in KI fließt, sondern welcher Anteil in die Strukturen geht, die Vertrauen überprüfbar machen. Ein Institut, das hohe Summen in Modelle und Tools steckt und einen verschwindenden Anteil in Validierung, Monitoring und Prüfregeln, kauft sich genau die Lücke, die die Studie beschreibt. Dass auch Versicherer vor derselben Frage stehen, zeigt der Beitrag zur Wirkungsmessung von KI bei Versicherern.

Der Aufbau muss nicht alle Systeme gleichzeitig erfassen. Es genügt, mit den zwei oder drei Systemen zu beginnen, die die höchsten Volumina oder die größten Risiken tragen. Sind dort Kennzahlen sichtbar und Prüfregeln etabliert, entsteht ein Muster, das sich übertragen lässt. Wie Governance dabei mit dem Portfolio wächst, beschreibt der Beitrag zur Skalierung von KI-Governance. Warum Relevanz allein noch keine Fähigkeit ist, zeigt der Beitrag zur digitalen Resilienz als Managementaufgabe, und wie die Lücke zwischen Konzept und Betrieb geschlossen wird, der Beitrag zur Umsetzung von KI-Lösungen bis in den Betrieb.

Was das Management konkret veranlassen sollte

1. Die zwei oder drei wichtigsten KI-Systeme benennen, gemessen an Volumen und Risiko, und dort mit der Vertrauensinfrastruktur beginnen.

2. Validierung dokumentieren lassen: Prüffälle, Fehlerquote und bekannte Grenzen je System schriftlich festhalten.

3. Qualitätskennzahlen sichtbar machen, nicht nur im Bericht an das Management, sondern auch für die Beschäftigten, die mit dem System arbeiten.

4. Prüfregeln festlegen, die beschreiben, wann ein Ergebnis zwingend von einem Menschen kontrolliert wird.

5. Den Anteil des KI-Budgets für Validierung und Monitoring ausweisen und ihn bei jeder Budgetentscheidung mitprüfen.

Häufige Fragen

Was ist der Unterschied zwischen Vertrauen und Vertrauenswürdigkeit bei KI?
Vertrauen beschreibt, wie sehr Beschäftigte einem System glauben. Vertrauenswürdigkeit beschreibt, wie gut seine Qualität nachgewiesen ist. Nach IDC und SAS bringen nur 11 Prozent der Banken beides in Einklang.

Woran erkennt ein Institut, ob es im Vertrauensdilemma steckt?
Daran, dass Beschäftigte die Fehlerquote ihres Systems nicht kennen und keine Regel haben, wann sie Ergebnisse prüfen müssen.

Muss für jedes KI-System sofort eine vollständige Governance stehen?
Nein. Sinnvoll ist ein Start mit den Systemen, die die höchsten Volumina oder Risiken tragen, und eine schrittweise Übertragung auf weitere.

Weitere Beiträge zu Steuerung, Plattformen und Governance bündelt das Dossier KI-Strategie & Plattformen.

Ob das Vertrauen in die eigenen KI-Systeme auf Zahlen oder auf Gewohnheit beruht, lässt sich meist schon im Gespräch mit einer einzigen Sachbearbeiterin klären. Ein erstes Gespräch dazu ist ein guter Anfang, auf den wir uns freuen.