Human in the Loop: Wo der Mensch in KI-Prozesse gehört

Was bedeutet Human in the Loop eigentlich genau?

Human in the Loop bezeichnet Prozesse, in denen ein Mensch an definierten Punkten prüft, freigibt oder eingreift, bevor ein automatisiert vorbereitetes Ergebnis wirksam wird. Der Mensch sitzt nicht daneben, er ist ein fester Prozessschritt mit klarer Zuständigkeit. Je mehr Unternehmen der Finanzbranche KI-Agenten einsetzen, desto öfter stellt sich die Frage, wo dieser Schritt hingehört. Zur Verbreitung liefert der Digitalverband Bitkom eine Orientierung: In seiner branchenübergreifenden Studie zur Künstlichen Intelligenz in der deutschen Wirtschaft 2026, einer Befragung von 603 Unternehmen ab 20 Beschäftigten, setzen 11 Prozent der Unternehmen, die sich mit Künstlicher Intelligenz befassen, bereits KI-Agenten ein, weitere 29 Prozent planen den Einsatz.

Ist ein Mensch im Prozess rechtlich vorgeschrieben?

Für Hochrisiko-Anwendungen ja, und zwar mit Ansage. Artikel 14 der europäischen KI-Verordnung verlangt, dass Hochrisiko-Systeme während der Nutzung wirksam von natürlichen Personen beaufsichtigt werden können; nach dem aktualisierten Umsetzungskalender, dokumentiert im AI Act Explorer mit Stand August 2026, gelten diese Pflichten für Anwendungen nach Anhang III ab dem 2. Dezember 2027. Für die Versicherungsbranche hat die europäische Aufsicht EIOPA die menschliche Aufsicht bereits im August 2025 in ihrer Stellungnahme zur KI-Governance als eines von sechs Prinzipienfeldern benannt, abgeleitet aus bestehendem Recht und damit ohne neue Übergangsfrist.

Was muss die prüfende Person können, damit die Aufsicht wirksam ist?

Die Person muss das System verstehen, seine Ausgaben deuten und es stoppen können. Artikel 14 der KI-Verordnung zählt das ausdrücklich auf: die Fähigkeiten und Grenzen des Systems kennen, sich der Neigung zum automatischen Vertrauen in Maschinenergebnisse bewusst sein, Ausgaben richtig interpretieren, im Einzelfall entscheiden können, das Ergebnis zu verwerfen, und eingreifen oder den Lauf anhalten können. Eine Freigabe ohne diese Voraussetzungen ist formal vorhanden und praktisch wertlos.

Wo gehört die Freigabe in den Prozess und wo bremst sie nur?

Die Freigabe gehört an die Punkte, an denen eine Entscheidung nach außen wirkt: vor der Zahlung, vor der Kundenantwort, vor der Vertragsänderung. Sie bremst dagegen, wenn sie jede maschinelle Vorarbeit einzeln absegnen soll, etwa das Sortieren des Posteingangs oder das Befüllen einer Vorlage. Bewährt hat sich die Unterscheidung nach Wirkung und Schwelle: Routinefälle unterhalb definierter Grenzen laufen durch und werden per Stichprobe geprüft, alles darüber wartet auf eine Person. Wie das in einem schnellen Prozess aussieht, zeigt das Beispiel der Baufinanzierung in Minuten.

Woran erkennt ein Unternehmen, dass seine Freigaben nur noch Ritual sind?

Am Muster der Entscheidungen: Wenn eine Freigabe über Wochen zu praktisch hundert Prozent erteilt wird, ohne dass je ein Fall zurückgeht, prüft dort niemand mehr, dann wird abgenickt. Dieses Durchwinken ist genau die Automatisierungsneigung, vor der die KI-Verordnung warnt. Das Gegenmittel ist messbar: Rückweisungsquoten je Freigabepunkt erfassen, Stichproben gezielt einstreuen und Freigabepunkte streichen oder verschärfen, je nachdem, was die Zahlen zeigen. Wer trägt die Verantwortung an diesen Punkten? Die Antwort vertieft der Beitrag zur Prozessverantwortung in der KI-Ära.

Wie führt ein Unternehmen Human in the Loop sauber ein?

Mit wenigen klaren Schritten statt einer Grundsatzdebatte:

• Wirkungspunkte bestimmen: je Prozess festhalten, wo Ergebnisse nach außen wirken, und nur dort verpflichtende Freigaben setzen.

• Schwellen festlegen: Grenzen definieren, unterhalb derer Vorgänge automatisch laufen und per Stichprobe geprüft werden.

• Befähigung sichern: prüfende Personen so schulen, dass sie Grenzen des Systems kennen und Ergebnisse begründet verwerfen können.

• Wirksamkeit messen: Rückweisungen und Korrekturen je Freigabepunkt auswerten und die Punkte danach justieren.

Wo im eigenen Unternehmen Freigaben heute schon nur noch durchgewunken werden, ist die ehrlichste Landkarte für den nächsten Schritt. Ein Gespräch dazu schafft oft mehr Klarheit als jedes weitere Papier.