Insight
Lokal statt Cloud: KI in der Marktfolge muss nicht in Azure laufen
Warum Prüfaufgaben in der Marktfolge nicht in die Cloud müssen: lokale KI-Modelle verkürzen den Freigabeweg, ersetzen aber nicht Datenschutz und Kontrolle.
Geschäftsmodell und Innovation
6 min Lesezeit
Kernaussage
Nicht jede Prüfaufgabe braucht die Cloud. Wer geeignete Prozesse auf eigener Infrastruktur betreibt, hebt den Nutzen im Alltag, statt monatelang auf eine externe Freigabe zu warten.

Die wichtigsten Erkenntnisse
Lokale Modelle verkürzen den Freigabeweg
Nicht jede Aufgabe braucht das größte KI-Modell
Lokal und Cloud ergänzen sich je Anwendungsfall
Die Freigabe dauert länger als das Projekt
Wer in einem deutschen Finanzinstitut ein KI-Vorhaben starten will, das auf einer externen Cloud läuft, kennt die nächsten Schritte: Prüfung der Auftragsverarbeitung, Fragen zur Datenresidenz, Einordnung als Auslagerung oder IKT-Drittdienstleistung, oft eine Datenschutz-Folgenabschätzung und am Ende eine Freigabe unter Bedingungen. Das ist keine Bürokratie um ihrer selbst willen, aber es bremst, und nicht selten dauert die Prüfung länger als die technische Umsetzung.
Für klar umrissene Prüfaufgaben in der Marktfolge müssen KI-Modelle nicht in der Cloud laufen: Kleinere Modelle auf eigener oder vom Verbund betriebener Infrastruktur verarbeiten Unterlagen, ohne dass Daten das kontrollierte Umfeld verlassen, und verkürzen damit vor allem den Weg bis zum produktiven Einsatz. Lokal und Cloud sind dabei keine Gegensätze, sondern zwei Optionen, die je Anwendungsfall bewusst gewählt werden.
Ist lokal betriebene KI im Finanzsektor schon Realität?
Ja, auch im großen Maßstab. Die Finanz Informatik hat den S-KIPilot im Sommer 2024 eingeführt; laut ihrem Jahresbericht läuft der KI-Assistent vollständig im abgesicherten Betrieb der Finanz Informatik. Sparkassen nutzen damit bereits eine KI-Lösung, deren Daten das kontrollierte Umfeld des Verbunds nicht verlassen. Welche Unterschiede zu den Lösungen der Genossenschaftsbanken bestehen, zeigt der Vergleich S-KIPilot gegen plainGPT.
Für spezialisierte Prüfaufgaben, die ein allgemeiner Assistent nicht abdeckt, stellt sich die Frage erneut: in einer externen Cloud, in einer Verbundumgebung oder auf eigener Infrastruktur im Institut. Genau dort lohnt der genaue Blick auf den einzelnen Anwendungsfall.
Was bedeutet lokal, und welche Aufgaben in der Marktfolge passen dazu?
Lokal heißt, dass Modell und verarbeitete Daten das kontrollierte Umfeld des Instituts oder seines Rechenzentrums nicht verlassen. Für viele Anwendungsfälle in der Marktfolge ist das nicht nur ausreichend, sondern ideal. Eine Plausibilitätsprüfung von Kreditunterlagen, das Auslesen strukturierter Angaben aus Grundbuchauszügen oder Gehaltsnachweisen und ein Abgleich mit Bestandsdaten lassen sich mit Modellen erledigen, die keine Verbindung nach außen brauchen.
Die Marktfolge ist ein dankbares Feld, weil ihre Tätigkeiten strukturiert, regelbasiert und dokumentenlastig sind. Ein Prüfschritt, der heute einen spürbaren Teil der Bearbeitungszeit je Vorgang bindet, lässt sich deutlich verkürzen, ohne dass der Vorgang das Institut verlässt. Wie groß der Effekt ist, hängt vom Prozess ab und wird vor dem Start über eine Ausgangsmessung festgehalten, nicht geschätzt. Warum gerade die Dokumentenverarbeitung ein großer Hebel ist, beschreibt der Beitrag zur Dokumentenverarbeitung in der Marktfolge.
Welche Prüfungen entfallen bei lokaler KI, und welche bleiben?
Es entfällt vor allem die Prüfung eines externen Dienstleisters, nicht der Datenschutz insgesamt. Bei einem Cloud-Dienst kommen Auftragsverarbeitung, Datenübermittlung und die Anforderungen des Digital Operational Resilience Act (DORA) an IKT-Drittdienstleister hinzu: Nach Artikel 28 DORA führen Finanzunternehmen ein Informationsregister über alle vertraglichen Vereinbarungen zu IKT-Dienstleistungen, prüfen vor Vertragsschluss Risiken einschließlich Konzentrationsrisiken und brauchen für Dienste, die kritische oder wichtige Funktionen unterstützen, getestete Ausstiegsstrategien. Bleibt die Verarbeitung auf eigener Infrastruktur, entfällt dieser Teil weitgehend.
Bestehen bleiben allerdings die allgemeinen Pflichten. Eine Datenschutz-Folgenabschätzung nach Artikel 35 DSGVO ist erforderlich, wenn eine Verarbeitung, insbesondere mit neuen Technologien, voraussichtlich ein hohes Risiko für die Rechte natürlicher Personen birgt, etwa bei systematischer Bewertung persönlicher Aspekte. Ebenso bleiben Berechtigungskonzept, Protokollierung und die Einbindung von Informationssicherheit und Revision. Der Freigabeweg wird kürzer, aber nicht überflüssig.

Braucht jede Aufgabe das größte KI-Modell?
Nein. Ein verbreiteter Irrtum ist, KI brauche immer das leistungsstärkste Modell und damit zwangsläufig die Cloud. Für klar umrissene Aufgaben in der Marktfolge stimmt das nicht. Ein kleineres, auf eine Prüfart zugeschnittenes Modell ist dort oft schneller, günstiger im Betrieb und leichter zu kontrollieren, und es läuft auf eigener Hardware.
Entscheidend ist der Zuschnitt. Wo es um definierte, wiederkehrende Prüfungen geht, ist eine lokale Lösung häufig die passendere. Wo offene, sehr breite oder kreative Aufgaben anstehen, kann ein größeres Modell sinnvoll sein. Diese Unterscheidung gehört in die Architekturentscheidung, nicht in einen pauschalen Reflex. Bewährt hat sich ein kurzer Vergleichstest: Eine Stichprobe realer, anonymisierter oder freigegebener Vorgänge wird mit zwei oder drei Modellvarianten bearbeitet, und die Ergebnisse werden von der Sachbearbeitung gegen die eigene Prüfung gehalten. So entsteht die Entscheidung aus Ergebnissen am eigenen Material statt aus Herstellerangaben. Wie Institute mehrere Modelle sinnvoll kombinieren, beschreibt der Beitrag zur Multi-LLM-Strategie und Modellunabhängigkeit.
Schließen sich lokale KI und Cloud aus?
Nein, sie ergänzen sich. Es gibt Anwendungsfälle, für die eine Cloud-Lösung der richtige Weg ist, und solche, für die eine lokale Lösung überlegen ist. Für die sensible, hochfrequente Prüfarbeit der Marktfolge spricht vieles für die lokale Variante, für breite Recherche- oder Textaufgaben oft die Cloud oder die Verbundlösung. Die Frage, wo Souveränität tatsächlich entschieden wird, vertieft der Beitrag KI-Souveränität wird nicht am Modell entschieden; die Betriebsseite beleuchtet der Beitrag zu Cloud-Souveränität im KI-Betrieb.
Was bedeutet lokale KI für Steuerung, IT und Organisation?
Für die IT verschiebt sich Aufwand vom Vertragsmanagement zum Betrieb: Hardware, Modellpflege, Überwachung und Aktualisierung liegen im Institut oder beim Rechenzentrum. Für die Steuerung braucht es klare Kennzahlen je Prüfschritt, etwa Bearbeitungszeit, Fehlerquote und Anteil der Fälle, die ein Mensch korrigiert. Für die Organisation gilt wie bei jeder KI: Die Entscheidung bleibt bei der Sachbearbeitung, das Modell bereitet vor. Wie Agenten darauf aufbauen können, zeigt der Beitrag zu Agentic AI in der Marktfolge.
Was das Management jetzt anstoßen sollte
Einen hochfrequenten Prüfschritt auswählen, der heute viel Bearbeitungszeit bindet, etwa die Auswertung von Grundbuchauszügen oder Einkommensnachweisen.
Die Betriebsoption je Anwendungsfall entscheiden: Verbundlösung, eigene Infrastruktur oder Cloud, begründet nach Datensensibilität und Aufgabe.
Datenschutz, Informationssicherheit und Revision früh einbinden, auch bei lokaler Verarbeitung, und die Folgenabschätzung prüfen.
Eine Ausgangsmessung durchführen: Bearbeitungszeit und Fehlerquote vor dem Start festhalten.
Den Betrieb verankern: Zuständigkeit für Modellpflege, Überwachung und Aktualisierung klar benennen.
Häufige Fragen
Brauchen lokal betriebene KI-Modelle kein Datenschutzgutachten?
Die Prüfung eines externen Dienstleisters entfällt weitgehend. Eine Datenschutz-Folgenabschätzung kann trotzdem nötig sein, wenn die Verarbeitung ein hohes Risiko für betroffene Personen birgt.
Welche Marktfolge-Aufgaben eignen sich für lokale KI?
Klar definierte, wiederkehrende Prüfungen: Plausibilitätsprüfung von Kreditunterlagen, Auslesen strukturierter Angaben aus Dokumenten und Abgleich mit Bestandsdaten.
Ist lokale KI weniger leistungsfähig als die Cloud?
Für breite, offene Aufgaben oft ja. Für eng umrissene Prüfarten sind kleinere, spezialisierte Modelle häufig ausreichend, schneller und günstiger im Betrieb.
Weitere Beiträge zu Strategie, Plattformen und Steuerung von KI bündelt das Dossier KI-Strategie & Plattformen.
In vielen Marktfolgen gibt es einen Prüfschritt, der seit Jahren gleich abläuft und nie das Institut verlassen müsste. Darüber sprechen wir gern in einem ersten Gespräch.
Ein Thema, das gerade beschäftigt?
Gemeinsam einordnen, was daraus folgt.

Die wichtigsten Erkenntnisse
Lokale Modelle verkürzen den Freigabeweg
Nicht jede Aufgabe braucht das größte KI-Modell
Lokal und Cloud ergänzen sich je Anwendungsfall
Die Freigabe dauert länger als das Projekt
Wer in einem deutschen Finanzinstitut ein KI-Vorhaben starten will, das auf einer externen Cloud läuft, kennt die nächsten Schritte: Prüfung der Auftragsverarbeitung, Fragen zur Datenresidenz, Einordnung als Auslagerung oder IKT-Drittdienstleistung, oft eine Datenschutz-Folgenabschätzung und am Ende eine Freigabe unter Bedingungen. Das ist keine Bürokratie um ihrer selbst willen, aber es bremst, und nicht selten dauert die Prüfung länger als die technische Umsetzung.
Für klar umrissene Prüfaufgaben in der Marktfolge müssen KI-Modelle nicht in der Cloud laufen: Kleinere Modelle auf eigener oder vom Verbund betriebener Infrastruktur verarbeiten Unterlagen, ohne dass Daten das kontrollierte Umfeld verlassen, und verkürzen damit vor allem den Weg bis zum produktiven Einsatz. Lokal und Cloud sind dabei keine Gegensätze, sondern zwei Optionen, die je Anwendungsfall bewusst gewählt werden.
Ist lokal betriebene KI im Finanzsektor schon Realität?
Ja, auch im großen Maßstab. Die Finanz Informatik hat den S-KIPilot im Sommer 2024 eingeführt; laut ihrem Jahresbericht läuft der KI-Assistent vollständig im abgesicherten Betrieb der Finanz Informatik. Sparkassen nutzen damit bereits eine KI-Lösung, deren Daten das kontrollierte Umfeld des Verbunds nicht verlassen. Welche Unterschiede zu den Lösungen der Genossenschaftsbanken bestehen, zeigt der Vergleich S-KIPilot gegen plainGPT.
Für spezialisierte Prüfaufgaben, die ein allgemeiner Assistent nicht abdeckt, stellt sich die Frage erneut: in einer externen Cloud, in einer Verbundumgebung oder auf eigener Infrastruktur im Institut. Genau dort lohnt der genaue Blick auf den einzelnen Anwendungsfall.
Was bedeutet lokal, und welche Aufgaben in der Marktfolge passen dazu?
Lokal heißt, dass Modell und verarbeitete Daten das kontrollierte Umfeld des Instituts oder seines Rechenzentrums nicht verlassen. Für viele Anwendungsfälle in der Marktfolge ist das nicht nur ausreichend, sondern ideal. Eine Plausibilitätsprüfung von Kreditunterlagen, das Auslesen strukturierter Angaben aus Grundbuchauszügen oder Gehaltsnachweisen und ein Abgleich mit Bestandsdaten lassen sich mit Modellen erledigen, die keine Verbindung nach außen brauchen.
Die Marktfolge ist ein dankbares Feld, weil ihre Tätigkeiten strukturiert, regelbasiert und dokumentenlastig sind. Ein Prüfschritt, der heute einen spürbaren Teil der Bearbeitungszeit je Vorgang bindet, lässt sich deutlich verkürzen, ohne dass der Vorgang das Institut verlässt. Wie groß der Effekt ist, hängt vom Prozess ab und wird vor dem Start über eine Ausgangsmessung festgehalten, nicht geschätzt. Warum gerade die Dokumentenverarbeitung ein großer Hebel ist, beschreibt der Beitrag zur Dokumentenverarbeitung in der Marktfolge.
Welche Prüfungen entfallen bei lokaler KI, und welche bleiben?
Es entfällt vor allem die Prüfung eines externen Dienstleisters, nicht der Datenschutz insgesamt. Bei einem Cloud-Dienst kommen Auftragsverarbeitung, Datenübermittlung und die Anforderungen des Digital Operational Resilience Act (DORA) an IKT-Drittdienstleister hinzu: Nach Artikel 28 DORA führen Finanzunternehmen ein Informationsregister über alle vertraglichen Vereinbarungen zu IKT-Dienstleistungen, prüfen vor Vertragsschluss Risiken einschließlich Konzentrationsrisiken und brauchen für Dienste, die kritische oder wichtige Funktionen unterstützen, getestete Ausstiegsstrategien. Bleibt die Verarbeitung auf eigener Infrastruktur, entfällt dieser Teil weitgehend.
Bestehen bleiben allerdings die allgemeinen Pflichten. Eine Datenschutz-Folgenabschätzung nach Artikel 35 DSGVO ist erforderlich, wenn eine Verarbeitung, insbesondere mit neuen Technologien, voraussichtlich ein hohes Risiko für die Rechte natürlicher Personen birgt, etwa bei systematischer Bewertung persönlicher Aspekte. Ebenso bleiben Berechtigungskonzept, Protokollierung und die Einbindung von Informationssicherheit und Revision. Der Freigabeweg wird kürzer, aber nicht überflüssig.

Braucht jede Aufgabe das größte KI-Modell?
Nein. Ein verbreiteter Irrtum ist, KI brauche immer das leistungsstärkste Modell und damit zwangsläufig die Cloud. Für klar umrissene Aufgaben in der Marktfolge stimmt das nicht. Ein kleineres, auf eine Prüfart zugeschnittenes Modell ist dort oft schneller, günstiger im Betrieb und leichter zu kontrollieren, und es läuft auf eigener Hardware.
Entscheidend ist der Zuschnitt. Wo es um definierte, wiederkehrende Prüfungen geht, ist eine lokale Lösung häufig die passendere. Wo offene, sehr breite oder kreative Aufgaben anstehen, kann ein größeres Modell sinnvoll sein. Diese Unterscheidung gehört in die Architekturentscheidung, nicht in einen pauschalen Reflex. Bewährt hat sich ein kurzer Vergleichstest: Eine Stichprobe realer, anonymisierter oder freigegebener Vorgänge wird mit zwei oder drei Modellvarianten bearbeitet, und die Ergebnisse werden von der Sachbearbeitung gegen die eigene Prüfung gehalten. So entsteht die Entscheidung aus Ergebnissen am eigenen Material statt aus Herstellerangaben. Wie Institute mehrere Modelle sinnvoll kombinieren, beschreibt der Beitrag zur Multi-LLM-Strategie und Modellunabhängigkeit.
Schließen sich lokale KI und Cloud aus?
Nein, sie ergänzen sich. Es gibt Anwendungsfälle, für die eine Cloud-Lösung der richtige Weg ist, und solche, für die eine lokale Lösung überlegen ist. Für die sensible, hochfrequente Prüfarbeit der Marktfolge spricht vieles für die lokale Variante, für breite Recherche- oder Textaufgaben oft die Cloud oder die Verbundlösung. Die Frage, wo Souveränität tatsächlich entschieden wird, vertieft der Beitrag KI-Souveränität wird nicht am Modell entschieden; die Betriebsseite beleuchtet der Beitrag zu Cloud-Souveränität im KI-Betrieb.
Was bedeutet lokale KI für Steuerung, IT und Organisation?
Für die IT verschiebt sich Aufwand vom Vertragsmanagement zum Betrieb: Hardware, Modellpflege, Überwachung und Aktualisierung liegen im Institut oder beim Rechenzentrum. Für die Steuerung braucht es klare Kennzahlen je Prüfschritt, etwa Bearbeitungszeit, Fehlerquote und Anteil der Fälle, die ein Mensch korrigiert. Für die Organisation gilt wie bei jeder KI: Die Entscheidung bleibt bei der Sachbearbeitung, das Modell bereitet vor. Wie Agenten darauf aufbauen können, zeigt der Beitrag zu Agentic AI in der Marktfolge.
Was das Management jetzt anstoßen sollte
Einen hochfrequenten Prüfschritt auswählen, der heute viel Bearbeitungszeit bindet, etwa die Auswertung von Grundbuchauszügen oder Einkommensnachweisen.
Die Betriebsoption je Anwendungsfall entscheiden: Verbundlösung, eigene Infrastruktur oder Cloud, begründet nach Datensensibilität und Aufgabe.
Datenschutz, Informationssicherheit und Revision früh einbinden, auch bei lokaler Verarbeitung, und die Folgenabschätzung prüfen.
Eine Ausgangsmessung durchführen: Bearbeitungszeit und Fehlerquote vor dem Start festhalten.
Den Betrieb verankern: Zuständigkeit für Modellpflege, Überwachung und Aktualisierung klar benennen.
Häufige Fragen
Brauchen lokal betriebene KI-Modelle kein Datenschutzgutachten?
Die Prüfung eines externen Dienstleisters entfällt weitgehend. Eine Datenschutz-Folgenabschätzung kann trotzdem nötig sein, wenn die Verarbeitung ein hohes Risiko für betroffene Personen birgt.
Welche Marktfolge-Aufgaben eignen sich für lokale KI?
Klar definierte, wiederkehrende Prüfungen: Plausibilitätsprüfung von Kreditunterlagen, Auslesen strukturierter Angaben aus Dokumenten und Abgleich mit Bestandsdaten.
Ist lokale KI weniger leistungsfähig als die Cloud?
Für breite, offene Aufgaben oft ja. Für eng umrissene Prüfarten sind kleinere, spezialisierte Modelle häufig ausreichend, schneller und günstiger im Betrieb.
Weitere Beiträge zu Strategie, Plattformen und Steuerung von KI bündelt das Dossier KI-Strategie & Plattformen.
In vielen Marktfolgen gibt es einen Prüfschritt, der seit Jahren gleich abläuft und nie das Institut verlassen müsste. Darüber sprechen wir gern in einem ersten Gespräch.
Ein Thema, das gerade beschäftigt?
Gemeinsam einordnen, was daraus folgt.

Die wichtigsten Erkenntnisse
Lokale Modelle verkürzen den Freigabeweg
Nicht jede Aufgabe braucht das größte KI-Modell
Lokal und Cloud ergänzen sich je Anwendungsfall
Die Freigabe dauert länger als das Projekt
Wer in einem deutschen Finanzinstitut ein KI-Vorhaben starten will, das auf einer externen Cloud läuft, kennt die nächsten Schritte: Prüfung der Auftragsverarbeitung, Fragen zur Datenresidenz, Einordnung als Auslagerung oder IKT-Drittdienstleistung, oft eine Datenschutz-Folgenabschätzung und am Ende eine Freigabe unter Bedingungen. Das ist keine Bürokratie um ihrer selbst willen, aber es bremst, und nicht selten dauert die Prüfung länger als die technische Umsetzung.
Für klar umrissene Prüfaufgaben in der Marktfolge müssen KI-Modelle nicht in der Cloud laufen: Kleinere Modelle auf eigener oder vom Verbund betriebener Infrastruktur verarbeiten Unterlagen, ohne dass Daten das kontrollierte Umfeld verlassen, und verkürzen damit vor allem den Weg bis zum produktiven Einsatz. Lokal und Cloud sind dabei keine Gegensätze, sondern zwei Optionen, die je Anwendungsfall bewusst gewählt werden.
Ist lokal betriebene KI im Finanzsektor schon Realität?
Ja, auch im großen Maßstab. Die Finanz Informatik hat den S-KIPilot im Sommer 2024 eingeführt; laut ihrem Jahresbericht läuft der KI-Assistent vollständig im abgesicherten Betrieb der Finanz Informatik. Sparkassen nutzen damit bereits eine KI-Lösung, deren Daten das kontrollierte Umfeld des Verbunds nicht verlassen. Welche Unterschiede zu den Lösungen der Genossenschaftsbanken bestehen, zeigt der Vergleich S-KIPilot gegen plainGPT.
Für spezialisierte Prüfaufgaben, die ein allgemeiner Assistent nicht abdeckt, stellt sich die Frage erneut: in einer externen Cloud, in einer Verbundumgebung oder auf eigener Infrastruktur im Institut. Genau dort lohnt der genaue Blick auf den einzelnen Anwendungsfall.
Was bedeutet lokal, und welche Aufgaben in der Marktfolge passen dazu?
Lokal heißt, dass Modell und verarbeitete Daten das kontrollierte Umfeld des Instituts oder seines Rechenzentrums nicht verlassen. Für viele Anwendungsfälle in der Marktfolge ist das nicht nur ausreichend, sondern ideal. Eine Plausibilitätsprüfung von Kreditunterlagen, das Auslesen strukturierter Angaben aus Grundbuchauszügen oder Gehaltsnachweisen und ein Abgleich mit Bestandsdaten lassen sich mit Modellen erledigen, die keine Verbindung nach außen brauchen.
Die Marktfolge ist ein dankbares Feld, weil ihre Tätigkeiten strukturiert, regelbasiert und dokumentenlastig sind. Ein Prüfschritt, der heute einen spürbaren Teil der Bearbeitungszeit je Vorgang bindet, lässt sich deutlich verkürzen, ohne dass der Vorgang das Institut verlässt. Wie groß der Effekt ist, hängt vom Prozess ab und wird vor dem Start über eine Ausgangsmessung festgehalten, nicht geschätzt. Warum gerade die Dokumentenverarbeitung ein großer Hebel ist, beschreibt der Beitrag zur Dokumentenverarbeitung in der Marktfolge.
Welche Prüfungen entfallen bei lokaler KI, und welche bleiben?
Es entfällt vor allem die Prüfung eines externen Dienstleisters, nicht der Datenschutz insgesamt. Bei einem Cloud-Dienst kommen Auftragsverarbeitung, Datenübermittlung und die Anforderungen des Digital Operational Resilience Act (DORA) an IKT-Drittdienstleister hinzu: Nach Artikel 28 DORA führen Finanzunternehmen ein Informationsregister über alle vertraglichen Vereinbarungen zu IKT-Dienstleistungen, prüfen vor Vertragsschluss Risiken einschließlich Konzentrationsrisiken und brauchen für Dienste, die kritische oder wichtige Funktionen unterstützen, getestete Ausstiegsstrategien. Bleibt die Verarbeitung auf eigener Infrastruktur, entfällt dieser Teil weitgehend.
Bestehen bleiben allerdings die allgemeinen Pflichten. Eine Datenschutz-Folgenabschätzung nach Artikel 35 DSGVO ist erforderlich, wenn eine Verarbeitung, insbesondere mit neuen Technologien, voraussichtlich ein hohes Risiko für die Rechte natürlicher Personen birgt, etwa bei systematischer Bewertung persönlicher Aspekte. Ebenso bleiben Berechtigungskonzept, Protokollierung und die Einbindung von Informationssicherheit und Revision. Der Freigabeweg wird kürzer, aber nicht überflüssig.

Braucht jede Aufgabe das größte KI-Modell?
Nein. Ein verbreiteter Irrtum ist, KI brauche immer das leistungsstärkste Modell und damit zwangsläufig die Cloud. Für klar umrissene Aufgaben in der Marktfolge stimmt das nicht. Ein kleineres, auf eine Prüfart zugeschnittenes Modell ist dort oft schneller, günstiger im Betrieb und leichter zu kontrollieren, und es läuft auf eigener Hardware.
Entscheidend ist der Zuschnitt. Wo es um definierte, wiederkehrende Prüfungen geht, ist eine lokale Lösung häufig die passendere. Wo offene, sehr breite oder kreative Aufgaben anstehen, kann ein größeres Modell sinnvoll sein. Diese Unterscheidung gehört in die Architekturentscheidung, nicht in einen pauschalen Reflex. Bewährt hat sich ein kurzer Vergleichstest: Eine Stichprobe realer, anonymisierter oder freigegebener Vorgänge wird mit zwei oder drei Modellvarianten bearbeitet, und die Ergebnisse werden von der Sachbearbeitung gegen die eigene Prüfung gehalten. So entsteht die Entscheidung aus Ergebnissen am eigenen Material statt aus Herstellerangaben. Wie Institute mehrere Modelle sinnvoll kombinieren, beschreibt der Beitrag zur Multi-LLM-Strategie und Modellunabhängigkeit.
Schließen sich lokale KI und Cloud aus?
Nein, sie ergänzen sich. Es gibt Anwendungsfälle, für die eine Cloud-Lösung der richtige Weg ist, und solche, für die eine lokale Lösung überlegen ist. Für die sensible, hochfrequente Prüfarbeit der Marktfolge spricht vieles für die lokale Variante, für breite Recherche- oder Textaufgaben oft die Cloud oder die Verbundlösung. Die Frage, wo Souveränität tatsächlich entschieden wird, vertieft der Beitrag KI-Souveränität wird nicht am Modell entschieden; die Betriebsseite beleuchtet der Beitrag zu Cloud-Souveränität im KI-Betrieb.
Was bedeutet lokale KI für Steuerung, IT und Organisation?
Für die IT verschiebt sich Aufwand vom Vertragsmanagement zum Betrieb: Hardware, Modellpflege, Überwachung und Aktualisierung liegen im Institut oder beim Rechenzentrum. Für die Steuerung braucht es klare Kennzahlen je Prüfschritt, etwa Bearbeitungszeit, Fehlerquote und Anteil der Fälle, die ein Mensch korrigiert. Für die Organisation gilt wie bei jeder KI: Die Entscheidung bleibt bei der Sachbearbeitung, das Modell bereitet vor. Wie Agenten darauf aufbauen können, zeigt der Beitrag zu Agentic AI in der Marktfolge.
Was das Management jetzt anstoßen sollte
Einen hochfrequenten Prüfschritt auswählen, der heute viel Bearbeitungszeit bindet, etwa die Auswertung von Grundbuchauszügen oder Einkommensnachweisen.
Die Betriebsoption je Anwendungsfall entscheiden: Verbundlösung, eigene Infrastruktur oder Cloud, begründet nach Datensensibilität und Aufgabe.
Datenschutz, Informationssicherheit und Revision früh einbinden, auch bei lokaler Verarbeitung, und die Folgenabschätzung prüfen.
Eine Ausgangsmessung durchführen: Bearbeitungszeit und Fehlerquote vor dem Start festhalten.
Den Betrieb verankern: Zuständigkeit für Modellpflege, Überwachung und Aktualisierung klar benennen.
Häufige Fragen
Brauchen lokal betriebene KI-Modelle kein Datenschutzgutachten?
Die Prüfung eines externen Dienstleisters entfällt weitgehend. Eine Datenschutz-Folgenabschätzung kann trotzdem nötig sein, wenn die Verarbeitung ein hohes Risiko für betroffene Personen birgt.
Welche Marktfolge-Aufgaben eignen sich für lokale KI?
Klar definierte, wiederkehrende Prüfungen: Plausibilitätsprüfung von Kreditunterlagen, Auslesen strukturierter Angaben aus Dokumenten und Abgleich mit Bestandsdaten.
Ist lokale KI weniger leistungsfähig als die Cloud?
Für breite, offene Aufgaben oft ja. Für eng umrissene Prüfarten sind kleinere, spezialisierte Modelle häufig ausreichend, schneller und günstiger im Betrieb.
Weitere Beiträge zu Strategie, Plattformen und Steuerung von KI bündelt das Dossier KI-Strategie & Plattformen.
In vielen Marktfolgen gibt es einen Prüfschritt, der seit Jahren gleich abläuft und nie das Institut verlassen müsste. Darüber sprechen wir gern in einem ersten Gespräch.
Ein Thema, das gerade beschäftigt?
Gemeinsam einordnen, was daraus folgt.



