Lokale KI-Modelle oder Cloud-KI: Was für Makler wirklich passt

Lokales KI-Modell oder Cloud-KI im Maklerunternehmen?

Viele Maklerunternehmen stellen die Frage in der falschen Reihenfolge. Zuerst wird nach dem besten Modell gesucht, erst danach geklärt, was mit Gesundheitsangaben, Vertragsdaten und Finanzverhältnissen der Kundschaft geschieht. Dabei entscheidet genau diese zweite Frage über den richtigen Betrieb.

Die Wahl zwischen lokaler KI und Cloud-KI fällt am Schutzbedarf der Bestandsdaten, am Nutzungsvolumen und an der eigenen Betriebsfähigkeit, nicht am Modell: Cloud-KI bringt den schnelleren Start, ein lokales Modell die volle Datenhoheit, und für die meisten Maklerunternehmen ist eine bewusste Kombination aus beidem der tragfähigste Weg.

Was unterscheidet lokale KI-Modelle von Cloud-KI?

Der Ort der Verarbeitung. Bei Cloud-KI werden Daten über eine Schnittstelle an einen Anbieter geschickt, das Modell rechnet auf dessen Servern, abgerechnet wird nach verarbeiteter Textmenge. Lokale Modelle laufen auf eigener Hardware oder in einem Rechenzentrum, das das Unternehmen selbst kontrolliert; die Daten verlassen das Unternehmen nicht.

Für den lokalen Betrieb kommen offene Modelle mit frei verfügbaren Gewichten infrage. Mistral AI hat etwa Mistral Small 3 im Januar 2025 unter der freien Lizenz Apache 2.0 veröffentlicht; nach Angaben des Herstellers läuft das Modell in komprimierter Form auf einer einzelnen Grafikkarte vom Typ RTX 4090 oder einem MacBook mit 32 GB Arbeitsspeicher. Metas Llama 3.1 steht unter einer Community-Lizenz, die eine gesonderte Lizenz erst ab mehr als 700 Millionen monatlich aktiven Nutzern verlangt, für Maklerunternehmen also ohne praktische Bedeutung.

Warum spitzt der Datenschutz die Frage im Maklerunternehmen zu?

Weil Maklerunternehmen besonders schutzwürdige Daten verarbeiten. Gesundheitsdaten aus Anträgen für Kranken-, Berufsunfähigkeits- oder Lebensversicherungen gehören nach Artikel 9 der Datenschutz-Grundverordnung zu den besonderen Kategorien personenbezogener Daten, deren Verarbeitung grundsätzlich untersagt und nur unter engen Voraussetzungen zulässig ist.

Für Cloud-KI braucht es zudem einen Auftragsverarbeitungsvertrag nach Artikel 28 DSGVO: Der Anbieter verarbeitet Daten nur nach dokumentierter Weisung, sichert technische und organisatorische Schutzmaßnahmen zu und löscht oder übergibt die Daten nach Vertragsende. Bei Anbietern mit Sitz in den USA kommt eine weitere Ebene hinzu: Nach 18 U.S.C. § 2713, eingeführt durch den CLOUD Act von 2018, müssen US-Anbieter Daten unter ihrer Kontrolle auf behördliche Anordnung herausgeben, unabhängig davon, ob sie in den USA oder in Europa gespeichert sind. Wie sich diese Anforderungen bei der Einführung sauber aufsetzen lassen, beschreibt der Beitrag zum Datenschutz bei der KI-Einführung.

Dass Datenschutz die größte Hürde ist, bestätigt der Bitkom: In einer repräsentativen Befragung von 603 Unternehmen ab 20 Beschäftigten, veröffentlicht im September 2026, nutzen erstmals 57 Prozent der Unternehmen KI. Unter den Nutzern nennen 66 Prozent die Anforderungen des Datenschutzes als Hürde, 45 Prozent fürchten, dass Unternehmensdaten in falsche Hände geraten.

Wo liegen Stärken und Grenzen der beiden Wege?

Cloud-KI startet schnell. Es braucht keine Hardware, der Zugang ist am selben Tag eingerichtet, und die großen Anbieter liefern sehr leistungsfähige Modelle, die laufend aktualisiert werden. Für kleine und schwankende Nutzungsmengen ist die Abrechnung je Nutzung meist der günstigste Weg. Die Grenzen liegen in Abhängigkeit und Kontrolle: Preise, Konditionen und Modellversionen bestimmt der Anbieter, und bei jeder Anfrage verlassen Daten das Unternehmen.

Lokale Modelle bieten volle Datenhoheit und Kontrolle über Modellversionen. Die Grenzen lokaler Modelle liegen im Betrieb: Hardware, Sicherheitsupdates, Modellpflege und Überwachung brauchen Fachwissen und feste Zuständigkeiten, die in vielen Maklerunternehmen nicht vorhanden sind. Bei der Leistung ist der Abstand kleiner geworden: Nach dem „AI Index Report 2025“ der Stanford University schrumpfte der Vorsprung des besten geschlossenen Modells vor dem besten offenen Modell auf einer verbreiteten Vergleichsplattform innerhalb eines Jahres von 8,0 auf 1,7 Prozent. Für typische Aufgaben im Maklerbüro wie Zusammenfassungen, Entwürfe für Korrespondenz oder das Auslesen von Dokumenten genügt ein gutes offenes Modell häufig.

Wann rechnet sich der lokale Betrieb?

Wenn das Volumen hoch, dauerhaft und planbar ist. Cloud-KI verursacht variable Kosten je Anfrage, lokaler Betrieb feste Kosten für Hardware, Strom, Wartung und Personal. Die Rechnung ist einfach aufzustellen: Die einmaligen und laufenden Kosten des lokalen Betriebs werden den gemessenen monatlichen Cloud-Kosten bei realem Volumen gegenübergestellt. Wichtig ist, die tatsächliche Nutzung über einige Monate zu erheben, statt sie zu schätzen, und den Personalaufwand für den Betrieb ehrlich einzurechnen. Wie sich Kosten je Vorgang steuern lassen, beschreibt der Beitrag zu FinOps für generative KI.

Was passiert, wenn das Unternehmen nicht entscheidet?

Dann entscheiden die Beschäftigten selbst. Nach einer Bitkom-Befragung von 604 Unternehmen vom Oktober 2025 ist die Nutzung privater KI-Tools durch Beschäftigte in 8 Prozent der Unternehmen weit verbreitet, doppelt so häufig wie im Vorjahr; in weiteren 17 Prozent kommt das in Einzelfällen vor. Nur 23 Prozent haben Regeln für die KI-Nutzung aufgestellt. Für ein Maklerunternehmen mit Gesundheitsdaten im Bestand ist das der ungünstigste Fall: Daten fließen in Dienste, für die es weder Vertrag noch Kontrolle gibt. Wie Maklerunternehmen KI vom Tool zum Prozess entwickeln, zeigt der Beitrag zur Studie zur KI im Maklerbüro.

Wie sieht ein pragmatischer Mittelweg aus?

Er trennt nach Schutzbedarf. Aufgaben ohne personenbezogene Daten, etwa allgemeine Recherche oder Textentwürfe ohne Kundenbezug, laufen in einer vertraglich sauber geregelten Cloud-Umgebung. Die Verarbeitung von Gesundheitsangaben, Vertragsdetails und Bestandsdaten läuft auf einem lokal betriebenen Modell. Eine gemeinsame Zugriffsschicht leitet jede Anfrage nach festen Regeln an den richtigen Ort. Wie dieses Prinzip im Bankbereich funktioniert, zeigt der Beitrag zu lokaler KI in der Marktfolge; die Architektur dahinter beschreibt der Beitrag zur Multi-LLM-Strategie. Den regulatorischen Rahmen aus KI-Verordnung und Aufsichtsrecht ordnet der Beitrag zur KI-Regulierung ein.

Was das Management eines Maklerunternehmens festlegen sollte

1. Daten nach Schutzbedarf einteilen und festlegen, welche Kategorien keinen externen Dienst erreichen dürfen.

2. Die tatsächliche KI-Nutzung erheben, einschließlich privater Tools, und Nutzungsregeln verabschieden.

3. Cloud-Dienste nur mit Auftragsverarbeitungsvertrag nutzen und das anwendbare Recht des Anbieters prüfen.

4. Den lokalen Betrieb an messbaren Kriterien ausrichten: Volumen, Schutzbedarf und vorhandene Betriebskompetenz.

5. Eine Zuständigkeit für den KI-Betrieb benennen, intern oder über einen vertraglich gebundenen Dienstleister.

Häufige Fragen

Ist Cloud-KI für Maklerunternehmen datenschutzkonform möglich?
Ja, mit Auftragsverarbeitungsvertrag, geprüften Schutzmaßnahmen und klaren Regeln, welche Daten die Cloud erreichen dürfen. Für Gesundheitsdaten gelten nach Artikel 9 DSGVO besonders strenge Voraussetzungen.

Reicht ein lokales Modell für die Arbeit im Maklerbüro?
Für viele Standardaufgaben wie Zusammenfassungen, Korrespondenz und das Auslesen von Dokumenten häufig ja; der Leistungsabstand offener Modelle ist deutlich kleiner geworden.

Was braucht ein Maklerunternehmen für den lokalen Betrieb?
Geeignete Hardware, eine feste Zuständigkeit für Updates, Modellpflege und Überwachung sowie einen Prüfsatz, mit dem die Qualität regelmäßig gemessen wird.

Weitere Beiträge zu Plattformen, Betrieb und Steuerung bündelt das Dossier KI-Strategie & Plattformen.

Welche Kundendaten heute schon über private KI-Tools das eigene Unternehmen verlassen, weiß kaum ein Maklerunternehmen genau, und genau dort beginnt die Entscheidung über den richtigen Betrieb. Gern kommen wir dazu in einem ersten Gespräch zusammen.