Private KI auf eigenen Servern: Was eine Bank oder ein Fondsemittent entscheiden muss

Kurz gesagt: Wenn KI auf Ihren eigenen Servern läuft, kann eine Bank oder ein Fondsemittent genau festlegen, wo Informationen verarbeitet werden, welche Dokumente die KI lesen darf und wer sie nutzt. Bevor Hardware bestellt wird, sind sechs Entscheidungen nötig: die erste Aufgabe, die Datengrenze, die angebundenen Quellen, die Zugriffsrechte, Modell und Hardware sowie die Stellen, an denen Menschen Ergebnisse freigeben. Wenn diese Punkte geklärt sind, wird die Technologiewahl deutlich einfacher.

Die meisten meiner Gespräche mit Finanzunternehmen über KI beginnen mit derselben Frage: Wohin gehen unsere Daten? Für eine Bank, einen Fondsemittenten oder einen Vermögensverwalter ist das kein technisches Detail. Kundendaten, Entwürfe von Produktdokumenten, interne Richtlinien und Preislogik sind genau die Informationen, die Sie nicht an einen Dienst senden können, den Sie nicht kontrollieren.

Lokale oder private KI beantwortet diese Frage direkt. Bei LabForty installieren und konfigurieren wir KI in einer Umgebung, die Sie kontrollieren, binden die Dokumente und Geschäftsanwendungen an, die Sie freigeben, und richten den Zugriff für Ihr Team ein. Dabei nutzen wir geeignete vorhandene Hardware oder liefern, was benötigt wird.

Doch „auf unseren eigenen Servern“ ist der Anfang der Entscheidung, nicht das Ende. Das müssen Sie tatsächlich entscheiden.

1. Welche Aufgabe kommt zuerst?

Beginnen Sie mit einer konkreten Aufgabe, die Ihr Team regelmäßig wiederholt. Nicht „KI für die Bank“, sondern etwa aus einer Anfrage einen Angebotsentwurf machen, Fragen von Mitarbeitenden anhand freigegebener interner Richtlinien beantworten oder Angaben aus eingehenden Dokumenten in einen Datensatz übernehmen.

Eine einzelne Aufgabe gibt Ihnen etwas Messbares, eine kleine Nutzergruppe, von der Sie lernen, und einen klaren Rahmen für die Hardware. Sie macht auch das erste Freigabegespräch mit Ihren Kolleginnen und Kollegen aus Risikomanagement und Compliance konkret.

2. Wo verläuft die Datengrenze?

Lokale KI kann mit freigegebenen Informationen auf Systemen arbeiten, die Sie kontrollieren. Sie entscheiden, mit welcher Software sie verbunden wird und welche Informationen Ihre Umgebung verlassen dürfen, falls überhaupt.

Halten Sie diese Grenze schriftlich fest, bevor gebaut wird:

• Welche Datenklassen darf die KI lesen: öffentliche Dokumente, interne Richtlinien, Kundendaten?
• Darf irgendetwas einen externen Dienst aufrufen, etwa eine Websuche oder ein gehostetes Modell für nicht sensible Aufgaben? In unseren Lösungen sind externe Dienste optional, und es sind nur die, die Sie auswählen.
• In welcher Umgebung läuft das System: in Ihrem Büro, in Ihrem Rechenzentrum oder auf einem privaten Server unter Ihrer Kontrolle? LabForty richtet private KI entweder on-premise auf Ihrer eigenen Hardware ein oder auf privaten Cloud-Servern, die ausschließlich Ihnen zur Verfügung stehen.

3. Aus welchen Quellen antwortet sie?

Ein Assistent ist nur so gut wie die Dokumente dahinter. Unsere Assistenten antworten auf Basis freigegebener Leitfäden, Richtlinien und technischer Dokumente, fassen Dateien zusammen, vergleichen Informationen und zeigen die Quellen, die Ihr Team prüfen sollte.

Für ein reguliertes Unternehmen zählt das Wort „freigegeben“. Legen Sie fest, wem der Dokumentenbestand gehört, wie veraltete Versionen entfernt werden und wer zustimmt, wenn eine neue Quelle hinzukommt. Ein Assistent, der das Preisverzeichnis vom letzten Jahr zitiert, ist schlechter als gar kein Assistent.

4. Wer darf sie nutzen, und wofür?

Zugriffsregeln sollten die Regeln widerspiegeln, die Sie bereits haben. Wenn ein Team heute einen Ordner nicht öffnen darf, sollte die KI diesem Team morgen keine Fragen dazu beantworten.

Legen Sie die Nutzergruppen fest, welche Quellen und Werkzeuge jede Gruppe verwenden darf und wie Zugriffe überprüft werden, wenn jemand die Rolle wechselt.

5. Welches Modell, auf welcher Hardware?

Das passende lokale Modell hängt von drei Dingen ab: der Aufgabe, den benötigten Sprachen und der verfügbaren Hardware. Unsere KI-Seite zeigt eine beispielhafte Auswahl offener Modelle, geprüft am 7. September 2026, und die Spannweite ist groß:

• Google beschreibt für die lokale Nutzung von Gemma 4 12B eine Konfiguration mit 16 GB Speicher.
• Die Referenzkonfiguration von OpenAI für gpt-oss-120b nutzt eine GPU mit 80 GB.
• DeepSeek-V4-Flash ist ein großes Modell für lange Kontexte, das einen eigenen Server mit viel Speicher benötigt.

Manche Modelle laufen auf leistungsfähigen Laptops, andere brauchen dedizierte Server. Deshalb testen wir mit Ihren eigenen Dokumenten und dimensionieren die Hardware, bevor wir eine Lösung empfehlen. Für ein bulgarisches oder mehrsprachiges Team gehört die Sprachqualität mit Ihren echten Dokumenten zu diesem Test und ist kein Nebengedanke.

Prüfen Sie auch die Lizenz. Die Modelle auf unserer Liste sind unter Apache 2.0 oder MIT veröffentlicht, doch die Bedingungen unterscheiden sich je nach Modell und Version. Ihre Rechtsabteilung sollte sie für Ihren Einsatz bestätigen.

6. Wo geben Menschen frei?

Wir bauen Abläufe, die Angaben extrahieren, Datensätze in Ihrer Geschäftssoftware vorbereiten und Ausnahmen an die richtige Person weiterleiten. Ihr Team gibt wichtige Ergebnisse frei, bevor sie weitergehen.

Legen Sie diese Freigabepunkte in einem Finanzunternehmen ausdrücklich fest. Alles, was einen Kunden erreicht, einen Kontodatensatz verändert oder eine Entscheidung über eine Person beeinflusst, braucht eine namentlich benannte Person, die freigibt. Die KI bereitet die Arbeit vor. Ihr Team entscheidet.

Was private KI allein nicht löst

Daten auf eigenen Servern zu halten, beseitigt eine Risikokategorie. Die anderen bleiben.

• Genauigkeit. Auch ein lokales Modell kann sich irren. Quellenangaben und verpflichtende Prüfung sind der Weg, Fehler zu erkennen.
• Betrieb. Jemand muss Modelle aktualisieren, Server patchen, die Leistung überwachen und Vorfälle bearbeiten. Planen Sie Support und Wartung von Anfang an ein.
• Regulierung. Wenn Sie ein Finanzunternehmen sind, fallen ein KI-System und der Anbieter, der es betreibt, unter Ihren Rahmen für IKT-Risiken und Drittanbieter, und je nach Anwendungsfall kann die KI-Verordnung der EU gelten. Das ist eine Governance-Frage für Ihr Compliance-Team und nichts, was ein Betriebsmodell allein klärt.

So läuft ein erstes Projekt ab

Wir bitten Sie, uns eine Aufgabe zu zeigen, die Ihr Team regelmäßig wiederholt. Danach skizzieren wir die lokale KI-Lösung, die Hardware, die Anbindungen, die Kosten und die nächsten Schritte. Wir testen mit Ihren Dokumenten, installieren und prüfen das System gemeinsam mit Ihrem Team und erweitern erst dann den Umfang.

Wenn KI auch mehrstufige Back-Office-Arbeit übernehmen soll, lesen Sie unsere Hinweise zu individuellen KI-Agenten. Für die Software rund um die KI, etwa Portale, Intranets und CRM, siehe LabForty Core und individuelle CRM-Entwicklung.

FAQ

Kann private KI ganz ohne Verbindung zu externen KI-Diensten laufen?

Ja. Lokale KI arbeitet mit freigegebenen Informationen auf Systemen, die Sie kontrollieren, und externe Dienste sind optional. Sie entscheiden, was Ihre Umgebung verlassen darf, falls überhaupt.

Müssen wir neue Hardware kaufen?

Nicht immer. Wir prüfen geeignete vorhandene Hardware oder liefern, was benötigt wird. Die Hardware hängt vom Modell ab, und das Modell von der Aufgabe und den Sprachen.

Welches Modell ist das beste für eine Bank?

Darauf gibt es keine einheitliche Antwort. Wir wählen Modelle nach Aufgabe, Sprache und Hardware aus und testen sie mit Ihren eigenen Dokumenten, bevor wir eines empfehlen.

Sind wir automatisch regelkonform, wenn KI auf unseren eigenen Servern läuft?

Nein. Kein Betriebsmodell macht Sie für sich allein regelkonform. Es gibt Ihnen Kontrolle darüber, wo Daten verarbeitet werden, und unterstützt damit Ihre eigene Arbeit an Risiko und Compliance.

Wie fangen wir an?

Mit einer konkreten Aufgabe. Für diese Aufgabe skizzieren wir zuerst Lösung, Hardware, Anbindungen, Kosten und nächste Schritte.

Besprechen Sie eine Aufgabe

Zeigen Sie uns eine Aufgabe, die Ihr Team regelmäßig wiederholt, und wir skizzieren, was eine private KI-Lösung dafür umfassen würde. Kontaktieren Sie LabForty. Wir antworten innerhalb von 24 bis 48 Stunden an Werktagen.