Lokale KIIhre KI. Ihr Server.
Ihre Daten.
Wir bauen KI-Systeme, die vollständig auf Infrastruktur unter Ihrer Kontrolle laufen: vom Server über das passende Modell bis zu Antworten aus Ihren eigenen Dokumenten. Vorher rechnen wir gemeinsam durch, welche Lösung sich für Sie rechnet.
- Daten bleiben im Haus, Kosten bleiben planbar
- Offene Modelle, auf Ihren Testfällen ausgewählt
- Antworten mit Quelle, Zugriff nach Rechtekonzept
Kundenauszug aus über 700 Projekten seit 2010








Was ist lokale KI?
Lokale KI bezeichnet KI-Systeme, deren Sprachmodell auf einer Infrastruktur unter der Kontrolle des Unternehmens läuft, in der Regel auf eigener Hardware im Haus. Möglich wird das durch offene Modelle, deren Gewichte frei verfügbar sind. Eingaben, Dokumente und Ergebnisse bleiben in diesem Rahmen, die Kosten sind unabhängig von der Zahl der Anfragen, und Sie allein entscheiden, wann ein Modell wechselt. Anschaffung und Betrieb liegen dafür bei Ihnen, deshalb rechnen wir vor dem Kauf durch, welche Betriebsform sich für Sie trägt.
- EinstiegErstgespräch kostenfrei und unverbindlich
- KlärungScoping-Workshop 1.500 Euro, wird bei Beauftragung verrechnet
- UmsetzungPilot ab etwa 5.000 Euro, Umsetzungsprojekte 10.000 bis 150.000 Euro, Hardware je nach Betriebsform zusätzlich
- Betriebsformeneigene Hardware im Haus, offenes Modell bei einem europäischen Anbieter oder hybrid
- AnbieterKI Brains, Köln, Kunden im gesamten DACH-Raum, modellunabhängig
Die wertvollsten Daten gehören ins eigene Haus
Rechnungen, Verträge, Kalkulationen, Personalakten, Konstruktionsdaten: Genau dort, wo KI am meisten Arbeit abnehmen könnte, liegen die Daten, die ein Unternehmen lieber im eigenen Haus behält.
Lokale KI verbindet beides: Das Modell kommt zu den Daten und läuft dort, wo sie ohnehin liegen. Was dafür nötig ist, vom Server bis zur Antwort mit Quellenangabe, bauen wir aus einer Hand.
der Unternehmen im Mittelstand sehen Datensicherheit als entscheidenden Punkt beim Einsatz von KI.
Quelle: KI-Index Mittelstand 2026, Deutscher Mittelstands-Bund und Salesforce, 9. März 2026
Vom Server bis zur Antwort, aus einer Hand
Sechs Bausteine, die in jedem Vorhaben vorkommen. Welche davon Sie brauchen und in welchem Umfang, klärt das Scoping.
Bedarf und Wirtschaftlichkeit
Bevor Hardware gekauft wird, messen wir, was tatsächlich gebraucht wird: gleichzeitige Anfragen zur Spitzenzeit, nötige Modellgröße, gewünschte Verfügbarkeit. Daraus ergibt sich die Betriebsform, die sich für Sie rechnet.
- Probebetrieb mit einer kleinen Gruppe
- Rechnung über drei Jahre mit allen Posten
- Entscheidung zwischen Eigenbetrieb, europäischem Anbieter und hybrid
Serverinfrastruktur
Auswahl und Einrichtung der Hardware passend zur gemessenen Last, dazu Betriebssystem, Laufzeitumgebung für die Modelle, Netzwerk und Zugriff. Im eigenen Serverraum oder im Rechenzentrum Ihrer Wahl.
- Hardware passend zur gemessenen Last
- Laufzeitumgebung und Modellserver
- Zugriff ausschließlich aus Ihrem Netz
Auswahl des Modells
Offene Modelle gibt es in vielen Größen und Stärken. Wir vergleichen sie auf Ihren eigenen Testfällen und wählen das schlankste, das die Aufgabe sicher löst. Die Anweisungen entwickeln wir je Einsatzzweck.
- Vergleich auf Ihren Testfällen
- Das schlankste Modell, das sicher liefert
- Anweisungen je Einsatzzweck erprobt
RAG auf Ihren Dokumenten
Das Modell antwortet aus Ihren eigenen Unterlagen, mit Angabe der Quelle. Wer was sehen darf, regelt ein Rechtekonzept, genau wie in Ihren übrigen Systemen.
- Aufbereitung von PDF, Scans und Tabellen
- Antworten mit Quellenangabe
- Rechte je Rolle
Anbindung an Ihre Systeme
Am meisten bewirkt das Modell direkt im Ablauf: Belege lesen und als strukturierte Daten ins ERP schreiben, Anfragen vorsortieren, Produktdaten ordnen. Wo gewünscht, gibt es dazu eine Oberfläche für Ihr Team.
- Schnittstellen zu ERP, DMS und Postfach
- Strukturierte Ausgabe für Ihre Systeme
- Oberfläche für Mitarbeitende
Betrieb und Pflege
Aktualisierungen, Überwachung, neue Modellstände prüfen, Testfälle nachziehen. Diesen Posten planen wir von Anfang an mit ein und legen gemeinsam fest, wer ihn trägt: Ihre IT nach einer Übergabe oder wir.
- Übergabe mit Dokumentation
- Überwachung und Protokollierung
- Modellwechsel im laufenden System
Ehrlich gerechnet, bevor Hardware gekauft wird
Wir empfehlen die Betriebsform, die sich für Sie rechnet. Eigene Hardware spielt ihre Stärke dort aus, wo sie gut ausgelastet ist, und genau das lässt sich vorab messen.
Dafür erheben wir gleichzeitige Anfragen, nötige Modellgröße und Kosten je Vorgang. Diese Zahlen machen aus einer Glaubensfrage eine klare Rechnung.
Die ganze Rechnung im Beitrag lesen →Gleichmäßige Massenvorgänge
Tausende Belege im Monat, jeden Monat. Bei hoher, planbarer Auslastung spielt eigene Hardware ihre Stärke voll aus.
Daten, die im Haus bleiben sollen
Verlangen Verträge, Kundenzusagen oder die Rechtslage eine interne Verarbeitung, ist der Eigenbetrieb die passende Grundlage.
IT-Kompetenz im eigenen Haus
Wo bereits jemand Server betreut, lässt sich der laufende Betrieb besonders wirtschaftlich aufstellen.
Der schlanke Mittelweg
Bei wenigen Nutzern oder gelegentlicher Nutzung ist ein offenes Modell bei einem europäischen Anbieter die wirtschaftliche Wahl: Die Daten bleiben im europäischen Rechtsraum, ganz ohne Anschaffung und Betriebsaufwand.
Womit Unternehmen zu uns kommen
Vertrauliche Belege sollen durch ein Sprachmodell
Eingangsrechnungen, Verträge oder Personalunterlagen sollen automatisch gelesen und eingeordnet werden und dabei im eigenen Haus bleiben. Das Modell läuft deshalb direkt dort, wo die Belege liegen.
Das Team nutzt KI bereits auf eigene Faust
Viele Mitarbeitende arbeiten schon mit KI, teils über private Konten. Ein internes Angebot mit ähnlichem Komfort holt diese Nutzung ins Haus und unter Ihre Regeln.
Die Rechnung wächst mit jedem Vorgang
Bei hohen, gleichmäßigen Stückzahlen summieren sich Gebühren je Anfrage schnell. Ab einer bestimmten Auslastung ist eigene Hardware günstiger, und diese Schwelle lässt sich ausrechnen, sobald Kosten je Vorgang und Vorgänge je Monat bekannt sind.
Wissen, das in Dokumenten steckt
Handbücher, Angebote, Projektakten, Richtlinien: Ein RAG-System auf eigener Infrastruktur macht sie direkt abfragbar, mit Quellenangabe, und jedes Dokument bleibt im Haus.
Vom Erstgespräch zum laufenden System
Jede Phase endet mit einem Ergebnis, auf dessen Grundlage Sie über die nächste entscheiden.
Klären
Erstgespräch und Scoping: welche Daten, welche Aufgabe, welche Rechtsgrundlage, welche Stückzahlen. Ergebnis: eine begründete Empfehlung zur Betriebsform.
Messen
Pilot mit einer kleinen Gruppe und echten Testfällen. Ergebnis: gemessene Gleichzeitigkeit, Qualität je Modell und Kosten je Vorgang.
Aufbauen
Hardware, Modell, RAG und Anbindung an Ihre Systeme. Ergebnis: ein laufendes System in Ihrer Infrastruktur.
Betreiben
Übergabe mit Dokumentation an Ihre IT oder Betrieb durch uns. Ergebnis: ein Zuständiger für Aktualisierungen und neue Modellstände.
Wer Ihre Umgebung plant und einrichtet
Direkt und persönlich: Sie arbeiten mit den Personen, die Ihr System planen und aufbauen.
Waldemar Denke
Lead Entwickler & Tech VisionärÜber 15 Jahre Expertise als Softwareentwickler und technologischer Stratege. Verantwortet Aufbau und Einrichtung der lokalen KI-Umgebungen, vom Server über die Modellauswahl bis zur RAG-Pipeline.
Georgios Mavrommatis
Datenanalyst & StrategieMehr als 15 Jahre Erfahrung in datenbasierten Strategien und Prozessoptimierung. Verantwortet die Wirtschaftlichkeitsrechnung, die Wahl der Betriebsform und die Reihenfolge der Anwendungsfälle.
Welche der fünf Leistungen passt?
Die fünf Leistungen von KI Brains und die Ausgangslage, zu der sie gehören.
| Leistung | Wann sie passt | Was am Ende steht |
|---|---|---|
| KI Beratung | Sie möchten wissen, wo KI in Ihrem Unternehmen den größten Nutzen bringt, und die Richtung festlegen, bevor Sie investieren. | Potenzialanalyse, Strategie und ein Umsetzungsplan mit Reihenfolge und Aufwand. |
| Prozessoptimierung | Ihre Abläufe stehen und sollen schneller werden, etwa dort, wo Daten heute von Hand zwischen zwei Systemen wandern. | Automatisierte Abläufe und Durchlaufzeiten, die sich messen lassen. |
| Digitalisierung | Informationen liegen auf Papier, in Tabellen oder bei einzelnen Mitarbeitern und sollen als strukturierte Daten nutzbar werden. | Digitale Abläufe und strukturierte Daten, die synchron bleiben und sich über Schnittstellen weiterverarbeiten lassen. |
| KI Optimierung | Ein KI-System läuft bereits und soll mehr leisten: genauere Ergebnisse, planbare Kosten, effizientere Abläufe. | Ein Audit mit priorisiertem Maßnahmenplan, je Maßnahme mit Aufwand und erwartetem Effekt. |
| Lokale KI (diese Seite) | Sie möchten ein KI-System auf eigener Infrastruktur aufbauen, weil Ihre Daten im Haus bleiben sollen oder sich eigene Hardware bei Ihrem Volumen rechnet. | Ein KI-System auf Infrastruktur unter Ihrer Kontrolle, mit gewähltem Modell, Anbindung an Ihre Dokumente und geregeltem Betrieb. |
Wo lokale Modelle bei uns schon laufen
Drei der neun Referenzen arbeiten mit Modellen auf eigener Infrastruktur:
Wie groß muss der Server sein? Die Wissensdatenbank rechnet es vor.Fachbegriffe erklärt das KI-Glossar, 76 davon.
Häufige Fragen zu lokaler KI
Was kostet lokale KI?
Unsere Arbeit folgt demselben Preissystem wie alle Leistungen: Das Erstgespräch ist kostenfrei, der Scoping-Workshop kostet 1.500 Euro und wird bei Beauftragung verrechnet, ein abgegrenzter Pilot beginnt bei etwa 5.000 Euro, Umsetzungsprojekte liegen zwischen 10.000 und 150.000 Euro. Bei eigener Hardware kommen Anschaffung, Strom und Betrieb hinzu. Welche Posten in eine vollständige Rechnung über drei Jahre gehören, steht im Beitrag Was ein eigener KI-Server wirklich kostet.
Welche Hardware brauchen wir?
Entscheidend ist, wie viele Anfragen zur Spitzenzeit gleichzeitig laufen, wie groß das Modell sein muss und welche Verfügbarkeit der Ablauf braucht. Wir messen das in einem Probebetrieb mit einer kleinen Gruppe und legen die Hardware auf dieser Grundlage aus. Die technischen Grundlagen zu Speicherbedarf und Quantisierung erklärt die Wissensdatenbank unter Wie groß muss es sein.
Wie leistungsfähig sind lokale Modelle?
Offene Modelle leisten bei vielen Aufgaben im Unternehmen sehr gute Arbeit: Belege erkennen, Texte einordnen, Daten strukturieren, Fragen aus eigenen Dokumenten beantworten. Welches Modell passt, entscheiden Ihre eigenen Testfälle, und wir wählen das schlankste, das sie sicher löst. Für besonders anspruchsvolles Schlussfolgern über lange Zusammenhänge ist eine hybride Aufteilung die starke Lösung: Vertrauliches läuft lokal, alles Weitere bei einem großen Cloud-Modell.
Macht lokale KI den Datenschutz einfacher?
Ja, deutlich. Die Übermittlung an Dritte entfällt, und das ist oft der aufwendigste Punkt. Zweckbindung, Rechtekonzept, Löschfristen und gegebenenfalls die Beteiligung des Betriebsrats regeln Sie wie bei jedem anderen System, das Rechtekonzept bauen wir direkt mit ein. Die Pflichten im Einzelnen stehen in den Beiträgen zu DSGVO und KI und zum Betriebsrat. Für die rechtliche Bewertung Ihres Einzelfalls ist Ihre Rechtsberatung die richtige Stelle.
Welche Betriebsformen gibt es?
Sie haben die Wahl zwischen drei Betriebsformen: eigene Hardware im Haus, ein offenes Modell bei einem europäischen Anbieter und eine hybride Aufteilung, bei der vertrauliche Vorgänge lokal laufen und der Rest in der Cloud. Welche passt, ergibt sich aus Auslastung, Datenlage und der Frage, wer den Betrieb übernimmt. Für viele Betriebe ist der europäische Anbieter ein wirtschaftlicher Mittelweg.
Wer kümmert sich um Updates und Betrieb?
Das legen wir vor dem ersten Kauf fest, damit der Betrieb von Anfang an in guten Händen ist. Entweder übernimmt Ihre IT nach einer Übergabe mit Dokumentation, oder wir betreuen den Betrieb weiter: Aktualisierungen, Überwachung, neue Modellstände prüfen, Testfälle nachziehen.
Was ist der Unterschied zur KI Optimierung?
Lokale KI baut ein System neu auf Infrastruktur unter Ihrer Kontrolle auf: Server, Modell, Anbindung, Betrieb. Die KI Optimierung verbessert ein System, das bereits läuft, egal wo, auch ein bestehendes RAG. Wer bereits ein lokales System betreibt und mehr herausholen möchte, ist dort richtig.
Finden wir Ihre passende Betriebsform
Im kostenfreien Erstgespräch klären wir Datenlage, Stückzahlen und Betriebsform. Danach wissen Sie, ob eigene Hardware, ein europäischer Anbieter oder eine hybride Lösung zu Ihnen passt.
Gespräch vereinbaren
Beschreiben Sie kurz, welche Daten und welche Aufgabe Sie im Blick haben, wir melden uns innerhalb von 24 Stunden. Sie sprechen direkt mit den Personen, die Ihre Umgebung planen und einrichten.
KI-Wissen für Ihre Entscheidung
In der KI Wissensdatenbank erklären wir Themen und Branchen so, dass Sie Chancen und Aufwand vor dem Erstgespräch einschätzen können.
Themen