KI-Modelle im Unternehmen
Cloud oder lokal: die Entscheidung, die alles bestimmt

KI-Modelle für Unternehmen: Cloud-Modelle und lokale Modelle im Vergleich

Die Auswahl des richtigen KI-Modells ist für Unternehmen keine technische Detailfrage, sondern eine Weichenstellung mit Wirkung auf Datenschutz, Kostenstruktur und Handlungsfreiheit der kommenden Jahre. Wer diese Entscheidung an den Anfang stellt und bewusst trifft, vermeidet Umbauten, die später erheblichen Aufwand verursachen. Wer sie aufschiebt, entscheidet sich in der Praxis meist unbeabsichtigt für den Weg, den einzelne Abteilungen ohnehin schon eingeschlagen haben, oft ohne vertragliche Grundlage und ohne Kenntnis der Geschäftsführung.

Cloud-Modelle sind der schnellste Einstieg in die Nutzung Künstlicher Intelligenz. Sie werden über die Schnittstelle eines Anbieters angesprochen, erfordern keine Investition in Hardware und stehen innerhalb weniger Stunden produktiv zur Verfügung. Die führenden Anbieter aus den USA sowie Mistral AI als europäische Alternative liefern Modelle, die bei anspruchsvollen Aufgaben derzeit das technisch Machbare markieren. Der Preis dafür ist strukturell: Ihre Eingaben verlassen das Unternehmen und werden bei einem Dritten verarbeitet. Das ist beherrschbar, verlangt aber einen Auftragsverarbeitungsvertrag, eine Eintragung im Verarbeitungsverzeichnis, eine bewusste Entscheidung über zulässige Datenkategorien und bei US-Anbietern eine dokumentierte Bewertung des Drittlandtransfers.

Offene Modelle haben den Abstand deutlich verkürzt

Lokale KI-Modelle drehen dieses Verhältnis um. Offene Modellfamilien wie Llama, die offenen Varianten von Mistral, Qwen oder DeepSeek dürfen heruntergeladen und vollständig im eigenen Netz betrieben werden. Damit verlassen keine Daten das Unternehmen, personenbezogene und geschäftskritische Inhalte sind unbedenklich verarbeitbar und die eingesetzte Version bleibt beliebig lange stabil. Dem stehen eine Anfangsinvestition in Hardware, laufender Betriebsaufwand und ein weiterhin sichtbarer Qualitätsabstand bei den anspruchsvollsten Aufgaben gegenüber. Für den überwiegenden Teil betrieblicher Anwendungsfälle, also Zusammenfassungen, Klassifikation, Datenextraktion aus Dokumenten und Fragen an interne Wissensbestände, ist dieser Abstand praktisch bedeutungslos geworden.

Der entscheidende technische Faktor beim lokalen Betrieb ist der Grafikspeicher. Als Faustregel benötigt ein komprimiertes Modell etwa 0,6 bis 0,8 Gigabyte je Milliarde Parameter zuzüglich Reserve für das Kontextfenster. Ein Modell mit sieben Milliarden Parametern läuft damit auf einer Workstation mit acht Gigabyte Grafikspeicher, ein Modell mit siebzig Milliarden Parametern benötigt rund achtundvierzig Gigabyte und damit eine Serverkarte oder zwei gekoppelte Karten. Diese Zahl bestimmt den Investitionsrahmen und sollte deshalb am tatsächlichen Anwendungsfall bemessen werden und nicht an der maximal verfügbaren Modellgröße.

Die Gesamtkosten liegen selten dort, wo man sie vermutet

Beim Kostenvergleich wird regelmäßig zu kurz gerechnet. Cloud-Nutzung wird nach verarbeiteten Token abgerechnet, lokaler Betrieb über eine einmalige Investition zuzüglich Strom und Betreuung. Rechnerisch erreichen beide Wege bei mittlerem Nutzungsvolumen nach etwa anderthalb bis drei Jahren Gleichstand. Entscheidender ist jedoch ein anderer Punkt: In beiden Varianten entfällt der überwiegende Teil der Gesamtkosten nicht auf das Modell, sondern auf Integration in bestehende Systeme, Datenaufbereitung, Rechtevergabe und Schulung. Ein Vergleich, der ausschließlich Tokenpreise gegen Hardwarepreise stellt, führt daher fast zwangsläufig zu einer falschen Schlussfolgerung.

In der Praxis landen die meisten Unternehmen bei einer hybriden Architektur. Sensible Verarbeitung läuft lokal, anspruchsvolle Aufgaben ohne schützenswerte Daten gehen an Cloud-Modelle, und die Zuordnung erfolgt regelbasiert über eine Vermittlungsschicht statt durch Einzelentscheidungen der Mitarbeitenden. Dieser Aufbau bringt neben der datenschutzrechtlichen Klarheit einen zweiten Vorteil: Weil Ihre Anwendungen nicht direkt an einen Anbieter gebunden sind, wird ein Modell- oder Anbieterwechsel zur Konfigurationsänderung. Angesichts eines Marktes, in dem Modelle im Monatsrhythmus erscheinen und abgekündigt werden, ist diese Unabhängigkeit betriebswirtschaftlich mehr wert als jeder kurzfristige Leistungsvorsprung.

Datenschutz entscheidet häufiger als Leistung

In der Beratungspraxis zeigt sich, dass die technische Leistungsfähigkeit selten den Ausschlag gibt. Deutlich häufiger entscheidet die Frage, welche Datenkategorien im Anwendungsfall tatsächlich anfallen. Wo Bewerbungsunterlagen, Personalakten, Gesundheitsdaten oder Vertragswerke mit Geschäftsgeheimnissen verarbeitet werden, ist der lokale Betrieb der klar einfachere Weg, weil ein erheblicher Teil des Prüf- und Dokumentationsaufwands schlicht entfällt. Wo dagegen öffentlich unkritische Inhalte bearbeitet werden, etwa Marketingtexte oder allgemeine Recherche, wäre eine Hardwareinvestition schwer zu begründen. Wir empfehlen deshalb, jeden Anwendungsfall zunächst nach Datenkategorie einzuordnen und erst danach über Modelle zu sprechen. Diese Reihenfolge erspart Diskussionen, die sonst in jedem Projektschritt neu geführt werden.

Ein weiterer Punkt, der in Entscheidungsvorlagen häufig fehlt, ist die Frage der Reproduzierbarkeit. Cloud-Modelle werden von den Anbietern fortlaufend weiterentwickelt, wodurch sich Ergebnisse bei identischer Eingabe über die Zeit verändern können. Für kreative Aufgaben ist das unerheblich. Wo KI jedoch in einen geprüften Prozess eingebunden ist, etwa in der Rechnungsprüfung oder in der Klassifikation von Vorgängen, wird ein stabiles Verhalten zur Anforderung. Lokale Modelle bieten hier einen Vorteil, der sich in keiner Leistungstabelle abbilden lässt: Die eingesetzte Version bleibt unverändert, solange Sie es wollen.

Unsere Einordnung als Entwickler

KI Brains begleitet Unternehmen bei genau dieser Entscheidung. Wir sind seit 2010 Softwareentwickler und haben über 500 Projekte umgesetzt, von mittelständischen Fachanwendungen bis zu Systemen im Konzernumfeld. Wir haben lokale Modellumgebungen aufgesetzt und betrieben, Cloud-Modelle an gewachsene ERP- und CRM-Landschaften angebunden und hybride Architekturen gebaut. Aus dieser Erfahrung heraus bewerten wir nicht, welches Modell im Vergleichstest vorn liegt, sondern welcher Aufbau in Ihrem Haus im dritten Jahr noch funktioniert und was er dann kostet. Wenn sich eine Eigenprojektlösung für Ihren Fall nicht rechnet, sagen wir Ihnen das, auch wenn ein Umsetzungsprojekt für uns das größere Geschäft wäre.

Vertiefend empfehlen wir die Übersicht der KI Wissensdatenbank, die Werkzeuge und Infrastruktur für den Betrieb sowie unsere Seiten zur KI Beratung und zur Prozessoptimierung. Konkrete Leistungen finden Sie unter Leistungen.