KI-Infrastruktur und Werkzeuge
Vom Modell zur produktiven Anwendung

KI-Tools und Infrastruktur: die Werkzeuglandschaft für den Unternehmenseinsatz

Die Diskussion über Künstliche Intelligenz in Unternehmen dreht sich meist um Modelle. Für die praktische Umsetzung ist das jedoch die kleinste Entscheidung. Ob ein KI-Vorhaben Nutzen stiftet oder nach einigen Monaten stillschweigend eingestellt wird, entscheidet sich an der Infrastruktur darum herum: an der Software, die das Modell betreibt, an der Aufbereitung Ihrer eigenen Inhalte, an der Oberfläche für Ihre Mitarbeitenden und vor allem an der Anbindung an die Systeme, in denen Ihr Tagesgeschäft tatsächlich stattfindet.

Die Ausführungsschicht bildet das Fundament. Sie lädt das Modell in den Grafikspeicher und stellt eine Schnittstelle bereit. Ollama hat sich hier als pragmatischer Standard etabliert, weil die Inbetriebnahme wenige Minuten dauert und praktisch jedes weitere Werkzeug damit umgehen kann. LM Studio richtet sich an den einzelnen Arbeitsplatz und eignet sich hervorragend, um verschiedene Modelle an echten Aufgaben zu vergleichen, bevor eine Beschaffungsentscheidung fällt. vLLM ist die Antwort auf hohen Durchsatz und viele gleichzeitige Nutzer, verlangt dafür aber Erfahrung mit Serverbetrieb. Weil alle drei eine kompatible Schnittstelle bereitstellen, ist ein späterer Wechsel unkritisch. Diese Austauschbarkeit ist einer der Gründe, warum wir Unternehmen raten, mit dem einfachsten Werkzeug zu beginnen.

Die Wissensschicht entscheidet über die Antwortqualität

Ein Modell kennt Ihr Unternehmen nicht. Damit es Fragen zu Handbüchern, Verträgen, Richtlinien oder Produktdaten beantworten kann, braucht es Zugriff auf diese Inhalte. Umgesetzt wird das über Retrieval Augmented Generation: Vor der Antwort wird gezielt in Ihren Dokumenten gesucht und der gefundene Abschnitt als Kontext mitgegeben. Technisch stützt sich das auf eine Vektordatenbank, in der Ihre Inhalte inhaltlich durchsuchbar abgelegt sind. Qdrant hat sich hier bewährt, ebenso die Vektorerweiterung von PostgreSQL, wenn eine solche Datenbank ohnehin im Haus betrieben wird. Der eigentliche Aufwand liegt jedoch nicht in der Datenbank, sondern in der Aufbereitung: Gescannte Unterlagen, uneinheitliche Formate und gewachsene Ablagen müssen strukturiert werden, bevor eine Suche darauf brauchbare Ergebnisse liefert. Wer diesen Punkt in der Projektplanung übergeht, verschiebt ihn nur.

Ebenso wichtig ist die Rechtevergabe. Nicht jede Person darf jedes Dokument sehen, und diese Prüfung muss bereits im Suchschritt greifen. Wird sie erst in der Oberfläche vorgenommen, hat das Modell die Inhalte längst gelesen und gibt sie in seiner Antwort wieder. Dieser Fehler ist in der Praxis häufig und in seinen Folgen erheblich, weil er unbemerkt bleibt, bis jemand ihn zufällig entdeckt.

Automatisierung erzeugt den messbaren Nutzen

Solange KI im Chatfenster stattfindet, bleibt sie Assistenz und ihr Beitrag schwer messbar. Wirtschaftlich relevant wird sie erst durch die Anbindung an ERP, CRM, Postfach, Ticketsystem und Dateiablage. Automatisierungsplattformen leisten genau das. n8n ist für den Mittelstand unsere Standardempfehlung, weil es vollständig im eigenen Netz betrieben werden kann und damit weder Prozess- noch Zugangsdaten das Haus verlassen. Make bietet einen komfortablen Einstieg ohne eigenen Betrieb, verarbeitet die Daten aber auf Anbieterseite. Zapier hat die größte Auswahl fertiger Anbindungen und ist bei einfachen Verkettungen kaum zu schlagen, stößt jedoch bei verzweigter Ablauflogik an Grenzen.

KI-Agenten schließlich sind das derzeit am meisten diskutierte Feld. Sie zerlegen Aufgaben selbstständig in Schritte und rufen dafür Werkzeuge auf. Das funktioniert bei klar abgegrenzten Aufgaben mit wenigen Schritten gut. Bei langen, offenen Abläufen sinkt die Zuverlässigkeit deutlich, weil sich Fehler über die Schritte fortpflanzen. Für den produktiven Einsatz gelten deshalb vier Regeln: enge Aufgabengrenzen, Werkzeugrechte nach dem Prinzip der geringsten Berechtigung, lückenlose Protokollierung und eine menschliche Freigabe vor jeder Handlung mit Außenwirkung.

Die Zugangsschicht ist eine Sicherheitsfrage

Ein Punkt wird in Projektplanungen regelmäßig übersehen: Wenn Sie Ihren Mitarbeitenden keinen kontrollierten Zugang zu KI bereitstellen, beschaffen sie sich selbst einen. Frei verfügbare Dienste sind einen Klick entfernt, und in vielen Unternehmen laufen Angebote, Kundenschreiben und interne Unterlagen längst durch private Zugänge, ohne vertragliche Grundlage und ohne Kenntnis der Geschäftsführung. Eine eigene Oberfläche wie Open WebUI oder BionicGPT löst dieses Problem nicht durch Verbote, sondern durch ein besseres Angebot: Wer intern ein Werkzeug hat, das schnell erreichbar ist, die Unternehmensdokumente kennt und ohne Anmeldung bei Dritten funktioniert, nutzt keine privaten Alternativen mehr. Die Zugangsschicht ist damit weniger eine Komfortentscheidung als die wirksamste Einzelmaßnahme gegen unkontrollierten Datenabfluss.

Wo Standardwerkzeuge aufhören und Entwicklung beginnt

Alle genannten Werkzeuge sind ausgereift und ersparen erheblichen Aufwand. Keines davon kennt jedoch Ihre Prozesse, Ihre Datenstruktur oder Ihre Rechtevergabe. Die Verbindung zwischen Standardwerkzeug und Unternehmensrealität bleibt Entwicklungsarbeit, und genau hier liegt in der Praxis die Grenze, an der viele Vorhaben ins Stocken geraten. KI Brains entwickelt seit 2010 Software und hat über 500 Projekte umgesetzt. Wir setzen quelloffene Werkzeuge ein, wo sie tragen, und entwickeln dort, wo sie aufhören, von der Anbindung gewachsener Fachsysteme über die Weitergabe von Rechten aus dem Verzeichnisdienst bis zur nachvollziehbaren Fehlerbehandlung. Und wenn ein Anwendungsfall mit einer Standardplattform vollständig abgedeckt ist, sagen wir Ihnen das, statt ein Projekt daraus zu machen.

Weiterführend empfehlen wir die Übersicht der KI Wissensdatenbank, den Vergleich der KI-Modelle für Cloud und lokalen Betrieb sowie unsere Seiten zur KI Beratung, zur Prozessoptimierung und zu unseren Leistungen.