Mo - Fr 09:00 - 18:00 Uhr | 0221 / 177 347 40 | hello@kibrains.de
DSGVO-konform 500+ Projekte
Werktags Mo - Fr 09:00 - 18:00 Uhr Tel.: 0221 / 177 347 40 Mail: hello@kibrains.de

Was ein eigener KI-Server wirklich kostet

AutorLead Entwickler
Fachlich geprüft vonGeorgios MavrommatisGeschäftsführer
VeröffentlichtStand der Angaben: 20. August 2026

Die Frage kommt in fast jedem zweiten Erstgespräch: Was kostet es, wenn wir das bei uns im Haus betreiben? Und fast jede Antwort darauf, die im Netz steht, ist unbrauchbar, weil sie zwei Größen vergleicht, die nicht vergleichbar sind.

Warum die Frage meistens falsch gestellt wird

Auf der einen Seite steht der Anschaffungspreis einer Maschine. Auf der anderen der Monatspreis eines Cloud-Zugangs. Das eine ist eine einmalige Ausgabe, das andere ein laufender Aufwand. Wer beides nebeneinanderlegt, hat noch nichts verglichen.

Vergleichbar wird es erst über einen Zeitraum, und drei Jahre sind die übliche Nutzungsdauer. Und selbst dann fehlt der entscheidende Teil, wenn nur Anschaffung und Strom gegengerechnet werden.

Die technische Seite dieser Rechnung, also Speicherbedarf, Quantisierung und Durchsatz, steht ausführlich unter Wie groß muss es sein. Hier geht es um die Entscheidung darüber.

Drei Fragen, die vor jeder Hardware kommen

Bevor irgendeine Hardware ausgewählt wird, sind drei Fragen zu beantworten. Wer sie überspringt, kauft auf Verdacht.

FrageWarum sie zähltWie Sie sie beantworten
Wie viele Anfragen laufen gleichzeitig zur Spitzenzeit?Nicht die Zahl der Mitarbeitenden, sondern die Gleichzeitigkeit. Sie bestimmt den Speicherbedarf und damit die Hardware.Zwei Wochen Probebetrieb mit einer kleinen Gruppe messen
Wie groß muss das Modell sein?Für Belegerkennung, Einordnung und Umformung reichen kleine Modelle. Große Modelle kosten das Vielfache und bringen bei diesen Aufgaben wenig.Mit dem kleinsten Modell anfangen, das die Testfälle besteht
Wie viel Ausfall verträgt der Ablauf?Ein Assistent darf einen Vormittag stillstehen. Eine Rechnungsprüfung im Tagesgeschäft nicht.Bestimmt, ob eine zweite Maschine nötig ist, und das verdoppelt den Anschaffungsblock

Die erste ist die wichtigste und wird am häufigsten geschätzt statt gemessen. In einem Betrieb mit zweihundert Beschäftigten, die einen Assistenten gelegentlich nutzen, liegt die Gleichzeitigkeit zur Spitzenzeit erfahrungsgemäß weit unter dem, was die Belegschaftsgröße vermuten lässt. Zwei Wochen Probebetrieb liefern die Zahl. Eine Schätzung liefert eine zu große Maschine.

Die Rechnung über drei Jahre

Sechs Blöcke gehören in die Gegenüberstellung. Vier davon tauchen in Angeboten regelmäßig nicht auf:

BlockArtWas dazugehört
Anschaffungeinmalig, über drei Jahre verteiltServer, Karten, Speicher, Netzteil, Einbau
Stromlaufend, exakt berechenbarLeistungsaufnahme mal Betriebsstunden mal Ihr Arbeitspreis
Kühlung und StellplatzlaufendServerraum oder Stellplatz im Rechenzentrum
Betrieblaufend, meist der größte PostenAktualisierungen, Überwachung, Fehlersuche, Bereitschaft
Ausfallsicherheiteinmalig oder laufendZweite Maschine oder ein Rückfallweg in die Cloud
ModellpflegelaufendNeue Modellstände prüfen, Testfälle nachziehen

Der Strom lässt sich exakt ausrechnen und wird trotzdem unterschätzt: Leistungsaufnahme in Kilowatt mal Betriebsstunden mal Arbeitspreis. Eine Maschine, die im Mittel ein Kilowatt zieht und durchläuft, kommt auf etwa 8.760 Kilowattstunden im Jahr. Setzen Sie Ihren eigenen Arbeitspreis ein; wir nennen hier bewusst keinen, weil Gewerbetarife weit auseinandergehen.

Auslastung ist die einzige Größe, die entscheidet

Der entscheidende Unterschied zwischen beiden Wegen ist nicht die Höhe der Kosten, sondern ihre Form.

Cloud kostet nach Nutzung. Eigene Hardware kostet unabhängig von der Nutzung. Daraus folgt die einzige Frage, die den Vergleich wirklich entscheidet: Wie hoch ist die Auslastung?

Eine Karte, die zu fünf Prozent ausgelastet ist, ist teuer, egal was sie gekostet hat. Dieselbe Karte im Dauerbetrieb schlägt die Cloud deutlich. Zwischen diesen beiden Enden liegt eine Schwelle, und die lässt sich ausrechnen, sobald Sie zwei Zahlen haben: Ihre Kosten je Vorgang in der Cloud und Ihre Vorgänge je Monat.

Deshalb ist die Reihenfolge, die wir empfehlen, fast immer dieselbe: erst in der Cloud betreiben, messen, dann entscheiden. Nach drei Monaten wissen Sie, wie viele Vorgänge tatsächlich anfallen und was sie kosten. Diese beiden Zahlen machen aus einer Glaubensfrage eine Rechnung.

Der Posten, den fast jede Rechnung auslässt

Kommen wir zu dem Posten, der in praktisch jeder Rechnung fehlt, die uns Kunden mitbringen: Jemand muss die Maschine betreiben.

Das ist keine Vollzeitstelle, aber es ist auch nicht nichts. Aktualisierungen einspielen, Überwachung einrichten und ansehen, bei Störungen reagieren, neue Modellstände prüfen, Testfälle nachziehen. Über drei Jahre summiert sich das zu einem Posten, der die Hardwarekosten in vielen Fällen übersteigt.

Die unangenehme Variante davon: Es macht niemand. Dann läuft die Maschine mit dem Stand vom Tag der Inbetriebnahme weiter, und irgendwann fällt sie an einem Freitagnachmittag aus, während die Buchhaltung darauf wartet. Ein Server ohne Zuständigen ist kein Kostenvorteil, sondern ein Risiko mit Anschaffungspreis.

Deshalb lautet unsere erste Rückfrage bei diesem Thema nie, welche Karte es sein soll, sondern: Wer betreibt das bei Ihnen? Wenn darauf keine Antwort kommt, ist die Kostenrechnung müßig.

Der Mittelweg, den die meisten übersehen

Zwischen Cloud-Zugang beim amerikanischen Anbieter und eigener Hardware im Keller liegt eine Möglichkeit, die in der Diskussion regelmäßig untergeht: ein offenes Modell, betrieben bei einem europäischen Anbieter.

Sie bekommen damit den Teil, um den es den meisten eigentlich geht, nämlich dass die Daten den Rechtsraum nicht verlassen und nicht zum Training verwendet werden. Sie bekommen ihn ohne Anschaffung, ohne Stellplatz und vor allem ohne die Betriebslast aus dem vorigen Abschnitt.

Was Sie nicht bekommen, ist vollständige Unabhängigkeit. Der Anbieter kann Preise ändern oder den Dienst einstellen. Genau dagegen hilft, dass ein offenes Modell übertragbar ist: Dasselbe Modell läuft anderswo weiter. Das ist ein wesentlicher Unterschied zu einem Anbieter mit eigenem, geschlossenem Modell.

Für einen großen Teil der Betriebe, die uns mit der Frage nach eigener Hardware ansprechen, ist das die passende Antwort. Sie fällt uns nicht leicht, weil ein Serverprojekt für uns das größere Geschäft wäre.

Wann es sich wirklich lohnt

Drei Fälle, in denen eigene Hardware die richtige Entscheidung ist:

  1. Gleichmäßige Massenvorgänge. Tausende Belege im Monat, jeden Monat. Die Auslastung ist hoch und vorhersehbar, genau dort schlägt eigene Hardware die Cloud deutlich.
  2. Daten, die das Haus nicht verlassen dürfen. Nicht weil die DSGVO es generell verbietet, sondern weil in Ihrem Fall eine Rechtsgrundlage fehlt oder eine vertragliche Zusage entgegensteht. Dann ist der Eigenbetrieb kein Kostenthema, sondern die Voraussetzung.
  3. Vorhandene Kompetenz im Haus. Wenn ohnehin jemand Server betreibt, fällt der teuerste Posten deutlich kleiner aus. Das ist der häufigste ehrliche Grund, warum sich eine Rechnung dreht.

Drei Fälle, in denen sie es nicht ist:

  1. Wenige Nutzer, sporadische Nutzung. Eine Karte, die zu fünf Prozent ausgelastet ist, ist teuer, egal was sie gekostet hat.
  2. Niemand im Haus, der sie betreibt. Ein Server ohne Zuständigen ist kein Kostenvorteil, sondern ein Risiko mit Anschaffungspreis.
  3. Der Anwendungsfall steht noch nicht fest. Hardware für ein Vorhaben zu kaufen, dessen Zuschnitt sich noch ändert, ist die teuerste Art, eine Frage offen zu lassen.

Eine Größenordnung für den möglichen Nutzen liefert der Digitalisierungsrechner. Den Vergleich beider Betriebswege im Detail finden Sie unter KI-Modelle: Cloud oder eigene Hardware.

Häufige Fragen

Ab welcher Größe lohnt sich ein eigener Server?

Diese Frage lässt sich nicht über die Unternehmensgröße beantworten, sondern nur über die Auslastung. Ein Betrieb mit dreißig Beschäftigten und einem hohen Belegaufkommen kann sinnvoller auf eigener Hardware fahren als ein Unternehmen mit dreihundert, in dem KI gelegentlich für Texte benutzt wird. Wer Ihnen eine Mitarbeiterzahl als Schwelle nennt, hat Ihre Zahlen nicht gesehen.

Können wir mit einer normalen Arbeitsplatzkarte anfangen?

Zum Ausprobieren ja, für den Betrieb selten. Der Unterschied liegt weniger in der Rechenleistung als im Speicher und in der Frage, ob die Maschine im Dauerbetrieb laufen darf. Für einen Testlauf mit einem kleinen Modell ist es ein guter und billiger Einstieg.

Was ist mit gebrauchter Hardware?

Kann sich rechnen, verschiebt aber das Risiko. Bei Karten ohne Herstellergarantie tragen Sie den Ausfall selbst, und ein Ausfall trifft Sie an der Stelle, an der der Ablauf inzwischen darauf aufbaut. Wenn gebraucht, dann mit zweiter Maschine.

Wie rechne ich den Strom aus?

Leistungsaufnahme in Kilowatt mal Betriebsstunden mal Ihr Arbeitspreis. Eine Maschine, die im Mittel ein Kilowatt zieht und rund um die Uhr läuft, kommt auf etwa 8.760 Kilowattstunden im Jahr. Den Arbeitspreis setzen Sie selbst ein, Gewerbetarife gehen weit auseinander.

Was kostet es, wenn wir uns falsch entscheiden?

In eine Richtung wenig, in die andere viel. Wer mit der Cloud anfängt und später auf eigene Hardware wechselt, hat Betriebserfahrung und belastbare Zahlen gesammelt. Wer mit Hardware anfängt und feststellt, dass die Auslastung nicht reicht, hat eine Anschaffung im Haus, die sich nicht mehr rückgängig machen lässt. Diese Asymmetrie sollte in die Entscheidung einfließen.

Ist der Eigenbetrieb datenschutzrechtlich immer die bessere Wahl?

Nein, er ist die einfachere. Beim Eigenbetrieb entfällt die Frage der Auftragsverarbeitung, weil niemand in Ihrem Auftrag verarbeitet. Die übrigen Pflichten bleiben: Rechtsgrundlage, Information der Betroffenen, Löschkonzept, gegebenenfalls Folgenabschätzung. Wer glaubt, mit eigener Hardware sei das Thema erledigt, wird sich wundern.

Stand: 20. August 2026. Dieser Beitrag nennt bewusst keine Preise für Hardware, Strom oder Cloud-Nutzung. Sie ändern sich schneller, als ein Fachbeitrag gepflegt werden kann. Die Rechenwege bleiben gültig, die Zahlen setzen Sie ein.