KI-Verordnung
Pflichten nach Rolle und Frist

Entscheidend ist der Verwendungszweck, nicht die Technik. Dasselbe Sprachmodell kann in einer internen Wissensdatenbank keine besonderen Pflichten auslösen und in der Bewerberauswahl als Hochrisiko-System gelten. Deshalb wird jedes System einzeln eingeordnet.

Was gilt als KI-System im Sinne der Verordnung?

Ein maschinengestütztes System, das mit einem gewissen Grad an Selbstständigkeit arbeitet und aus Eingaben ableitet, wie es Ergebnisse wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugt. Klassische Software mit fest programmierten Regeln fällt nicht darunter. Sprachmodelle, Bilderkennung und lernende Prognosen schon.

Gilt die Verordnung auch für Unternehmen außerhalb der EU?

Ja, wenn ihre Systeme in der EU auf den Markt kommen oder ihre Ergebnisse in der EU verwendet werden. Für Sie als Kunde heißt das: Auch ein Anbieter aus den USA muss die Pflichten erfüllen, und Sie können sich darauf berufen.

Den Hintergrund zum AI Omnibus und zur Frist am 2. Dezember 2026 erklärt unser Fachbeitrag zum AI Omnibus. Alle Stichtage bis Januar 2027, auch zu Daten und Rechnungen, stehen im Fristenkalender zum Jahresende.

Was hat der AI Omnibus geändert?

Die Verordnung (EU) 2026/1744 gilt seit dem 27. Juli 2026. Sie verschiebt die Pflichten für Hochrisiko-Systeme, fasst den Begriff des Sicherheitsbauteils enger, ergänzt zwei Verbote, wandelt die Pflicht zur KI-Kompetenz in eine Pflicht zur Förderung um und erweitert Erleichterungen für kleinere Unternehmen. Verbote, Transparenzpflichten und Pflichten für allgemeine Modelle blieben unverändert in Kraft.

Ist die Verschiebung eine Entwarnung für Hochrisiko-Systeme?

Sie verschafft Zeit, der Aufwand bleibt derselbe. Risikomanagement, Dokumentation, Datenqualität und menschliche Aufsicht entstehen nicht in einem Quartal. Der Gewinn liegt darin, dass bis dahin die Normen vorliegen sollen, gegen die geprüft wird. Wer ein solches System plant, beginnt mit der Vorbereitung am besten jetzt.

Die Rolle wird je System bestimmt. Ein Unternehmen kann für den eingekauften Assistenten Betreiber sein und für den selbst gebauten Chatbot auf seiner Website Anbieter.

Wann wird ein Betreiber zum Anbieter?

Nach Artikel 25 in drei Fällen bei Hochrisiko-Systemen: wenn Sie Ihren Namen oder Ihre Marke auf ein solches System setzen, wenn Sie es wesentlich verändern oder wenn Sie den Zweck eines Systems so ändern, dass es hochriskant wird, etwa ein allgemeiner Assistent, der künftig Bewerbungen vorsortiert. Dann übernehmen Sie die Anbieterpflichten.

Wer ist Anbieter, wenn wir ein Modell über eine Schnittstelle einbauen?

Für das Modell bleibt es der Modellanbieter. Für das System, das Sie daraus bauen und unter eigenem Namen einsetzen, können Sie selbst Anbieter sein. Ob und mit welchen Pflichten, hängt an Zweck und Risikoklasse des Systems und wird im Einzelfall geprüft.

• Manipulation. Unterschwellige oder täuschende Techniken, die Entscheidungen erheblich beeinflussen.
• Ausnutzen von Schwächen. Etwa wegen Alter, Behinderung oder sozialer Lage.
• Social Scoring. Bewertung von Menschen nach Sozialverhalten mit benachteiligenden Folgen.
• Vorhersage von Straftaten allein auf Grundlage von Profiling oder Persönlichkeitsmerkmalen.
• Gesichtsdatenbanken durch ungezieltes Auslesen von Bildern aus dem Internet oder von Kameras.
• Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, außer aus medizinischen oder Sicherheitsgründen.
• Biometrische Kategorisierung nach sensiblen Merkmalen wie politischer Meinung oder sexueller Orientierung.
• Biometrische Echtzeit-Fernidentifizierung im öffentlichen Raum zur Strafverfolgung, mit engen Ausnahmen.

Ab dem 2. Dezember 2026 kommen zwei Verbote aus dem AI Omnibus hinzu: KI zur Erzeugung von Darstellungen sexuellen Kindesmissbrauchs und KI, die intime Darstellungen identifizierbarer Personen ohne deren Einwilligung erzeugt. Erfasst sind auch allgemeine Bild- und Videogeneratoren, wenn eine solche Nutzung vorhersehbar ist und Schutzvorkehrungen fehlen.

Ist Stimmungsanalyse im Kundenservice verboten?

Das Verbot der Emotionserkennung bezieht sich auf Arbeitsplatz und Bildung und auf biometrische Daten wie Gesicht oder Stimme. Eine Auswertung, ob eine E-Mail eine Beschwerde enthält, ist eine Textklassifikation und keine biometrische Emotionserkennung. Wer Stimmen von Anrufern oder Beschäftigten auswertet, prüft den Einsatz genau.

Was bedeutet das neue Verbot für Unternehmen mit Bildgeneratoren?

Wer Bild- oder Videogeneratoren in eigene Produkte einbaut, etwa für Avatare oder virtuelle Anproben, legt Schutzvorkehrungen fest und dokumentiert sie. Bei eingekauften Werkzeugen fragen Sie den Anbieter, wie er das umsetzt.

Für Unternehmen im Mittelstand sind zwei Bereiche besonders wichtig: Personal, etwa die Vorauswahl von Bewerbungen, und wesentliche Dienste, etwa die Kreditwürdigkeitsprüfung von Privatkunden oder die Preisbildung in der Lebens- und Krankenversicherung. Wie KI im Recruiting sauber eingesetzt wird, beschreibt unser Fachbeitrag zu KI im Recruiting.

Gibt es Ausnahmen innerhalb von Anhang III?

Ja. Ein System gilt nach Artikel 6 Absatz 3 nicht als hochriskant, wenn es kein erhebliches Risiko birgt, etwa weil es nur eine eng begrenzte Verfahrensaufgabe erledigt oder das Ergebnis einer menschlichen Tätigkeit verbessert. Systeme, die Profile natürlicher Personen erstellen, bleiben hochriskant. Wer die Ausnahme nutzt, dokumentiert die Begründung.

Was hat der AI Omnibus beim Sicherheitsbauteil geändert?

Der Begriff ist enger gefasst. Systeme, die Nutzer nur unterstützen oder die Leistung verbessern, gelten nicht automatisch als Sicherheitsbauteil, wenn ihr Ausfall keine Gefahr für Gesundheit oder Sicherheit schafft. Für Maschinen gelten die Anforderungen über die Maschinenverordnung. Mehr dazu im Baustein KI in der Fertigung.

Viele dieser Punkte decken sich mit dem, was Datenschutz und Mitbestimmung ohnehin verlangen. Die Informationen aus der Gebrauchsanweisung des Anbieters nutzen Sie auch für die Datenschutz-Folgenabschätzung. Wo ein Betriebsrat besteht, bestimmt er beim Einsatz solcher Systeme in aller Regel mit.

Wie viel Aufwand bedeutet die menschliche Aufsicht?

Sie verlangt Personen, die das System verstehen, seine Ergebnisse einordnen und im Zweifel übergehen dürfen. Praktisch heißt das: benannte Verantwortliche, eine Schulung zum System und ein Ablauf, in dem Entscheidungen über Menschen von einem Menschen getroffen oder bestätigt werden. Das Muster heißt Human in the Loop.

Was gilt für Banken und Versicherer?

Für beaufsichtigte Finanzunternehmen gelten Überwachungs- und Protokollpflichten als erfüllt, wenn sie den Governance- und Dokumentationsregeln des Finanzaufsichtsrechts folgen. Zuständig bleibt in Deutschland die BaFin, die im Dezember 2025 eine Orientierungshilfe zu IKT-Risiken beim KI-Einsatz veröffentlicht hat.

Für kleine und mittlere Unternehmen und kleine Unternehmen mit mittlerer Kapitalausstattung hat der AI Omnibus die Erleichterungen erweitert: vereinfachte technische Dokumentation, angemessenere Anforderungen an das Qualitätsmanagement und bevorzugter Zugang zu Reallaboren. Das senkt den Aufwand für den Nachweis, die inhaltlichen Anforderungen bleiben.

Braucht jedes Hochrisiko-System eine externe Prüfstelle?

Nein. Für die meisten Systeme nach Anhang III genügt eine interne Konformitätsbewertung durch den Anbieter. Externe Prüfstellen sind vor allem bei bestimmten biometrischen Systemen und bei Produkten vorgesehen, die schon nach ihrem eigenen Produktrecht geprüft werden.

Was können wir als Betreiber vom Anbieter verlangen?

Eine Gebrauchsanweisung mit Zweck, Grenzen, Genauigkeit und Hinweisen zur Aufsicht, die Konformitätserklärung und die Registrierung des Systems. Halten Sie diese Unterlagen in Ihrem Vertrag fest; worauf beim Einkauf zu achten ist, zeigt der Baustein Einkaufen und abnehmen.

Orientierung geben der Verhaltenskodex der EU-Kommission zur Kennzeichnung vom Juni 2026 und ihre Leitlinien zu Artikel 50 vom 20. Juli 2026. Nach den Leitlinien muss die Prüfung durch einen Menschen inhaltlich sein, damit die Ausnahme für redaktionell verantwortete Texte greift. Was mit Deepfake gemeint ist, erklärt unser Glossar.

Müssen wir unseren Website-Chatbot kennzeichnen?

Nutzer müssen erkennen, dass eine Maschine antwortet. Die Pflicht richtet sich an den Anbieter; wer den Chatbot selbst baut und unter eigenem Namen betreibt, kann Anbieter sein. In jedem Fall ist ein klarer Hinweis zu Beginn des Gesprächs der einfachste Weg, auch wenn jemand über einen geteilten Link mitten ins Gespräch einsteigt.

Gilt die Kennzeichnung auch für Produktbilder im Shop?

Ein realistisch wirkendes Bild einer Person, eines Ortes oder eines Ereignisses, das es so nicht gibt, ist ein Deepfake und wird offengelegt. Eine erkennbar gestaltete Produktgrafik ist das nicht. Im Zweifel ist ein kurzer Hinweis der sichere Weg.

• Schulung nach Rolle. Wer KI nur nutzt, braucht anderes Wissen als wer Ergebnisse über Menschen bewertet.
• Richtlinie. Welche Werkzeuge erlaubt sind, welche Daten hinein dürfen und wer fragt, wenn etwas unklar ist.
• Dokumentation. Wer wann woran teilgenommen hat und welche Regeln gelten.
• Auffrischung. Bei neuen Werkzeugen und neuen Einsatzzwecken.

Eine Musterrichtlinie und Schulungsinhalte nach Rollen finden Sie im Baustein KI-Richtlinie und KI-Kompetenz.

Reicht eine einmalige Schulung?

Als Start ja, auf Dauer selten. Werkzeuge und Einsatzzwecke ändern sich. Bewährt hat sich eine Grundschulung für alle, eine vertiefte Schulung für Rollen mit Verantwortung und eine kurze Auffrischung, wenn ein neues Werkzeug eingeführt wird.

Was hat Schatten-KI mit Artikel 4 zu tun?

Viel. Wo Beschäftigte private KI-Werkzeuge nutzen, fehlen Regeln und Schulung. Ein gutes freigegebenes Angebot und eine klare Richtlinie lösen beides zugleich. Mehr dazu in unserem Fachbeitrag zu Schatten-KI.

Wer ein solches Modell nutzt oder in ein eigenes System einbaut, übernimmt diese Pflichten nicht. Für Sie zählt, dass der Modellanbieter Ihnen die Informationen liefert, die Sie für Ihr eigenes System brauchen. Ein Überblick über die Modelle steht im Baustein KI-Modelle; was ein Foundation Model ist, erklärt das Glossar.

Sind offene Modelle wie Llama oder Mistral ausgenommen?

Teilweise. Für Modelle unter einer freien und offenen Lizenz gelten erleichterte Pflichten, solange kein systemisches Risiko besteht. Die Strategie zum Urheberrecht und die Zusammenfassung der Trainingsdaten bleiben. Für Sie als Nutzer ändert das wenig: Sie wählen das Modell nach Aufgabe, Betriebsort und Vertrag.

Werden wir zum Modellanbieter, wenn wir ein Modell nachtrainieren?

In aller Regel nicht. Wer ein Modell für einen eigenen Zweck anpasst, etwa per Fine-Tuning, bleibt Anbieter des daraus gebauten Systems. Zum Anbieter eines allgemeinen Modells wird nur, wer ein Modell in erheblichem Umfang verändert und selbst allgemein anbietet.

Maßgeblich ist jeweils der höhere der beiden Werte. Für kleine und mittlere Unternehmen gilt der niedrigere. Die Bundesnetzagentur bietet zudem einen KI-Service-Desk mit einem Werkzeug zur ersten Einordnung der Risikoklasse und ein Reallabor, in dem vor allem kleinere Unternehmen neue Systeme mit Begleitung erproben.

Wer kann sich über ein KI-System beschweren?

Jede Person, die einen Verstoß vermutet, bei der Beschwerdestelle der Bundesnetzagentur. Sie bearbeitet die Beschwerde oder gibt sie an die zuständige Behörde weiter. Ein sauberes Inventar mit Rolle und Einstufung je System ist die beste Grundlage, um Fragen schnell zu beantworten.

Haften wir zusätzlich nach anderen Gesetzen?

Ja, die KI-Verordnung tritt neben andere Regeln. Datenschutz, Arbeitsrecht und ab dem 9. Dezember 2026 das neue Produkthaftungsgesetz, das Software ausdrücklich als Produkt erfasst, gelten daneben. Die Prüfung im Einzelfall übernimmt Ihre Rechtsberatung.

Wie die Einordnung in die Einführung eines Vorhabens passt, zeigt der Baustein KI im Unternehmen einführen. Wenn Sie Unterstützung bei Inventar und Einstufung möchten, ist unsere KI Beratung der passende Einstieg.

Wie finden wir KI in Standardsoftware?

Mit drei Fragen an jede Anwendung: Erzeugt sie Texte, Bilder oder Vorschläge? Sortiert, bewertet oder klassifiziert sie automatisch? Steht in den Versionshinweisen etwas von KI oder Assistent? Ergänzend lohnt der Blick in Verträge und Auftragsverarbeitungen, dort sind KI-Dienste oft als Unterauftragnehmer genannt.

Wie oft sollte das Inventar aktualisiert werden?

Bei jeder Einführung eines neuen Werkzeugs und bei jeder Änderung des Einsatzzwecks, dazu einmal im Jahr vollständig. Hilfreich ist eine feste Stelle, an die neue Werkzeuge gemeldet werden, bevor sie genutzt werden.