Ein Mitarbeiter formuliert Angebote mit ChatGPT, die Buchhaltung testet eine KI für Belegprüfungen, und ein Maschinenlieferant wirbt mit automatischer Fehlererkennung. Genau an solchen Stellen stellt sich die Frage: Wer ist vom AI Act betroffen? Die kurze Antwort lautet: deutlich mehr Unternehmen, als viele zunächst vermuten. Nicht nur Entwickler großer KI-Systeme, sondern auch Handwerksbetriebe, Mittelständler und Auftraggeber können Pflichten haben, sobald sie KI beruflich einsetzen, weitergeben oder unter eigenem Namen vermarkten.
Der EU AI Act soll nicht verhindern, dass Unternehmen KI sinnvoll nutzen. Er soll sicherstellen, dass Risiken früh erkannt, Zuständigkeiten geklärt und Menschen geschützt werden. Für die Praxis bedeutet das: Wer seine Anwendungen kennt und strukturiert bewertet, kann KI mit deutlich weniger Reibung einsetzen.
Wer ist vom AI Act betroffen?
Der AI Act gilt grundsätzlich für Akteure entlang der gesamten KI-Wertschöpfungskette. Entscheidend ist nicht allein, wo ein Unternehmen seinen Sitz hat. Relevant ist vor allem, ob ein KI-System oder dessen Ergebnisse in der EU auf den Markt kommen oder hier verwendet werden.
Besonders betroffen sind Anbieter. Das sind Unternehmen oder Personen, die ein KI-System entwickeln oder entwickeln lassen und es unter ihrem eigenen Namen bereitstellen. Ein Softwarehaus, das eine KI-gestützte Bewerbervorauswahl verkauft, ist ein typisches Beispiel. Aber auch ein Maschinenbauer kann zum Anbieter werden, wenn er eine KI-Funktion in seine Anlage integriert und unter eigener Marke vertreibt.
Betreiber sind Unternehmen, Behörden oder Selbstständige, die ein KI-System im beruflichen Kontext einsetzen. Für viele kleine und mittlere Betriebe ist das die wichtigste Rolle. Wer eine KI zur Einsatzplanung, zur Auswertung von Kundenanfragen, zur Qualitätskontrolle oder zur Vorauswahl von Bewerbungen nutzt, ist in der Regel Betreiber. Die private Nutzung durch einzelne Beschäftigte ist etwas anderes. Sobald die Anwendung Teil eines betrieblichen Ablaufs wird, sollte sie erfasst und geprüft werden.
Daneben nennt der AI Act Importeure, Händler und Bevollmächtigte. Ein Importeur bringt ein KI-System eines Anbieters aus einem Drittstaat erstmals in der EU in Verkehr. Händler stellen Systeme innerhalb der Lieferkette bereit. Bevollmächtigte vertreten Anbieter ohne Niederlassung in der EU. Diese Rollen sind vor allem für IT-Anbieter, Händler, Maschinen- und Anlagenbauer relevant.
Auch Produkthersteller müssen genau hinsehen. In sicherheitsrelevanten Produkten können KI-Systeme stecken, etwa in Maschinen, Medizinprodukten oder bestimmten Mess- und Prüfgeräten. Wird eine KI-Komponente Teil eines regulierten Produkts, greifen je nach Fall besonders weitreichende Anforderungen.
Nicht zuletzt schützt der AI Act sogenannte betroffene Personen. Das sind etwa Bewerber, Beschäftigte, Kunden oder Bürger, deren Chancen, Rechte oder Entscheidungen durch ein KI-System beeinflusst werden. Sie tragen nicht die organisatorischen Pflichten eines Unternehmens, haben aber Anspruch auf Schutz, Transparenz und gegebenenfalls Information.
Nicht jede KI löst dieselben Pflichten aus
Für die Frage, ob Handlungsbedarf besteht, reicht ein Blick auf den Namen eines Tools nicht aus. Maßgeblich sind Zweck, Einsatzumfeld und mögliches Risiko. Der AI Act arbeitet deshalb mit Risikostufen.
Verbotene KI-Praktiken
Einige Anwendungen sind in der EU verboten. Dazu zählen beispielsweise bestimmte manipulative Systeme, Social Scoring durch Behörden oder Unternehmen sowie bestimmte Formen biometrischer Kategorisierung und Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen. Die Verbote gelten bereits seit Februar 2025.
Für einen Handwerksbetrieb ist das meist kein täglicher Anwendungsfall. Trotzdem lohnt sich eine klare Regel: Keine KI darf Beschäftigte heimlich bewerten, emotional überwachen oder automatisiert unter Druck setzen. Wer etwa Kamera- oder Sprachdaten auswerten möchte, sollte neben dem AI Act immer auch Datenschutz, Arbeitsrecht und Mitbestimmung prüfen.
Hochrisiko-KI
Besonders relevant sind Systeme, die erhebliche Auswirkungen auf Sicherheit, Grundrechte oder berufliche Chancen haben können. Dazu gehören in vielen Fällen KI-Anwendungen für Personalentscheidungen, für den Zugang zu Ausbildung, für Kreditwürdigkeitsbewertungen oder für bestimmte kritische Infrastrukturen. Auch KI als Sicherheitsbauteil in Produkten kann als Hochrisiko-System eingestuft werden.
Hier steigen die Anforderungen deutlich. Anbieter müssen unter anderem Risikomanagement, technische Dokumentation, Datenqualität, Protokollierung, menschliche Aufsicht und Konformitätsbewertung organisieren. Betreiber müssen das System gemäß Anleitung einsetzen, die Aufsicht sicherstellen, relevante Protokolle aufbewahren und schwerwiegende Vorfälle melden.
Ein Beispiel aus der Praxis: Eine KI sortiert Bewerbungen für einen technischen Ausbildungsplatz vor. Sie vergibt Punkte, empfiehlt Kandidaten oder filtert Bewerber aus. Das ist kein harmloser Komfortfilter, nur weil am Ende ein Mensch auf „Bestätigen“ klickt. Der Einsatz kann in den Bereich Hochrisiko fallen. Entscheidend ist, wie stark die KI die Auswahl tatsächlich beeinflusst und wie der Prozess gestaltet ist.
Transparenzpflichtige und sonstige Anwendungen
Viele gängige Anwendungen sind nicht hochriskant, aber dennoch nicht folgenlos. Bei Chatbots oder KI-generierten Inhalten können Transparenzpflichten greifen. Personen sollen erkennen können, wenn sie mit einem KI-System interagieren. Bestimmte künstlich erzeugte oder veränderte Inhalte müssen zudem kennzeichnungsfähig sein.
Ein KI-Assistent auf der Website, der Kundenanfragen beantwortet, sollte daher nicht wie ein menschlicher Mitarbeiter auftreten. Ein klarer Hinweis schafft Transparenz und verhindert Missverständnisse. Für Texte, Bilder oder Schulungsunterlagen, die mit generativer KI erstellt wurden, kommt es auf Inhalt, Verwendungszweck und mögliche Täuschungsgefahr an. Nicht jede interne Präsentation benötigt einen großen Warnhinweis. Bei öffentlich relevanten oder realitätsnah manipulierten Inhalten ist die Lage strenger.
Viele Standardtools für Textentwürfe, Übersetzungen oder Zusammenfassungen werden oft als Anwendungen mit geringem Risiko genutzt. Das bedeutet jedoch nicht: keine Verantwortung. Datenschutz, Vertraulichkeit, Urheberrecht, Qualitätskontrolle und interne Freigaben bleiben betriebliche Aufgaben.
KI-Kompetenz ist keine freiwillige Zusatzaufgabe
Seit Februar 2025 verlangt der AI Act, dass Anbieter und Betreiber für ein ausreichendes Maß an KI-Kompetenz bei den beteiligten Personen sorgen. Gemeint ist keine formale Prüfung für jeden Beschäftigten. Es geht darum, dass Mitarbeiter die verwendeten Systeme angemessen verstehen und sicher einsetzen können.
Wie umfangreich diese Kompetenzvermittlung sein muss, hängt vom Einsatz ab. Wer KI nur nutzt, um Formulierungsvorschläge für interne E-Mails zu erstellen, benötigt eine andere Unterweisung als ein Team, das KI-gestützte Personalentscheidungen vorbereitet oder Qualitätsabweichungen an Maschinen bewertet.
In der Praxis sollten Beschäftigte mindestens wissen, welche Tools freigegeben sind, welche Daten nicht eingegeben werden dürfen, wann Ergebnisse geprüft werden müssen und an wen sie Unsicherheiten melden. Ein kurzer Leitfaden allein reicht selten aus, wenn KI regelmäßig in kritischen Prozessen eingesetzt wird. Sinnvoll sind dokumentierte Unterweisungen mit konkreten Beispielen aus dem Betrieb.
Was gilt für General-Purpose-AI wie große Sprachmodelle?
Anbieter allgemeiner KI-Modelle, etwa großer Sprach- oder Bildmodelle, haben eigene Pflichten. Dazu gehören unter anderem technische Dokumentation, Informationen für nachgelagerte Anbieter und Vorgaben rund um Urheberrecht. Für Modelle mit systemischem Risiko gelten zusätzliche Anforderungen.
Für die meisten mittelständischen Unternehmen ist jedoch wichtiger, wie sie solche Modelle einsetzen. Wer ein externes Sprachmodell für Angebote, Servicekommunikation oder Wissenssuche nutzt, wird normalerweise nicht selbst zum Anbieter eines allgemeinen KI-Modells. Das Unternehmen ist Betreiber des konkreten Werkzeugs. Anders kann es aussehen, wenn ein Modell wesentlich verändert, unter eigener Marke angeboten oder als Kern eines neuen Produkts weitervertrieben wird.
Diese Abgrenzung ist wichtig, weil viele Betriebe unnötig große Pflichten befürchten. Gleichzeitig wäre es ein Fehler, sich allein auf die Aussage eines Softwareanbieters zu verlassen. Die eigene Rolle und der eigene Einsatzfall müssen nachvollziehbar dokumentiert sein.
Der Zeitplan: Was Unternehmen jetzt beachten sollten
Der AI Act wird schrittweise wirksam. Die Verbote und die Pflicht zur KI-Kompetenz gelten bereits. Die Regeln für allgemeine KI-Modelle gelten seit August 2025. Der überwiegende Teil der Verordnung gilt seit dem 2. August 2026. Für bestimmte Hochrisiko-KI-Systeme, die mit regulierten Produkten verbunden sind, gelten längere Übergangsfristen bis August 2027.
Für Unternehmen folgt daraus keine pauschale Pflicht, jedes vorhandene Tool sofort stillzulegen. Aber es gibt auch keinen Grund, die Bestandsaufnahme aufzuschieben. Gerade wenn KI ohne klare Freigabe in einzelnen Abteilungen Einzug hält, entstehen schnell blinde Flecken.
So prüfen Mittelständler ihren Handlungsbedarf
Der erste Schritt ist ein vollständiger Überblick. Erfasst werden sollten nicht nur offiziell beschaffte Systeme, sondern auch KI-Funktionen in Standardsoftware, Maschinen, CRM-Systemen und selbst genutzte Online-Tools. Fragen Sie dabei konkret: Wofür wird das System eingesetzt? Welche Daten verarbeitet es? Trifft oder beeinflusst es Entscheidungen über Menschen? Wird ein Ergebnis ohne fachliche Prüfung übernommen?
Im zweiten Schritt wird jeder Einsatzfall einer Rolle und Risikoklasse zugeordnet. Ein Betrieb, der KI nur intern nutzt, hat andere Pflichten als ein Unternehmen, das eine KI-gestützte Lösung an Kunden verkauft. Bei Personal, Sicherheit, Zugang zu Leistungen oder produktrelevanten Entscheidungen ist eine vertiefte Prüfung erforderlich.
Danach folgen klare Maßnahmen: Zuständigkeiten benennen, zulässige Tools festlegen, Beschäftigte unterweisen, menschliche Kontrollpunkte definieren und Dokumentation aufbauen. Bei Hochrisiko-Anwendungen müssen die Vorgaben wesentlich tiefer gehen. Dort lohnt sich eine frühe fachliche Begleitung, weil spätere Korrekturen teuer werden können.
Für Handwerksbetriebe ist ein pragmatischer Ansatz meist der richtige. Nicht jede KI-Funktion braucht ein Großprojekt. Aber selbst kleine Anwendungen sollten in bestehende Prozesse passen: Wer gibt Inhalte frei? Wo werden Kundendaten verarbeitet? Wie wird ein fehlerhafter Vorschlag erkannt? Diese Fragen verbinden KI-Compliance direkt mit Qualitätsmanagement.
Eine saubere KI-Inventur ist deshalb mehr als eine regulatorische Pflichtübung. Sie schafft Klarheit darüber, welche digitalen Werkzeuge tatsächlich Nutzen bringen, wo Risiken liegen und welche Prozesse vor dem nächsten Audit belastbar nachweisbar sein müssen. Wer diese Arbeit jetzt strukturiert angeht, behält bei der Einführung neuer KI die Kontrolle – statt später unter Zeitdruck nachzubessern.
