Wer im Betrieb KI einsetzt, muss keine Grundsatzdebatte führen. Er muss wissen, ob das eingesetzte System unter den AI Act fällt – und vor allem: welche AI Systeme sind hochrisiko? Genau diese Frage entscheidet darüber, ob aus einer nützlichen Software plötzlich ein Thema für Dokumentation, Risikomanagement, Datenqualität, menschliche Aufsicht und mögliche Prüfpflichten wird.
Für viele kleine und mittlere Unternehmen ist das keine theoretische Rechtsfrage. Es geht um ganz praktische Anwendungen: Bewerberauswahl, Zugangskontrollen, Bonitätsprüfungen, Personalsteuerung, medizinische Unterstützung, sicherheitsrelevante Maschinen oder Systeme, die Prioritäten bei Behörden oder kritischen Infrastrukturen setzen. Wer hier falsch einordnet, riskiert nicht nur formale Verstöße, sondern auch operative Probleme – etwa weil Verantwortlichkeiten unklar bleiben oder Lieferanten keine belastbaren Nachweise liefern.
Welche AI Systeme sind Hochrisiko im Sinne des AI Act?
Nicht jedes KI-System ist automatisch hochriskant. Der AI Act arbeitet risikobasiert. Hochrisiko ist ein System dann, wenn sein Einsatz erhebliche Auswirkungen auf Sicherheit, Gesundheit oder Grundrechte von Menschen haben kann. Entscheidend ist also nicht, ob die Technik besonders komplex wirkt, sondern wofür sie genutzt wird und in welchem Umfeld sie eingesetzt wird.
Im Kern gibt es zwei typische Wege in die Hochrisiko-Einstufung. Erstens kann ein KI-System Teil eines Produkts sein, das bereits unter bestehende europäische Sicherheitsvorschriften fällt, etwa bei Maschinen, Medizinprodukten oder bestimmten Fahrzeugkomponenten. Zweitens kann ein System in einem besonders sensiblen Anwendungsbereich eingesetzt werden, den der AI Act ausdrücklich benennt.
Für Unternehmen ist genau dieser zweite Punkt oft relevanter. Denn viele Anwendungen kommen nicht als spektakuläre Zukunftstechnologie daher, sondern als ganz normale Softwarefunktion in HR-Tools, Scoring-Lösungen, Kamerasystemen oder Fachanwendungen für Entscheidungen mit Personenbezug.
Typische Bereiche mit Hochrisiko-KI
Beschäftigung und Personalentscheidungen
Ein besonders praxisrelevanter Bereich ist das Personalwesen. Wenn KI genutzt wird, um Bewerbungen vorzusortieren, Kandidaten zu bewerten, Eignung zu prognostizieren oder Entscheidungen über Einstellung, Beförderung oder Kündigung zu unterstützen, wird es schnell kritisch. Der Grund ist einfach: Solche Systeme beeinflussen unmittelbar berufliche Chancen von Menschen.
Gerade im Mittelstand wird hier oft unterschätzt, dass auch vermeintlich kleine Automatisierungen relevant sein können. Ein Tool, das Lebensläufe nach bestimmten Mustern bewertet oder Bewerber automatisch rankt, ist nicht bloß ein Komfortfeature. Wenn die Bewertung in die Entscheidung einfließt, kann bereits ein hochriskanter Einsatz vorliegen.
Bildung, Prüfung und Zugang zu Qualifikationen
KI-Systeme, die Prüfungsleistungen bewerten, Lernende einstufen oder über den Zugang zu Ausbildung und Zertifikaten mitentscheiden, können ebenfalls als hochriskant gelten. Für Unternehmen ist das vor allem dann relevant, wenn sie in regulierten Qualifizierungsprozessen arbeiten oder interne Eignungs- und Schulungsbewertungen digitalisieren.
Zugang zu wesentlichen Dienstleistungen
Besonders sensibel sind Systeme, die über Zugang zu wichtigen Leistungen entscheiden. Dazu zählen etwa Kreditwürdigkeitsprüfungen oder Bewertungen, die für Versicherungen, Wohnraum oder andere essenzielle Dienste maßgeblich sind. Hier steht die Frage im Raum, ob Menschen durch fehlerhafte oder verzerrte Modelle benachteiligt werden.
Auch Unternehmen außerhalb des Finanzsektors sollten aufpassen. Wer zum Beispiel ein eigenes Bewertungssystem für Vertragspartner, Kunden oder Dienstleistungszugänge einführt, muss prüfen, ob die konkrete Wirkung des Systems in einen regulierten Bereich hineinreicht.
Kritische Infrastruktur und Sicherheit
Wenn KI in Energieversorgung, Wasser, Verkehr oder anderen kritischen Infrastrukturen Entscheidungen vorbereitet oder automatisiert, ist das Risiko naturgemäß höher. Das gilt ebenso für sicherheitsrelevante Anwendungen in Produktionsumgebungen, wenn Fehlentscheidungen zu realen Gefahren führen können.
Hier verschwimmt in der Praxis oft die Grenze zwischen klassischer Produktsicherheit und KI-Compliance. Genau deshalb reicht es nicht, nur auf die Software zu schauen. Man muss den gesamten Prozess betrachten: Welche Funktion übernimmt das System, welche Folgen hätte ein Fehler und wer trägt die operative Verantwortung?
Strafverfolgung, Migration, Verwaltung und Justiz
Diese Bereiche betreffen nicht jedes Unternehmen unmittelbar. Sie zeigen aber, wie der Gesetzgeber denkt. Immer dann, wenn KI Entscheidungen mit großer Tragweite vorbereitet – etwa für behördliche Bewertungen, Priorisierungen oder Rechtsdurchsetzung – steigt das regulatorische Niveau deutlich. Wer Lösungen an öffentliche Auftraggeber liefert, sollte diese Bereiche besonders genau prüfen.
Nicht jede KI im Betrieb ist hochriskant
Viele Unternehmen hören den Begriff Hochrisiko und denken sofort an jede Form von KI. Das wäre zu pauschal. Ein System zur Texterstellung im Marketing, eine interne Unterstützung für Wissensmanagement oder ein Assistent zur Terminplanung ist in der Regel nicht automatisch hochriskant.
Auch Analysefunktionen in ERP-, CRM- oder Ticketsystemen sind nicht allein wegen des KI-Anteils kritisch. Entscheidend bleibt die konkrete Zweckbestimmung. Unterstützt das System nur intern, ohne sensible Entscheidungen über Personen oder Sicherheitsfunktionen zu beeinflussen, liegt oft kein Hochrisiko vor. Sobald jedoch Bewertungen, Priorisierungen oder Empfehlungen in rechtlich oder faktisch entscheidende Prozesse eingreifen, ändert sich die Lage.
Genau an diesem Punkt passieren in der Praxis die meisten Fehler. Unternehmen schauen auf die Softwarebezeichnung des Anbieters, nicht auf den tatsächlichen Einsatz im eigenen Haus. Der AI Act bewertet aber nicht nur das Produktetikett, sondern die reale Verwendung.
Welche Folgen hat die Einstufung als Hochrisiko?
Wer ein hochriskantes KI-System entwickelt, bereitstellt oder in bestimmten Rollen betreibt, muss deutlich mehr nachweisen als bei gewöhnlicher Software. Dazu gehören unter anderem ein systematisches Risikomanagement, Anforderungen an Datenqualität, technische Dokumentation, Protokollierung, Transparenz, menschliche Aufsicht und ein angemessenes Qualitätsmanagement.
Das klingt zunächst nach Großkonzern-Thema. Tatsächlich betrifft es aber auch kleinere Betriebe, wenn sie KI in sensiblen Prozessen einsetzen oder entsprechende Lösungen einkaufen. Der Aufwand hängt dabei stark von der Rolle ab. Ein Hersteller oder Anbieter trägt andere Pflichten als ein Unternehmen, das das System nur nutzt. Trotzdem ist auch der Betreiber nicht aus dem Spiel. Er muss verstehen, was er einsetzt, ob die Nutzung zur vorgesehenen Zweckbestimmung passt und welche internen Kontrollen nötig sind.
Für KMU ist deshalb eine saubere Rollenklärung entscheidend. Kaufen Sie nur eine Standardlösung ein? Konfigurieren Sie diese tiefgreifend für eigene Entscheidungen? Treten Sie gegenüber Kunden oder Partnern selbst als Anbieter auf? Je nach Konstellation können sich Pflichten verschieben.
Welche AI Systeme sind hochrisiko – so prüfen Unternehmen es pragmatisch
In der Praxis hilft kein Bauchgefühl, sondern eine strukturierte Prüfung. Zuerst sollte geklärt werden, ob überhaupt ein KI-System im regulatorischen Sinn vorliegt. Nicht jede Automatisierung ist automatisch KI im Sinne des Gesetzes.
Danach geht es um den Einsatzkontext. Betrifft das System Personal, Zugang zu Leistungen, sicherheitsrelevante Funktionen, Bildung, Gesundheitsanwendungen oder regulierte Infrastruktur? Wenn ja, lohnt sich eine vertiefte Bewertung. Wichtig ist auch die Frage, ob das System Empfehlungen ausspricht oder faktisch Entscheidungen vorbereitet, die später kaum noch hinterfragt werden. Ein formaler Mensch im Prozess reicht nicht, wenn dieser nur noch abnickt.
Ebenso wichtig ist der Blick auf den Anbieter. Liefert er belastbare Informationen zur Klassifizierung, zur vorgesehenen Nutzung, zu Trainingsdaten, zu Grenzen des Systems und zu notwendigen Kontrollmaßnahmen? Wenn hier nur allgemeines Marketingmaterial kommt, ist Vorsicht geboten. Gerade im Einkauf werden Risiken oft übersehen, weil IT, Fachbereich und Compliance nicht gemeinsam prüfen.
Ein praxistauglicher Ansatz ist, jede KI-Anwendung entlang von vier Fragen zu bewerten: Was macht das System konkret? Wen betrifft es? Welche Folgen hätte eine Fehlentscheidung? Und wie stark verlässt sich der Prozess tatsächlich auf das Ergebnis? Diese vier Punkte schaffen meist schneller Klarheit als abstrakte Technikdiskussionen.
Wo Unternehmen besonders genau hinschauen sollten
Im Handwerk und im industriellen Mittelstand entstehen Risiken oft nicht durch eigene KI-Entwicklung, sondern durch eingekaufte Funktionen in bestehenden Lösungen. Ein Bewerbertool mit automatischer Vorauswahl, eine Kameraanwendung zur Zugangskontrolle, ein System zur Schicht- oder Leistungsauswertung oder eine Maschinenlösung mit KI-gestützter Sicherheitsfunktion kann regulatorisch deutlich relevanter sein, als es die Produktbroschüre vermuten lässt.
Hinzu kommt ein zweiter Punkt: Viele Betriebe nutzen Software zweckentfremdet. Ein Tool, das eigentlich nur unterstützen soll, wird mit der Zeit zur faktischen Entscheidungsinstanz. Genau dort beginnt das Problem. Wenn Prozesse wachsen, Personal knapp ist und Entscheidungen schneller laufen müssen, steigt die Versuchung, KI-Ergebnisse ungeprüft zu übernehmen. Compliance scheitert dann nicht an fehlender Technik, sondern an fehlender Prozessdisziplin.
Deshalb gehört die Frage nach Hochrisiko-KI nicht nur in die Rechtsabteilung oder zur IT. Sie ist Teil von Beschaffung, Qualitätsmanagement, Prozessgestaltung und interner Verantwortung. Wer bereits mit klaren Freigaben, dokumentierten Abläufen und Auditlogik arbeitet, hat hier einen echten Vorteil. Genau deshalb lässt sich das Thema in vielen Unternehmen sauber in bestehende Managementsysteme integrieren, statt eine isolierte Sonderwelt daraus zu machen.
Wenn Sie sich bei einer Anwendung nicht sicher sind, ist das kein Zeichen von Schwäche, sondern der richtige Moment für eine strukturierte Prüfung. Beim AI Act geht es nicht darum, Innovation auszubremsen. Es geht darum, dass Unternehmen wissen, wo KI nur nützlich ist – und wo sie plötzlich rechtlich und operativ kritisch wird. Wer diese Unterscheidung früh sauber trifft, spart später deutlich mehr Aufwand, Ärger und Unsicherheit.
