EU AI Act Konformitätsbewertung: Ein Schritt-für-Schritt-Weg für Hochrisiko-SaaS-Features

Ein Münchner HR-Tech-SaaS hat 2025 ein KI-Feature eingeführt, das eingehende Bewerbungen bewertet und sortiert. Das Team sah darin ein Produktivitätswerkzeug. Unter dem EU AI Act ist es ein Hochrisiko-KI-System - beschäftigungsbezogene Kandidatenbewertung steht unmissverständlich in Annex III - und wer es nach dem 2. August 2026 ohne abgeschlossene EU AI Act Konformitätsbewertung an EU-Kunden ausliefert, setzt sowohl den Anbieter als auch dessen Kunden Durchsetzungsrisiken und blockierten Procurement-Prozessen aus. Der unangenehme Teil: Das Team erfuhr davon erst, als die Rechtsabteilung eines Enterprise-Interessenten nach der CE-Kennzeichnungsdokumentation fragte.

Dieser Beitrag ist der Walkthrough, den wir diesem Team gewünscht hätten: wie du feststellst, ob deine SaaS-Features in den Anwendungsbereich fallen, wer die Konformitätsbewertung tatsächlich schuldet, wie das Bewertungsverfahren Schritt für Schritt aussieht und welche technische Dokumentation du für ein Audit bereithalten musst.

Schritt 1: Führe den Annex-III-Scope-Test durch, bevor du irgendetwas anderes tust

Die Hochrisiko-Kategorie hängt nicht davon ab, wie leistungsfähig dein Modell ist. Es geht darum, wofür das System verwendet wird. Artikel 6(2) verweist auf Annex III, eine geschlossene Liste von Anwendungsfällen. Für SaaS-Produkte greifen am häufigsten diese Einträge:

• Beschäftigung und Personalmanagement - CV-Screening, Kandidaten-Ranking, Interview-Scoring, Aufgabenzuteilung, Leistungsbewertung, Beförderungs- oder Kündigungsentscheidungen.
• Zugang zu wesentlichen privaten Diensten - Kreditwürdigkeits-Scoring, Risikobepreisung für Lebens- und Krankenversicherungen.
• Bildung - Zulassungsentscheidungen, Bewertung von Lernergebnissen, Prüfungsüberwachung.
• Wesentliche öffentliche Dienste und Leistungen - Anspruchsprüfungen für öffentliche Unterstützung, Triage in der Notfall-Disposition.
• Biometrie - Identifizierung, Kategorisierung und Emotionserkennung (Letztere am Arbeitsplatz und in Bildungseinrichtungen komplett verboten).

Prüfe jedes KI-Feature gegen diese Liste und halte das Ergebnis schriftlich fest, einschließlich der Begründung für Features, die du als nicht hochriskant einstufst. Artikel 6(3) bietet eine enge Ausnahme: Ein System in einem Annex-III-Bereich entgeht dem Hochrisiko-Label, wenn es nur eine vorbereitende oder eng begrenzte prozedurale Aufgabe erfüllt und die Entscheidung nicht wesentlich beeinflusst. Wenn du dich auf diese Ausnahme stützt, musst du die Bewertung trotzdem dokumentieren und das System in der EU-Datenbank registrieren - eine stillschweigende Selbstbefreiung ist keine verteidigbare Position.

Eine nützliche Heuristik: Wenn der Output deines Features in eine Entscheidung über Job, Geld, Bildung oder Zugang zu Diensten einer Person einfließt, gehe von Hochrisiko aus, bis deine dokumentierte Analyse etwas anderes ergibt.

Schritt 2: Kläre, ob du der Anbieter bist

Die Pflicht zur Konformitätsbewertung trifft den Anbieter - denjenigen, der das System unter eigenem Namen oder eigener Marke auf dem EU-Markt bereitstellt. Der Aufruf einer Drittanbieter-Modell-API verschiebt die Pflicht nicht nach oben. Wenn dein Produkt das KI-Feature unter deiner Marke präsentiert, bist du der Anbieter des KI-Systems, auch wenn Anthropic oder OpenAI der Anbieter des zugrundeliegenden GPAI-Modells ist.

Artikel 25 enthält eine Falle für B2B-SaaS: Ein Kunde (Betreiber), der ein Hochrisiko-System wesentlich verändert oder seine eigene Marke daraufsetzt, kann selbst zum Anbieter werden. White-Label-Konstellationen verdienen hier vertragliche Klarheit - lege fest, wer die Konformität verantwortet, wer die technische Dokumentation pflegt und wer das System registriert.

Schritt 3: Das EU AI Act Konformitätsbewertungsverfahren, Schritt für Schritt

Für nahezu alle Annex-III-SaaS-Systeme erlaubt Artikel 43 das interne Kontrollverfahren nach Annex VI - eine Selbstbewertung ohne externen Auditor. Nur biometrische Fernidentifizierungssysteme (und bestimmte Systeme zur biometrischen Kategorisierung bzw. Emotionserkennung) können eine notifizierte Stelle nach Annex VII erfordern. Für alle anderen sieht der Weg so aus:

1. Baue ein Qualitätsmanagementsystem auf (Artikel 17). Das ist das Rückgrat, an dem alles andere hängt: eine dokumentierte Strategie für Regulatorik-Compliance, Design- und Entwicklungsprozesse, Datenmanagement-Praktiken, Post-Market-Monitoring und Incident-Handling. Wenn ihr bereits ein ISMS im Stil von ISO 27001 betreibt, erweitere es, statt neu anzufangen - die Strukturen überlappen stark.

2. Entwickle das System so, dass es die Artikel 9-15 erfüllt. Die inhaltlichen Anforderungen: ein Risikomanagementsystem über den gesamten Lebenszyklus (Art. 9), Daten-Governance für Trainings-, Validierungs- und Testdaten (Art. 10), automatische Ereignisprotokollierung (Art. 12), Transparenz und Betriebsanleitungen für Betreiber (Art. 13), Mechanismen menschlicher Aufsicht (Art. 14) sowie Genauigkeit, Robustheit und Cybersicherheit passend zum Zweck (Art. 15). Das sind Engineering-Arbeitspakete, keine juristische Prosa - Logging, Evaluierungs-Pipelines und Override-Mechanismen müssen im Code existieren. Sie nachträglich in ein organisch gewachsenes KI-Feature einzubauen, ist genau die Art von Arbeit, die ein strukturiertes Code-Quality-Audit scopen sollte, bevor der Termindruck kommt.

3. Stelle die technische Dokumentation nach Annex IV zusammen. Unten im Detail - das ist das Artefakt, das eine Behörde tatsächlich anfordern wird.

4. Führe die Annex-VI-Selbstbewertung durch. Verifiziere, dass das Qualitätsmanagementsystem Artikel 17 entspricht und die technische Dokumentation belegt, dass das System die Artikel 9-15 erfüllt. Halte fest, wer was, gegen welche Nachweise und wann bewertet hat.

5. Erstelle die EU-Konformitätserklärung (Artikel 47). Ein unterschriebenes, datiertes Dokument, das das System, den Anbieter und die Anforderungen benennt, denen es entspricht. Du bewahrst es zehn Jahre auf und händigst es Behörden auf Anfrage aus.

6. Bringe die CE-Kennzeichnung an (Artikel 48). Bei Software gehört die Kennzeichnung in die Dokumentation, die UI oder die Produktinformation - eine digitale CE-Kennzeichnung ist ausdrücklich erlaubt.

7. Registriere das System in der EU-Datenbank (Artikel 49 und 71), bevor du es auf den Markt bringst. Die Registrierung ist für die meisten Annex-III-Systeme öffentlich.

Konformität ist kein einmaliges Ereignis. Eine wesentliche Änderung - eine in deiner ursprünglichen Bewertung nicht vorgesehene Änderung, die Compliance oder Zweckbestimmung betrifft - löst eine Neubewertung aus. Kontinuierlich lernende Systeme bekommen etwas Spielraum: Änderungen, die in der ursprünglichen Bewertung antizipiert und dokumentiert wurden, zählen nicht als wesentlich. Das ist ein starkes Argument dafür, die geplante Update-Kadenz deiner Modelle von Anfang an zu dokumentieren.

Schritt 4: Halte die technische Dokumentation nach Annex IV audit-bereit

Annex IV ist das Dokumentenpaket, das darüber entscheidet, ob ein Audit ein Nachmittag oder ein Quartal wird. Es muss vor dem Inverkehrbringen existieren und aktuell bleiben. Die geforderten Inhalte, in Engineering-Begriffe übersetzt:

Annex-IV-Abschnitt	Was das in der Praxis bedeutet
Allgemeine Beschreibung	Zweckbestimmung, Anbieter, Version, Zusammenspiel mit dem Host-Produkt
Detaillierte Systembeschreibung	Architektur, verwendete Modelle, zentrale Designentscheidungen und Trade-offs
Entwicklungsprozess	Trainingsmethodik, Datenherkunft und Labelling, Evaluierungsergebnisse
Monitoring und Kontrolle	Design der menschlichen Aufsicht, erwartete Genauigkeitsgrenzen, bekannte Fehlermodi
Risikomanagement-Aufzeichnungen	Der lebende Output deines Artikel-9-Prozesses
Lifecycle-Änderungsprotokoll	Versionen, Analysen wesentlicher Änderungen, Neubewertungsnachweise
Angewandte Standards	Harmonisierte Normen oder deine Begründung für alternative Lösungen
Konformitätserklärung	Das unterschriebene Artikel-47-Dokument
Post-Market-Monitoring-Plan	Wie Feldperformance und Vorfälle in den Risikoprozess zurückfließen

Zwei praktische Gewohnheiten machen das nachhaltig. Erstens: Halte die Dokumentation in Versionskontrolle direkt neben dem Code, verantwortet vom Engineering mit juristischem Review - Dokumentation, die im Laufwerk der Rechtsabteilung liegt, entfernt sich innerhalb von zwei Release-Zyklen von der Realität. Zweitens: Generiere, was du generieren kannst. Evaluierungsberichte, Logging-Spezifikationen und Modellversions-Historien sollten aus deiner CI-Pipeline fallen, statt von Hand geschrieben zu werden. Teams, die KI-Features auf einem soliden Engineering-Fundament bauen - die Art von Disziplin, die wir in der individuellen Softwareentwicklung anwenden - stellen fest, dass sich Annex IV weitgehend aus Artefakten zusammensetzt, die sie ohnehin produzieren.

Es gibt Erleichterungen für KMU: Artikel 11 erlaubt kleinen und Kleinstunternehmen, die Annex-IV-Informationen in vereinfachter Form bereitzustellen, und die Kommission stellt eine vereinfachte Vorlage bereit. Nutze sie, wenn ihr qualifiziert seid, aber beachte, dass Enterprise-Kunden oft trotzdem das vollständige Paket erwarten.

Schritt 5: Plane gegen die reale Timeline

Die Pflichten greifen in Phasen. Verbotene Praktiken und KI-Kompetenz-Pflichten gelten seit dem 2. Februar 2025. GPAI-Modellpflichten starteten am 2. August 2025. Das Hochrisiko-Regime für Annex-III-Systeme gilt ab dem 2. August 2026 - das ist das Datum, zu dem Konformitätsbewertung, Dokumentation und Registrierung für Systeme auf dem EU-Markt abgeschlossen sein müssen. Hochrisiko-Systeme, die in regulierte Produkte nach Annex I eingebettet sind, haben bis 2027 Zeit.

Die Strafen für Verstöße gegen Hochrisiko-Pflichten reichen bis 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes. Für die meisten SaaS-Anbieter kommt die praktische Durchsetzung aber früher und leiser: über Procurement-Fragebögen. Enterprise-Käufer fragen in Vendor-Reviews bereits nach AI-Act-Konformitätsnachweisen, und "wir haben unsere Systeme noch nicht klassifiziert" liest sich heute so, wie sich "wir haben kein SOC 2" vor fünf Jahren las.

FAQ

Unser KI-Feature unterstützt nur einen Menschen, der die finale Entscheidung trifft. Sind wir ausgenommen? Nicht automatisch. Human-in-the-Loop ist eine Anforderung aus Artikel 14 für Hochrisiko-Systeme, keine Befreiung von der Kategorie. Die Ausnahme nach Artikel 6(3) gilt nur für eng begrenzte vorbereitende Aufgaben, die Entscheidungen nicht wesentlich beeinflussen - und diese Bewertung musst du dokumentieren und registrieren.

Wir nutzen ein Drittanbieter-Modell per API. Ist die Konformitätsbewertung Sache des Modellanbieters? Nein. Der Modellanbieter schuldet GPAI-Pflichten für das Modell. Du schuldest die Konformitätsbewertung auf Systemebene für dein Produkt, wenn es hochriskant ist. Seine Dokumentation speist deine; sie ersetzt sie nicht.

Brauchen wir einen externen Auditor? Fast nie. Annex-III-Systeme außer Biometrie nutzen die interne Kontrolle nach Annex VI - eine dokumentierte Selbstbewertung. Biometrische Systeme können eine notifizierte Stelle erfordern.

Was, wenn wir Mitte 2026 feststellen, dass ein bestehendes Feature hochriskant ist? Sofort triagieren: Scope die Lücke gegen die Artikel 9-15, priorisiere Logging und menschliche Aufsicht (die längsten Engineering-Vorlaufzeiten) und erwäge, das Feature für EU-Kunden zu sperren, bis die Konformität abgeschlossen ist, statt non-compliant auszuliefern.

Fazit

Eine EU AI Act Konformitätsbewertung wirkt von außen bürokratisch, ist für ein gut geführtes SaaS-Team aber vor allem eine Übung darin, vorhandene Engineering-Disziplin sichtbar zu machen: Risikoanalyse, Evaluierung, Logging, Aufsicht und Dokumentation, die zum Code passt. Teams, die mit dem Annex-III-Scope-Test starten und die Schritte der Reihe nach abarbeiten, werden das interne Kontrollverfahren vor August 2026 gut bewältigen. Teams, die auf den ersten Procurement-Fragebogen warten, machen dieselbe Arbeit unter Deal-Druck.

Wolf-Tech hilft EU-SaaS-Teams, ihre KI-Features zu klassifizieren, die Engineering-Lücken der Artikel 9-15 zu schließen und audit-bereite Annex-IV-Dokumentation zusammenzustellen. Wenn eine Hochrisiko-Einstufung über deiner Roadmap schwebt, kontaktiere uns unter hello@wolf-tech.io oder besuche wolf-tech.io für eine kostenlose Erstberatung.