EU 2024/1689Frist: 2. Aug. 2028

EU AI Act (EU 2024/1689)

Der EU AI Act legt risikobasierte Pflichten für KI-Systeme fest, die auf dem EU-Markt in Verkehr gebracht werden. KI in einem Medizinprodukt gilt nach Art. 6(1) + Anhang I als Hochrisiko-KI-System, wenn das Produkt eine Konformitätsbewertung durch eine Benannte Stelle durchlaufen muss — Risikomanagement, Data-Governance und menschliche Aufsicht gelten dann kumulativ zur EU-MDR.

EU 2024/1689 — EUR-Lex ↗

EU AI Act Klassifikator & Konformitätsbewertung

Klassifizieren Sie Ihr KI-System in 6 Fragen und führen Sie ein vollständiges Gap-Assessment für alle 26 Art.-9-15-Anforderungen durch.

Kostenloses Assessment starten →

Risikoklassen & Pflichten

Der AI Act definiert vier Risikostufen mit proportionalen Anforderungen für jede Klasse.

Inakzeptables RisikoArt. 5

KI-Systeme mit einem inakzeptablen Risiko für Gesundheit, Sicherheit oder Grundrechte sind nach Art. 5 verboten — etwa biometrische Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken (vorbehaltlich der engen Ausnahmen in Art. 5), Social Scoring sowie unterschwellige oder manipulative Techniken.

Konformitätsbewertung: Verboten

Hohes RisikoArt. 6–51 + Anhang III

KI-Systeme, die Sicherheitskomponenten regulierter Produkte sind (inkl. Medizinprodukte nach EU-MDR/IVDR) oder unter die Sektoren des Anhangs III fallen (Beschäftigung, Strafverfolgung, Bildung, kritische Infrastruktur), unterliegen dem vollen Anforderungspaket der Art. 9–15.

Konformitätsbewertung: Benannte Stelle oder internes QMS

Begrenztes RisikoArt. 50

KI-Systeme, die mit natürlichen Personen interagieren (Chatbots, Emotionserkennung, KI-generierte Inhalte), müssen Transparenzpflichten erfüllen — Nutzer müssen darüber informiert werden, dass sie mit einem KI-System interagieren.

Konformitätsbewertung: Selbsterklärung (nur Transparenz)

Minimales RisikoKeine

Alle anderen KI-Systeme (z. B. Spam-Filter, KI in Videospielen, einfache Empfehlungssysteme) fallen in die Kategorie minimales Risiko. Es gelten keine verbindlichen Anforderungen, freiwillige Verhaltenskodizes werden jedoch empfohlen.

Konformitätsbewertung: Nicht erforderlich

Art.Obligation
9

Risikomanagementsystem

Einrichten und Pflegen eines KI-spezifischen Risikomanagementsystems für den gesamten Lebenszyklus, das AI-spezifische Risiken wie Konzeptdrift und Bias iterativ identifiziert und mindert.

10

Data-Governance

Implementierung von Data-Governance-Praktiken für Trainings­datenqualität, Bias-Prüfung, Herkunftsdokumentation und Umgang mit besonderen Datenkategorien.

11

Technische Dokumentation

Pflege einer Anhang-IV-konformen technischen Dokumentation mit KI-Systembeschreibung, Trainingsmethodik, Validierungsergebnissen und Post-Market-Monitoring-Plan.

12

Automatisches Logging

Hochrisiko-KI-Systeme müssen Ereignisse automatisch protokollieren, um Post-Market-Monitoring, Vorfallsuntersuchungen und Regulierungsprüfungen zu ermöglichen.

13

Transparenz & Information

Klare Informationen für Betreiber über KI-Fähigkeiten, Einschränkungen, Leistungskennzahlen und Bedingungen zuverlässigen Einsatzes in der Gebrauchsanweisung.

14

Menschliche Aufsicht

KI-Systeme müssen mit eingebauten Mechanismen entwickelt werden, die kompetenten Personen eine effektive Überwachung, Intervention und Überschreibung von KI-Ausgaben ermöglichen.

15

Genauigkeit, Robustheit & Sicherheit

Deklarierte Genauigkeitsniveaus erreichen; Robustheit gegenüber Fehlern, Verteilungsverschiebungen und adversarialen Angriffen sicherstellen; Cybersicherheitsmaßnahmen implementieren.

Compliance-Zeitplan

Wesentliche Fristen für das gestaffelte Inkrafttreten der KI-Verordnungspflichten.

1. Aug. 2024In Kraft

Verordnung trat in Kraft — 20 Tage nach Veröffentlichung im Amtsblatt der EU.

2. Feb. 2025Art. 5 gilt

Verbotene Praktiken (Art. 5) wurden durchsetzbar — biometrische Echtzeit-Fernidentifizierung durch Strafverfolgungsbehörden, Social Scoring, unterschwellige Manipulation.

2. Aug. 2025GPAI gilt

GPAI-Modellpflichten (Art. 51–56) gelten — technische Dokumentation, Transparenz, Urheberrechts-Compliance-Richtlinien.

2. Aug. 2026Art. 50 gilt

Transparenzpflichten (Art. 50) gelten — Offenlegung bei Interaktion mit einem KI-System und bei generierten Inhalten. Nicht verschoben.

2. Dez. 2027Hochrisiko Anhang III

Volle Pflichten für eigenständige Hochrisiko-Anwendungsfälle nach Anhang III (Beschäftigung, Bildung, wesentliche Dienste, Strafverfolgung).

2. Aug. 2028Hochrisiko Anhang I

Volle Pflichten für KI in regulierten Produkten mit Drittkonformitätsbewertung (Art. 6(1) + Anhang I) — der Pfad für CE-gekennzeichnete Medizinprodukte und IVD.

Hochrisiko-Pflichten für Medizinprodukte-KI: ab 2. August 2028 (Art. 6(1) + Anhang I). Art. 50 (Transparenz) gilt unverändert seit 2. August 2026.

Schlüsselbegriffe erklärt

Verständliche Erläuterungen der wichtigsten KI-Verordnungskonzepte für Medizinprodukteteams.

Was ist ein KI-System nach dem AI Act?

Der EU AI Act definiert ein KI-System als ein maschinenbasiertes System, das mit unterschiedlichen Autonomiegraden betrieben wird und adaptiv sein kann. Es schlussfolgert aus Eingaben, wie Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen generiert werden sollen. Ein Medizinprodukt, das ein trainiertes Machine-Learning-Modell für diagnostische Empfehlungen verwendet, gilt als KI-System.

Medizinprodukt-KI als Hochrisiko-KI

KI in einem CE-gekennzeichneten Medizinprodukt wird über Art. 6(1) + Anhang I zum Hochrisiko-KI-System — Anhang I Abschnitt A führt die MDR (EU) 2017/745 und die IVDR (EU) 2017/746 auf. Art. 6(1) hat zwei kumulative Glieder: Die KI muss Sicherheitsbauteil eines solchen Produkts sein (oder selbst dieses Produkt), UND dieses Produkt muss nach derselben Rechtsvorschrift einer Konformitätsbewertung durch Dritte unterliegen. Ein selbst deklariertes Klasse-I-Produkt ohne Benannte Stelle erfüllt das zweite Glied nicht und ist auf diesem Pfad kein Hochrisiko-KI-System. Ist eine Benannte Stelle beteiligt, erlaubt Art. 43(3) ihr, die KI-Konformitätsbewertung in die MDR/IVDR-Bewertung aufzunehmen; die Pflichten aus Art. 6(1) + Anhang I gelten dann ab 2. August 2028. Anhang III ist der davon getrennte eigenständige Anwendungsfall-Pfad mit eigener, früherer Frist; ein Produkt gerät nie allein deshalb dorthin, weil es ein Medizinprodukt ist.

MDR und AI Act: Kumulative Pflichten

EU AI Act und EU MDR gelten kumulativ. Hersteller müssen beide Regulierungsrahmen erfüllen. Die Vorschriften weisen jedoch erhebliche strukturelle Überschneidungen auf, die den Gesamtaufwand reduzieren:

  • MDR Anhang II/III Technische Dokumentation ↔ AI Act Anhang IV (erhebliche inhaltliche Überschneidungen)
  • ISO 14971 Risikomanagement ↔ AI Act Art. 9 (AI Act ergänzt KI-spezifische Risikodimensionen)
  • IEC 62304 Software-Lebenszyklus ↔ Dokumentation der Entwicklungsmethodik nach AI Act
  • MDR Post-Market-Surveillance ↔ AI Act Art. 12 Logging und Post-Market-Monitoring
  • MDR Art. 10(9) QMS ↔ AI Act Art. 17 QMS (kann vereinheitlicht werden)
  • MDR Benannte-Stelle-Konformitätsbewertung ↔ AI Act Art. 43(3) erlaubt Nutzung der MDR-Bewertung

CRA und AI Act: Cybersicherheits-Alignment

Wenn Ihr KI-fähiges Medizinprodukt über digitale Konnektivität verfügt, gilt auch der EU Cyber Resilience Act (CRA, EU 2024/2847). CRA-Anhang-I-Anforderungen ergänzen AI-Act-Art.-15(5)-Anforderungen zur adversarialen Robustheit. Eine einheitliche Cybersicherheits-Risikobewertung kann beide Regulierungen adressieren, wobei KI-spezifisches Adversarial-Testing über Standard-CRA-Anforderungen hinausgeht.

GPAI-Modelle (General-Purpose AI)

General-Purpose-AI-Modelle — große Foundation-Modelle, die für multiple Zwecke eingesetzt werden können — unterliegen einem separaten Pflichtenkatalog nach Art. 51–56, anwendbar ab 2. August 2025. Medizinproduktehersteller, die Drittanbieter-GPAI-Modelle integrieren, müssen sicherstellen, dass der Modellanbieter seine GPAI-Pflichten erfüllt und die technische Dokumentation bereitstellt.

Konformitätsbewertung für Hochrisiko-KI

Hochrisiko-KI-Systeme müssen vor dem Inverkehrbringen eine Konformitätsbewertung durchlaufen. Art. 43(3) ermöglicht es, dass die für MDR zuständige Benannte Stelle gleichzeitig die KI-Act-Konformität bewertet — was den Prüfaufwand reduziert. Für andere Hochrisiko-KI-Systeme ist entweder eine Drittpartei-Prüfung durch eine akkreditierte Konformitätsbewertungsstelle oder eine interne QMS-Bewertung erforderlich.

EU-KI-Datenbank Registrierung

Hochrisiko-KI-Systeme nach Anhang III müssen vor dem Inverkehrbringen in der EU-KI-Datenbank registriert werden. Bei Medizinprodukt-KI übernimmt die Benannte Stelle die Registrierung im Rahmen der Konformitätsbewertung. In bestimmten sensiblen Kontexten müssen auch Betreiber in einem nicht-öffentlichen Datenbankbereich registrieren.

Synergien mit bestehenden Normen

Wie Ihre bestehende MDR-, IEC-62304-, ISO-14971- und CRA-Compliance die KI-Act-Lücke reduziert.

AI-Act-Anforderung

KI-Risikomanagement

ISO 14971

Data-Governance

IEC 62304 + DSGVO

Technische Dokumentation

IEC 62304

Logging / Audit-Trail

IEC 62304 §8

Menschliche Aufsicht

EU MDR Art. 15

Cybersicherheit

CRA Anhang I + ISO 14971

Häufig gestellte Fragen

Antworten auf die häufigsten Fragen von Medizinprodukteherstellern.

Gilt der EU AI Act für mein Medizinprodukt?

Wenn Ihr Medizinprodukt ein KI-System enthält — ein trainiertes Machine-Learning-Modell, ein neuronales Netz oder eine ähnliche Technologie —, gilt der AI Act dafür. Ob es HOCHRISIKO ist, entscheidet Art. 6(1) + Anhang I, nicht Anhang III: Das Produkt muss unter die MDR/IVDR fallen und dort einer Konformitätsbewertung durch Dritte unterliegen. Ist eine Benannte Stelle beteiligt, gelten die Pflichten aus Art. 6(1) + Anhang I ab 2. August 2028. Ein selbst deklariertes Klasse-I-Produkt ohne Benannte Stelle ist auf diesem Pfad kein Hochrisiko-KI-System — die Art.-5-Verbote und gegebenenfalls die Transparenzpflichten aus Art. 50 gelten trotzdem.

Bis wann muss ich compliant sein?

Für KI in CE-gekennzeichneten Medizinprodukten gelten die Hochrisiko-Pflichten ab dem 2. August 2028 (Art. 6(1) + Anhang I); eigenständige Anhang-III-Anwendungsfälle ab dem 2. Dezember 2027 — beide verschoben durch Verordnung (EU) 2026/1744. Unverändert: Art. 50 Transparenz (2.8.2026), GPAI (2.8.2025), Art.-5-Verbote (2.2.2025).

Benötige ich eine separate Benannte Stelle für den AI Act?

Nicht unbedingt. Art. 43(3) des EU AI Act erlaubt es der für die MDR-Konformitätsbewertung zuständigen Benannten Stelle, gleichzeitig die KI-Act-Konformität zu bewerten. Klären Sie mit Ihrer aktuellen Benannten Stelle, ob sie für KI-Act-Bewertungen akkreditiert ist.

Was ist der Unterschied zwischen AI Act und CRA für Medizinprodukte?

Der AI Act regelt KI-spezifische Pflichten (Risikomanagement, Data-Governance, Transparenz, menschliche Aufsicht). Der CRA regelt Cybersicherheitsanforderungen für alle Produkte mit digitalen Elementen. Beide können gleichzeitig für Ihr Produkt gelten. Ein einheitliches Compliance-Programm, das beide Verordnungen adressiert, wird empfohlen.

Deckt ISO 14971 die AI-Act-Risikomanagementanforderungen ab?

ISO 14971 bietet ca. 80 % Abdeckung für AI-Act-Art.-9-Risikomanagementanforderungen. Die Hauptlücke sind KI-spezifische Risiken, die im traditionellen Risikomanagement nicht adressiert werden: Konzeptdrift, Trainingsdaten-Bias, Verteilungsverschiebung und adversariale Eingaben. Ein KI-spezifischer Anhang zur bestehenden Risikomanagementdatei ist typischerweise ausreichend.

Was ist ein Model Card und brauche ich eines?

Ein Model Card ist ein strukturiertes Dokument, das Zweck, Architektur, Trainingsdaten, Leistungskennzahlen, bekannte Einschränkungen und ethische Überlegungen eines KI-Modells beschreibt. Obwohl im AI Act nicht explizit benannt, verlangen die Anhang-IV-Anforderungen der technischen Dokumentation äquivalente Informationen. Die Erstellung eines Model Cards ist ein effizienter Weg, diese Anforderungen zu erfüllen.

Was sind die GPAI-Pflichten für Medizinproduktehersteller?

Wenn Sie ein Drittanbieter-GPAI-Modell integrieren, sind Sie Betreiber, und der Modellanbieter muss Ihnen technische Dokumentation und Informationen zur Urheberrechts-Compliance bereitstellen. Wenn Sie ein eigenes GPAI-Modell als Teil Ihres Produkts entwickeln und in Verkehr bringen, gelten Anbieter-Pflichten nach Art. 53.

Was ist die EU-KI-Datenbank und wann muss ich mich registrieren?

Die EU-KI-Datenbank ist ein öffentliches Register für Hochrisiko-KI-Systeme. Die Registrierung ist vor dem Inverkehrbringen eines Hochrisiko-KI-Systems auf dem EU-Markt erforderlich. Bei Medizinprodukte-KI übernimmt die Benannte Stelle typischerweise die Registrierung im Rahmen des Konformitätsbewertungsverfahrens.

Kann ich dasselbe QMS für MDR und AI Act nutzen?

Ja. Art. 17 des EU AI Act verlangt ein Qualitätsmanagementsystem für Anbieter von Hochrisiko-KI-Systemen. Die Verordnung erlaubt ausdrücklich die Integration dieses QMS in ein bestehendes QMS nach MDR Art. 10(9). Ein einheitliches ISO-13485-QMS mit KI-spezifischen Erweiterungen ist der empfohlene Ansatz.

Welche Strafen drohen bei Nichteinhaltung?

Verstöße gegen verbotene Praktiken (Art. 5) können mit Bußgeldern von bis zu 35 Mio. EUR oder 7 % des weltweiten Jahresumsatzes geahndet werden. Nichteinhaltung anderer Pflichten für Hochrisiko-KI-Systeme kann mit bis zu 15 Mio. EUR oder 3 % des weltweiten Jahresumsatzes bestraft werden.

Ist Post-Market-Surveillance speziell für KI erforderlich?

Ja. Art. 12 verlangt automatisches Logging für das Post-Market-Monitoring, und Art. 72 erfordert einen Post-Market-Monitoring-Plan für Hochrisiko-KI-Systeme. Für Medizinprodukte-KI kann dies in das bestehende MDR-Post-Market-Surveillance-System integriert werden, muss aber zusätzlich KI-spezifische KPIs wie Modellleistungsstabilität, Drift-Erkennung und Anomaliequoten abdecken.

EU AI Act Klassifikator & Konformitätsbewertung

Klassifizieren Sie Ihr KI-System in 6 Fragen und führen Sie ein vollständiges Gap-Assessment für alle 26 Art.-9-15-Anforderungen durch.

Kostenloses Assessment starten →