EU AI-verordening (EU 2024/1689)
De EU AI-verordening stelt risicogebaseerde verplichtingen vast voor AI-systemen die op de EU-markt worden gebracht. AI in een medisch hulpmiddel geldt als AI-systeem met een hoog risico op grond van Art. 6(1) + bijlage I wanneer dat hulpmiddel een conformiteitsbeoordeling door een aangemelde instantie moet ondergaan — risicobeheer, databeheer en menselijk toezicht gelden dan cumulatief met de EU MDR.
EU 2024/1689 — EUR-Lex ↗AI Act Classifier & Conformiteitsbeoordeling
Classificeer uw AI-systeem in 6 vragen en voer een volledige gap-beoordeling uit voor alle 26 Art. 9–15 vereisten.
Risicoklassen & Verplichtingen
De AI-verordening stelt vier risiconiveaus vast met proportionele verplichtingen voor elk niveau.
AI-systemen die een onaanvaardbaar risico vormen voor gezondheid, veiligheid of grondrechten zijn verboden op grond van art. 5 — bijvoorbeeld biometrische identificatie op afstand in real time in openbaar toegankelijke ruimten met het oog op rechtshandhaving (behoudens de limitatieve uitzonderingen in art. 5), sociale scoring en subliminale of manipulatieve technieken.
Conformiteitsbeoordeling: Verboden
AI-systemen die veiligheidscomponenten zijn van gereguleerde producten (inclusief medische hulpmiddelen onder MDR/IVDR) of die vallen onder de sectoren van Bijlage III zijn onderworpen aan het volledige pakket van Art. 9–15 verplichtingen.
Conformiteitsbeoordeling: Aangemelde instantie of intern KMS
AI-systemen die interageren met natuurlijke personen (chatbots, emotieherkenning, AI-gegenereerde inhoud) moeten voldoen aan transparantieverplichtingen — gebruikers moeten worden geïnformeerd dat ze met een AI-systeem interageren.
Conformiteitsbeoordeling: Zelfdeclaratie (alleen transparantie)
Alle andere AI-systemen (spamfilters, AI in videogames, eenvoudige aanbevelingssystemen) vallen in de categorie minimaal risico. Er gelden geen verplichte eisen.
Conformiteitsbeoordeling: Geen vereiste
| Art. | Obligation |
|---|---|
| 9 | Risicobeheersysteem Opzetten en onderhouden van een risicobeheersysteem specifiek voor de levenscyclus van het AI-systeem, waarbij AI-specifieke risico's iteratief worden geïdentificeerd en beperkt. |
| 10 | Databeheer Implementeren van databeheerprocessen voor trainingsgegevenskwaliteit, bias-onderzoek, herkomstdocumentatie en behandeling van bijzondere categorieën persoonsgegevens. |
| 11 | Technische documentatie Bijhouden van Bijlage IV technische documentatie met AI-systeembeschrijving, trainingsmethodologie, validatieresultaten en post-market monitoringplan. |
| 12 | Automatische logging Hoog-risico AI-systemen moeten automatisch events registreren voor post-market monitoring, incidentonderzoek en regelgevingsaudit. |
| 13 | Transparantie & Informatie Deployers duidelijke informatie verstrekken over AI-capaciteiten, beperkingen, prestatiemetrieken en betrouwbare gebruiksomstandigheden via de gebruiksaanwijzing. |
| 14 | Menselijk toezicht AI-systemen ontwerpen met ingebouwde mechanismen die bevoegde personen in staat stellen AI-outputs effectief te monitoren, te interveniëren en te overschrijven. |
| 15 | Nauwkeurigheid, Robuustheid & Beveiliging Gedeclareerde nauwkeurigheidsniveaus bereiken; robuustheid garanderen tegen fouten, distributieverschuivingen en adversariale aanvallen; cyberbeveiligingsmaatregelen implementeren. |
Nalevingstijdlijn
Belangrijke data voor de gefaseerde inwerkingtreding van de verplichtingen van de EU AI-verordening.
Verordening trad in werking — 20 dagen na publicatie in het Publicatieblad van de EU.
Verboden praktijken (Art. 5) afdwingbaar — biometrische identificatie op afstand in real time met het oog op rechtshandhaving, sociale scoring, subliminale manipulatie.
GPAI-modelverplichtingen (Art. 51–56) van toepassing — technische documentatie, transparantie, auteursrechtbeleid.
Transparantieverplichtingen (Art. 50) van toepassing — informatie wanneer een gebruiker met een AI-systeem communiceert of gegenereerde inhoud ziet. Niet uitgesteld.
Volledige verplichtingen voor zelfstandige hoog-risicotoepassingen uit Bijlage III (werkgelegenheid, onderwijs, essentiële diensten, rechtshandhaving).
Volledige verplichtingen voor AI in gereguleerde producten met een conformiteitsbeoordeling door een derde partij (Art. 6(1) + Bijlage I) — het traject voor CE-gemarkeerde medische hulpmiddelen en IVD's.
Hoog-risicoverplichtingen voor medisch hulpmiddel-AI: vanaf 2 aug 2028 (Art. 6(1) + Bijlage I). De transparantieverplichtingen van Art. 50 gelden ongewijzigd sinds 2 aug 2026.
Kernbegrippen uitgelegd
Eenvoudige uitleg van de belangrijkste AI-verordening concepten voor medische hulpmiddelenteams.
Wat is een AI-systeem onder de AI-verordening?
De EU AI-verordening definieert een AI-systeem als een op machines gebaseerd systeem dat is ontworpen om te opereren met wisselende niveaus van autonomie en dat adaptief kan zijn. Een medisch hulpmiddel dat een getraind machine learning-model gebruikt voor diagnostische suggesties kwalificeert als AI-systeem.
Medisch hulpmiddel-AI als hoog-risico AI
AI in een CE-gemarkeerd medisch hulpmiddel wordt een AI-systeem met een hoog risico via Art. 6(1) + Bijlage I — Bijlage I, deel A, noemt de MDR (EU) 2017/745 en de IVDR (EU) 2017/746. Art. 6(1) stelt twee cumulatieve voorwaarden: de AI moet een veiligheidscomponent van zo'n product zijn (of dat product zelf), EN dat product moet op grond van diezelfde wetgeving een conformiteitsbeoordeling door een derde partij ondergaan. Een zelfgecertificeerd klasse I-hulpmiddel zonder aangemelde instantie voldoet niet aan de tweede voorwaarde en valt langs deze weg niet onder hoog risico. Is er wel een aangemelde instantie, dan staat Art. 43(3) toe dat zij de AI-conformiteitsbeoordeling opneemt in de MDR/IVDR-beoordeling, en gelden de verplichtingen van Art. 6(1) + Bijlage I vanaf 2 aug 2028. Bijlage III is de afzonderlijke route voor zelfstandige toepassingen, met een eigen, eerdere datum; een product komt daar nooit terecht louter omdat het een medisch hulpmiddel is.
MDR en AI-verordening: cumulatieve verplichtingen
De EU AI-verordening en EU MDR zijn cumulatief van toepassing. Fabrikanten moeten aan beide regelgevingskaders voldoen. De regelgevingen hebben echter aanzienlijke structurele overlappen die de totale nalevingslast verminderen:
- MDR Bijlage II/III technische documentatie ↔ AI Act Bijlage IV technische documentatie (aanzienlijke overlappen)
- ISO 14971 risicobeheer ↔ AI Act Art. 9 risicobeheer (AI Act voegt AI-specifieke risicodimensies toe)
- IEC 62304 softwarelevenscyclus ↔ Documentatie ontwikkelingsmethodologie AI Act
- MDR post-market surveillance ↔ AI Act Art. 12 logging en post-market monitoring
- MDR Art. 10(9) KMS ↔ AI Act Art. 17 kwaliteitsmanagementsysteem (kan worden geünificeerd)
- MDR aangemelde instantie conformiteitsbeoordeling ↔ Art. 43(3) staat gebruik MDR beoordeling toe
CRA en AI-verordening: cyberbeveiligingsafstemming
Als uw AI-geactiveerde medisch hulpmiddel digitale connectiviteit heeft, is ook de Cyber Resilience Act (CRA, EU 2024/2847) van toepassing naast de AI-verordening. CRA Bijlage I cyberbeveiligingsvereisten complementeren AI Act Art. 15(5) vereisten voor adversariale robuustheid.
Algemeen-doel AI (GPAI) modellen
Algemeen-doel AI-modellen — grote fundamentmodellen getraind op brede gegevens die voor meerdere doeleinden kunnen worden gebruikt — zijn onderworpen aan specifieke verplichtingen onder Art. 51–56, van toepassing vanaf 2 augustus 2025. Fabrikanten van medische hulpmiddelen die derde-partij GPAI-modellen integreren, moeten ervoor zorgen dat de modelaanbieder zijn GPAI-verplichtingen nakomt.
Conformiteitsbeoordeling voor hoog-risico AI
Hoog-risico AI-systemen moeten een conformiteitsbeoordeling ondergaan voordat ze op de EU-markt worden gebracht. Voor AI-systemen die veiligheidscomponenten zijn van MDR-gereguleerde medische hulpmiddelen, staat Art. 43(3) van de AI-verordening toe dat de aangemelde instantie die de MDR-conformiteitsbeoordeling uitvoert ook de AI Act-conformiteit beoordeelt.
Registratie in EU AI-database
Hoog-risico AI-systemen onder Bijlage III moeten worden geregistreerd in de EU AI-database voordat ze op de markt worden gebracht. Voor medisch hulpmiddel-AI neemt de aangemelde instantie doorgaans de registratie op zich als onderdeel van het conformiteitsbeoordelingsproces.
Synergieën met bestaande normen
Hoe uw bestaande MDR-, IEC 62304-, ISO 14971- en CRA-conformiteit de AI-verordening kloof verkleint.
| AI Act Vereiste |
|---|
AI-risicobeheer ISO 14971 |
Databeheer IEC 62304 + AVG |
Technische documentatie IEC 62304 |
Logging / Audittrail IEC 62304 §8 |
Menselijk toezicht EU MDR Art. 15 |
Cyberbeveiliging CRA Bijlage I + ISO 14971 |
Veelgestelde vragen
Antwoorden op de meest gestelde vragen van fabrikanten van medische hulpmiddelen.
Is de EU AI-verordening van toepassing op mijn medisch hulpmiddel?
Als uw medisch hulpmiddel een AI-systeem bevat — een getraind machine learning-model, neuraal netwerk of vergelijkbare technologie —, is de AI-verordening erop van toepassing. Of het HOOG-RISICO is, bepaalt Art. 6(1) + Bijlage I, niet Bijlage III: het hulpmiddel moet onder de MDR/IVDR vallen en daar een conformiteitsbeoordeling door een derde partij ondergaan. Is er een aangemelde instantie betrokken, dan gelden de verplichtingen van Art. 6(1) + Bijlage I vanaf 2 aug 2028. Een zelfgecertificeerd klasse I-hulpmiddel zonder aangemelde instantie valt langs die weg niet onder hoog risico — de verboden van Art. 5 en, waar relevant, de transparantieverplichtingen van Art. 50 blijven gelden.
Wanneer moet ik conform zijn?
Voor AI in CE-gemarkeerde medische hulpmiddelen gelden de hoog-risicoverplichtingen vanaf 2 aug 2028 (Art. 6(1) + Bijlage I); voor zelfstandige toepassingen uit Bijlage III vanaf 2 dec 2027 — beide data zijn uitgesteld door verordening (EU) 2026/1744. Ongewijzigd: transparantie Art. 50 (2 aug 2026), GPAI (2 augustus 2025), verboden van Art. 5 (2 februari 2025).
Heb ik een aparte aangemelde instantie nodig voor de AI-verordening?
Niet noodzakelijk. Art. 43(3) van de EU AI-verordening staat toe dat de aangemelde instantie die uw MDR-conformiteitsbeoordeling uitvoert ook de AI Act-conformiteit beoordeelt. Controleer bij uw huidige aangemelde instantie of ze geaccrediteerd zijn voor AI Act-beoordelingen.
Wat is het verschil tussen de AI-verordening en de CRA voor medische hulpmiddelen?
De AI-verordening regelt AI-specifieke verplichtingen (risicobeheer, databeheer, transparantie, menselijk toezicht). De CRA regelt cyberbeveiligingsvereisten voor alle producten met digitale elementen. Beide kunnen tegelijkertijd van toepassing zijn op uw product.
Dekt ISO 14971 de risicobeheersvereisten van de AI-verordening?
ISO 14971 biedt ongeveer 80% dekking voor de risicobeheersvereisten van Art. 9 van de AI-verordening. Het belangrijkste hiaat zijn AI-specifieke risico's die niet worden behandeld in traditioneel risicobeheer: conceptdrift, trainingsdata-bias, distributieverandering en adversariale inputs.
Wat is een Model Card en heb ik er een nodig?
Een Model Card is een gestructureerd document dat doel, architectuur, trainingsdata, prestatiestatistieken en bekende beperkingen van een AI-model beschrijft. Hoewel niet expliciet benoemd in de AI-verordening, vereisen de Bijlage IV technische documentatievereisten effectief gelijkwaardige informatie.
Wat zijn de GPAI-verplichtingen voor fabrikanten van medische hulpmiddelen?
Als u een derde-partij GPAI-model integreert, bent u deployer en moet de modelaanbieder u technische documentatie en auteursrechtconformiteitsinformatie verstrekken. Als u een eigen GPAI-model ontwikkelt en op de markt brengt, gelden aanbiederverplichtingen onder Art. 53.
Wat is de EU AI-database en wanneer moet ik mij registreren?
De EU AI-database is een openbaar register van hoog-risico AI-systemen. Registratie is verplicht voordat een hoog-risico AI-systeem op de EU-markt wordt gebracht. Voor medisch hulpmiddel-AI verzorgt de aangemelde instantie doorgaans de registratie als onderdeel van het conformiteitsbeoordelingsproces.
Kan ik hetzelfde KMS gebruiken voor MDR en de AI-verordening?
Ja. Art. 17 van de EU AI-verordening vereist een kwaliteitsmanagementsysteem voor aanbieders van hoog-risico AI-systemen. De verordening staat expliciet toe dat dit KMS wordt geïntegreerd in een bestaand KMS opgezet onder MDR Art. 10(9).
Welke sancties gelden bij niet-naleving?
Schendingen van verboden praktijken (Art. 5) kunnen leiden tot boetes van maximaal €35 miljoen of 7% van de wereldwijde jaaromzet. Niet-naleving van andere verplichtingen voor hoog-risico AI-systemen kan leiden tot boetes van maximaal €15 miljoen of 3% van de wereldwijde jaaromzet.
Is post-market surveillance specifiek vereist voor AI?
Ja. Art. 12 vereist automatische logging voor post-market monitoring, en Art. 72 vereist een post-market monitoringplan voor hoog-risico AI-systemen. Voor medisch hulpmiddel-AI kan dit worden geïntegreerd in het bestaande MDR-systeem, maar moet aanvullend AI-specifieke KPI's omvatten zoals modelprestatiesstabiliteit en driftdetectie.
AI Act Classifier & Conformiteitsbeoordeling
Classificeer uw AI-systeem in 6 vragen en voer een volledige gap-beoordeling uit voor alle 26 Art. 9–15 vereisten.
Gratis beoordeling starten →