Wat is de AI Act?
Een risicogebaseerd regelgevingskader dat AI-innovatie mogelijk maakt en tegelijk grondrechten beschermt.
De verordening
De AI Act (Verordening (EU) 2024/1689) is de eerste uitgebreide wetgeving ter wereld die artificiële intelligentie reguleert. De wet is op 1 augustus 2024 in werking getreden en wordt gefaseerd van kracht.
De EU wil innovatie bevorderen en tegelijk de grondrechten van burgers beschermen. De AI Act zorgt voor een geharmoniseerd kader zodat AI-systemen veilig, transparant en niet-discriminerend zijn.
Voor wie geldt het?
- Aanbieders (developers) van AI-systemen die in de EU op de markt worden gebracht
- Gebruiksverantwoordelijken (deployers) die AI-systemen inzetten in de EU
- Importeurs en distributeurs van AI-systemen
- Fabrikanten die AI-systemen in hun producten integreren
- Ook bedrijven buiten de EU als hun AI-systeem in de EU wordt gebruikt
Kernprincipes
Risicogebaseerde aanpak
Strengere regels voor hogere risico's. Het overgrote deel van AI-systemen valt onder minimaal risico en heeft geen verplichtingen.
Bescherming van grondrechten
Privacy, non-discriminatie en transparantie staan centraal. Burgers hebben recht op uitleg bij AI-beslissingen.
Innovatievriendelijk
Regulatory sandboxes voor experimenten. KMO's en startups krijgen proportionele regels en ondersteuning.
Extraterritoriale werking
De wet geldt ook voor organisaties buiten de EU wanneer hun AI-systemen worden gebruikt door personen in de EU.
Waarom is de EU AI Act ingevoerd?
Artificiële intelligentie raakt inmiddels vrijwel elke sector: van zorg en onderwijs tot werving, kredietverlening en rechtspraak. Tegelijk brengt AI risico's met zich mee, zoals discriminatie door bevooroordeelde trainingsdata, ondoorzichtige besluitvorming en aantasting van privacy. Vóór de AI Act bestond er geen samenhangend Europees kader dat deze risico's adresseerde. Het gevolg was rechtsonzekerheid voor bedrijven en onvoldoende bescherming voor burgers.
Met de EU AI Act (Verordening (EU) 2024/1689) kiest de Europese Unie voor een risicogebaseerde benadering: hoe groter het potentiële risico voor gezondheid, veiligheid of grondrechten, hoe strenger de regels. Zo blijft er ruimte voor innovatie bij toepassingen met een laag risico, terwijl AI-systemen met een grote impact aan strikte eisen moeten voldoen. De verordening is rechtstreeks van toepassing in alle EU-lidstaten, waaronder Nederland, en hoeft niet eerst in nationale wetgeving te worden omgezet.
Wat regelt de AI Act precies?
- Classificatie van AI-systemen in vier risiconiveaus, plus aparte regels voor general-purpose AI (GPAI)
- Verboden AI-praktijken die onaanvaardbare risico's vormen voor grondrechten
- Verplichtingen voor hoog-risico AI, zoals risicobeheer, datakwaliteit, documentatie, logging en menselijk toezicht
- Transparantieregels voor chatbots, deepfakes en AI-gegenereerde content
- Governance en handhaving via het Europese AI Office en nationale markttoezichtautoriteiten
- Boetes tot € 35 miljoen of 7% van de wereldwijde jaaromzet
Zo gebruik je het AI Act Kompas
Dit AI Act Kompas vertaalt de juridische tekst van de verordening naar begrijpelijke, praktische informatie voor Nederlandse organisaties. Doorloop de onderwerpen in volgorde of spring direct naar wat voor jou relevant is:
- Bepaal met de risico-check indicatief in welk risiconiveau jouw AI-systeem valt
- Bekijk per rol welke verplichtingen gelden
- Plan je naleving met de interactieve compliance-checklist
- Leer van 25 praktijkvoorbeelden en de begrippenlijst
Let op: dit Kompas is een informatieve gids en vormt geen juridisch advies.
Verdieping: artikelen over de AI Act
Naast dit Kompas publiceren we verdiepende artikelen over specifieke onderwerpen: van verboden AI-praktijken en GPAI-modellen tot de officiële definitie van een AI-systeem, menselijk toezicht, CE-markering en een stappenplan voor het MKB.
De AI Act in Nederland: wie doet wat?
De AI Act is een verordening en werkt daarom rechtstreeks in Nederland — er is geen aparte Nederlandse wet nodig om de kern te laten gelden. Wel moest Nederland bepalen wie toezicht houdt en handhaaft. De Rijksinspectie Digitale Infrastructuur (RDI) is aangewezen als coördinerend markttoezichthouder voor de AI-verordening. De Autoriteit Persoonsgegevens (AP) houdt toezicht op algoritmes en grondrechten en coördineert het algoritmetoezicht. Daarnaast blijven sectorale toezichthouders bevoegd binnen hun eigen domein: DNB en de AFM voor financiële instellingen, de IGJ en de NZa voor de zorg, de ACM voor markt en consument, en de Inspectie van het Onderwijs voor onderwijsinstellingen.
Op Europees niveau houdt het AI Office binnen de Europese Commissie exclusief toezicht op aanbieders van general-purpose AI-modellen. De AI Board stemt af tussen de lidstaten, en een wetenschappelijk panel van onafhankelijke deskundigen adviseert over modellen met systeemrisico. Lees meer in ons artikel over handhaving van de AI Act in Nederland.
Voor overheidsorganisaties komt daar de Nederlandse laag bovenop: het Algoritmeregister van de Nederlandse overheid en het Impact Assessment Mensenrechten en Algoritmes (IAMA), dat een goede onderlegger vormt voor de verplichte grondrechteneffectbeoordeling. Zie AI Act bij gemeenten en uitvoeringsorganisaties.
Zeven hardnekkige misverstanden over de AI Act
1. "De AI Act geldt alleen voor techbedrijven"
Onjuist. De zwaarste verplichtingen liggen bij aanbieders, maar de meeste organisaties zijn gebruiksverantwoordelijke — en die rol kent eigen plichten. Bovendien geldt de AI-geletterdheidsplicht van artikel 4 voor élke organisatie die AI inzet, ook een kapsalon met een AI-planningstool.
2. "Wij gebruiken geen AI"
Vrijwel elke organisatie gebruikt AI, vaak zonder het te weten: spamfilters, vertaalmodules, spraak-naar-tekst, aanbevelingen in webshops, fraudedetectie bij betalingen, AI-functies die stilletjes zijn geactiveerd in bestaande software. Een inventarisatie levert vrijwel altijd meer op dan verwacht.
3. "Als het open source is, gelden de regels niet"
De open-source vrijstelling geldt uitdrukkelijk niet voor verboden praktijken, hoog-risico systemen en de transparantieverplichtingen. Zie open source en de AI Act.
4. "Onze leverancier regelt het wel"
Deels waar — maar zodra je een systeem onder eigen merk aanbiedt, het beoogde doel wijzigt of een substantiële wijziging aanbrengt, word je zelf aanbieder met het volledige eisenpakket. Zie wanneer word je zelf aanbieder?
5. "Het systeem draaide al, dus we vallen erbuiten"
Alleen tot de eerste substantiële wijziging. Voor hoog-risico systemen bij overheidsinstanties geldt bovendien een harde einddatum: 2 augustus 2030.
6. "AI Act-compliance betekent dat we aan de AVG voldoen"
Nee. Beide kaders gelden naast elkaar. Een systeem kan volledig AI Act-conform zijn en toch in strijd met de AVG, of andersom. Zie AI Act en AVG.
7. "We wachten wel tot er handhaving is"
De verboden praktijken en AI-geletterdheid gelden al sinds februari 2025, de GPAI-regels sinds augustus 2025 en het gros van de verordening sinds augustus 2026. Bovendien zijn de meeste verplichtingen — documentatie, testresultaten, toezichtafspraken — niet met terugwerkende kracht te produceren.
Buiten de reikwijdte van de AI Act
Niet alles wat AI heet, valt onder de verordening. Uitgezonderd zijn onder meer:
- AI-systemen die uitsluitend worden ontwikkeld of gebruikt voor militaire, defensie- of nationale veiligheidsdoeleinden;
- AI die alleen wordt gebruikt voor wetenschappelijk onderzoek en ontwikkeling, zolang het resultaat niet op de markt komt;
- onderzoeks-, test- en ontwikkelactiviteiten vóór het in de handel brengen — testen in reële omstandigheden uitgezonderd;
- gebruik door natuurlijke personen in een zuiver persoonlijke, niet-beroepsmatige context;
- overheidsinstanties van derde landen die in internationale samenwerking op het gebied van rechtshandhaving optreden, onder voorwaarden;
- AI-systemen die worden vrijgegeven onder een vrije en open source licentie — behalve als het gaat om verboden praktijken, hoog risico of transparantieplichtige systemen.
Wat de AI Act níet regelt
Even belangrijk is wat er niet in staat. De AI Act:
- bevat geen aparte aansprakelijkheidsregeling — daarvoor gelden het algemene aansprakelijkheidsrecht en de herziene productaansprakelijkheidsrichtlijn;
- regelt geen auteursrecht op AI-output; wel moeten GPAI-aanbieders een auteursrechtbeleid voeren;
- verbiedt geen enkele technologie als zodanig — het reguleert toepassingen en risico's;
- vervangt de AVG niet, en evenmin sectorale wetgeving zoals de MDR, de Machineverordening of financieel toezichtrecht;
- stelt geen eisen aan minimaal risico-systemen, al worden vrijwillige gedragscodes aangemoedigd.
Van inventarisatie naar aantoonbare naleving in zes stappen
Organisaties die succesvol met de AI Act aan de slag gaan, volgen vrijwel altijd dezelfde volgorde. Niet omdat dat voorgeschreven is, maar omdat elke stap de volgende mogelijk maakt.
- Inventariseer. Maak één lijst met alle AI-toepassingen: naam, doel, leverancier, afdeling, gebruikte data en de betrokken personen. Betrek inkoop en IT — schaduw-AI zit zelden in het applicatielandschap.
- Classificeer. Bepaal per toepassing het risiconiveau met de risico-check en bijlage III. Documenteer óók de conclusie "geen hoog risico" — die onderbouwing kan worden opgevraagd.
- Bepaal je rol. Aanbieder of gebruiksverantwoordelijke? Controleer artikel 25 op merkgebruik, doelwijziging en substantiële wijzigingen.
- Dek de basis af. AI-geletterdheid, transparantiemeldingen bij chatbots en AI-content, en de zekerheid dat je geen verboden praktijk toepast.
- Bouw het dossier. Voor hoog risico: risicobeheer, datagovernance, technische documentatie, logging, menselijk toezicht, conformiteitsbeoordeling en registratie.
- Borg het. Wijs eigenaarschap toe, plan periodieke evaluaties en koppel incidenten en klachten terug in het risicobeheer. Gebruik de compliance-checklist als vaste meetlat.
Uitgebreide uitwerking per stap staat in de complete samenvatting van de AI Act en het stappenplan voor het MKB.
De Risicopiramide
De AI Act classificeert AI-systemen in vier risicocategorieën. Klik op een niveau voor details.
Deze AI-systemen zijn volledig verboden:
- Manipulatieve technieken die schade veroorzaken
- Exploitatie van kwetsbare groepen (leeftijd, handicap)
- Social scoring door overheden
- Real-time biometrische identificatie op afstand in openbare ruimtes door rechtshandhaving (met uitzonderingen)
- Biometrische categorisatie op basis van gevoelige kenmerken
- Scrapen van gezichtsbeelden voor gezichtsherkenningsdatabanken
- Emotieherkenning op de werkplek en in het onderwijs
- Predictive policing op basis van profilering
Van kracht sinds: 2 februari 2025
AI-systemen in kritieke sectoren:
- Biometrie & identificatie
- Kritieke infrastructuur (water, gas, elektriciteit, verkeer)
- Onderwijs & beroepsopleiding (toelating, beoordeling)
- Werkgelegenheid (werving, evaluatie, ontslag)
- Essentiële diensten (kredietbeoordeling, verzekeringen)
- Rechtshandhaving (bewijsbeoordeling, recidiverisico)
- Migratie & grenscontrole (asielaanvragen, risicoanalyse)
- Rechtsbedeling (juridisch onderzoek, feiten toepassen op recht)
Verplichtingen: Risicobeheersysteem, datakwaliteit, technische documentatie, logging, transparantie, menselijk toezicht, nauwkeurigheid & robuustheid, cybersecurity.
Van kracht: 2 augustus 2026
AI-systemen met transparantieverplichtingen:
- Chatbots — gebruikers moeten weten dat ze met AI communiceren
- Deepfakes — moeten gelabeld worden als AI-gegenereerd
- Emotieherkenning — gebruikers moeten worden geïnformeerd
- AI-gegenereerde tekst — moet als zodanig worden aangemerkt wanneer gepubliceerd over publieke aangelegenheden
Van kracht: 2 augustus 2026
Het overgrote deel van AI-systemen valt in deze categorie:
- Spamfilters
- AI in videogames
- Inventarisbeheersystemen
- Vertaaldiensten
- Aanbevelingsalgoritmen (niet-hoog-risico)
Geen verplichtingen uit de AI Act, maar vrijwillige gedragscodes worden aangemoedigd.
General Purpose AI (GPAI)
AI-modellen voor algemene doeleinden (zoals grote taalmodellen) hebben aparte regels:
- Technische documentatie en informatie aan downstream-aanbieders
- Naleving van het auteursrecht
- Publiceren van een samenvatting van de trainingsdata
- Systeemrisico-modellen (zeer krachtige modellen): aanvullende verplichtingen zoals modelevaluatie, adversarial testing, ernstige incidenten melden, cyberbeveiliging
Hoe bepaal je het risiconiveau in de praktijk?
De risicopiramide oogt eenvoudig, maar de indeling volgt een vaste juridische volgorde. Loop die volgorde altijd van boven naar beneden door — een systeem dat onder een verbod valt, hoef je niet meer op hoog risico te toetsen.
- Is het überhaupt een AI-systeem? Toets aan de definitie van artikel 3: een machinaal systeem met autonomie dat uit input afleidt hoe het output genereert. Klassieke regelgebaseerde software valt erbuiten. Zie de definitie van een AI-systeem.
- Valt het onder een verbod? Toets aan de acht categorieën van artikel 5. Zo ja: stoppen. Zie verboden AI-praktijken.
- Is het een veiligheidscomponent in een gereguleerd product? Dan loopt de route via bijlage I en de sectorale wetgeving. Zie AI in machines en producten.
- Staat de toepassing in bijlage III? Acht domeinen, van biometrie tot rechtsbedeling. Zie bijlage III uitgelegd.
- Geldt de uitzondering van artikel 6 lid 3? Een systeem uit bijlage III is tóch geen hoog risico als het geen significant risico oplevert en de besluitvorming niet wezenlijk beïnvloedt — bijvoorbeeld bij een beperkte procedurele taak of puur voorbereidend werk. Bij profilering van natuurlijke personen geldt deze uitzondering nooit, en je moet de beoordeling vóór ingebruikname vastleggen en het systeem registreren.
- Gelden er transparantieplichten? Communiceert het systeem met mensen of genereert het content? Dan geldt artikel 50, ongeacht het risiconiveau.
Waar GPAI-modellen passen
General-purpose AI-modellen staan bewust naast de piramide. Ze zijn niet voor één toepassing gebouwd en kunnen daarom niet vooraf worden geclassificeerd. De AI Act geeft ze een eigen hoofdstuk met verplichtingen voor de modelaanbieder: technische documentatie, informatie voor downstream-aanbieders, auteursrechtbeleid en een publieke samenvatting van de trainingsdata.
Boven een drempel van 1025 FLOPs aan trainingsrekenkracht wordt systeemrisico vermoed. Dan komen modelevaluaties, adversarial testing, risicobeperking, incidentmelding en cyberbeveiliging erbij. Bouw je met zo'n model een concrete toepassing, dan bepaalt jouw gebruik het risiconiveau van het resulterende systeem. Lees meer over GPAI-verplichtingen en de Code of Practice.
Dezelfde technologie, ander risiconiveau
Het risiconiveau hangt aan het gebruik, niet aan de techniek. Hetzelfde taalmodel kan in vier categorieën terechtkomen:
- Minimaal risico — het samenvatten van interne vergadernotities.
- Beperkt risico — een klantenservice-chatbot: melden dat het AI is.
- Hoog risico — het rangschikken van sollicitanten: volledig eisenpakket.
- Onaanvaardbaar — het afleiden van emoties van medewerkers tijdens gesprekken: verboden.
Classificeer daarom per use case, niet per tool. Bekijk de 25 praktijkvoorbeelden voor concrete indelingen.
Risico-check
Beantwoord zeven vragen om een indicatief risiconiveau te bepalen voor jouw AI-systeem.
Hoe de check werkt
De vragen volgen de volgorde van de verordening: eerst of een toepassing verboden is, daarna of die onder hoog risico valt (bijlage I of III), en tot slot of er alleen transparantieregels gelden. Het resultaat is een indicatie, geen juridische classificatie.
- Onaanvaardbaar — verboden praktijken uit artikel 5, van kracht sinds 2 februari 2025.
- Hoog risico — bijlage III-eisen gelden sinds 2 augustus 2026; bijlage I-producten volgen op 2 augustus 2027.
- Beperkt risico — transparantie voor onder meer chatbots en deepfakes, sinds 2 augustus 2026.
- Minimaal risico — geen specifieke AI Act-plichten; AI-geletterdheid kan wél gelden.
De check vraagt naar domein, autonome beslissingen, biometrie, interactie met mensen, kritieke infrastructuur, kwetsbare groepen en social scoring. Voor de juridische volgorde zie de risiconiveaus.
Implementatietijdlijn
De AI Act is gefaseerd ingevoerd. De rode stip markeert de fase die nu geldt.
Wat elke datum concreet betekent
2 februari 2025 — verboden praktijken en AI-geletterdheid
De eerste tranche raakte iedereen. De acht verboden uit artikel 5 gingen gelden, en met artikel 4 kreeg élke aanbieder en gebruiksverantwoordelijke de plicht te zorgen voor voldoende AI-geletterdheid bij personeel dat met AI-systemen werkt. Die tweede verplichting wordt het vaakst vergeten en is tegelijk het eenvoudigst te regelen.
2 augustus 2025 — GPAI, governance en sancties
Aanbieders van general-purpose AI-modellen kregen hun verplichtingen, de governancestructuur werd operationeel (AI Office, AI Board, wetenschappelijk panel) en de sanctiebepalingen traden in werking. Ook moesten lidstaten hun nationale bevoegde autoriteiten aanwijzen.
2 augustus 2026 — het zwaartepunt
Het merendeel van de verordening werd van toepassing: alle hoog-risico verplichtingen voor systemen uit bijlage III, de transparantieregels van artikel 50 voor chatbots, deepfakes en AI-content, en de volledige handhavingsbevoegdheden van de markttoezichthouders. Elke lidstaat moest bovendien minstens één AI-testomgeving operationeel hebben.
2 augustus 2027 — AI in gereguleerde producten
AI als veiligheidscomponent in producten uit bijlage I — machines, medische hulpmiddelen, speelgoed, liften, voertuigen — krijgt een jaar extra, omdat de AI-eisen in bestaande conformiteitsprocedures moeten worden ingepast. Op dezelfde datum verloopt de overgangstermijn voor GPAI-modellen die vóór augustus 2025 op de markt waren.
2 augustus 2030 en 31 december 2030 — de staartjes
Hoog-risico systemen die overheidsinstanties vóór augustus 2026 al gebruikten, moeten uiterlijk 2 augustus 2030 conform zijn. Voor grootschalige EU-IT-systemen uit bijlage X geldt 31 december 2030.
Uitgebreide uitleg per datum staat in AI Act deadlines: wat verandert er in 2026 en 2027?
Gelden de regels met terugwerkende kracht?
In beginsel niet. Hoog-risico AI-systemen die vóór 2 augustus 2026 in de handel zijn gebracht of in gebruik zijn genomen, vallen pas onder de eisen wanneer het ontwerp daarna substantieel wordt gewijzigd. Wat als substantieel geldt, is geen kwestie van gevoel: het gaat om een wijziging die niet was voorzien in de oorspronkelijke conformiteitsbeoordeling en die de naleving van de eisen raakt, of die het beoogde doel verandert.
Twee uitzonderingen op die coulance. Voor systemen die door overheidsinstanties worden gebruikt geldt hoe dan ook 2 augustus 2030. En voor GPAI-modellen die vóór 2 augustus 2025 op de markt waren, geldt 2 augustus 2027. Zie substantiële wijziging en artikel 25.
Verplichtingen per rol
Klik op een rol om de specifieke verplichtingen te bekijken.
- Risicobeheersysteem opzetten en onderhouden
- Data governance en datakwaliteit waarborgen
- Technische documentatie opstellen
- Automatische logging inbouwen
- Transparantie-informatie verstrekken aan gebruikers
- Menselijk toezicht mogelijk maken
- Nauwkeurigheid, robuustheid en cybersecurity garanderen
- Conformiteitsbeoordeling uitvoeren vóór marktintroductie
- CE-markering aanbrengen
- EU-databank registratie
- Kwaliteitsmanagementsysteem implementeren
- Post-market monitoring
- Ernstige incidenten melden
- AI-systeem gebruiken conform de gebruiksaanwijzing
- Menselijk toezicht toewijzen aan bevoegde personen
- Inputdata relevant en representatief houden
- Werking van het AI-systeem monitoren
- Logs bewaren (minimaal 6 maanden)
- Werknemers en hun vertegenwoordigers informeren over AI-gebruik
- Grondrechteneffectbeoordeling uitvoeren (voor bepaalde organisaties)
- Betrokken personen informeren over geautomatiseerde besluitvorming
- Samenwerken met toezichthouders
- Technische documentatie opstellen en bijhouden
- Informatie en documentatie verstrekken aan downstream-aanbieders
- Beleid invoeren om het auteursrecht na te leven
- Samenvatting van trainingsdata publiceren
Extra voor GPAI met systeemrisico
- Modelevaluaties uitvoeren
- Adversarial testing (red teaming)
- Systeemrisico's beoordelen en beperken
- Ernstige incidenten bijhouden en rapporteren
- Adequate cyberbeveiliging
Sinds 2 februari 2025 moeten alle organisaties die AI-systemen aanbieden of gebruiken zorgen voor voldoende AI-geletterdheid van hun personeel:
- Trainingen en bewustmaking over AI-systemen
- Kennis van technische aspecten en beperkingen
- Begrip van de juridische en ethische context
- Aangepast aan het kennisniveau en de rol van het personeel
Zeven eisen voor hoog-risico AI-systemen
Hoofdstuk III, afdeling 2 van de AI Act bevat de kern van het eisenpakket. Ze gelden allemaal tegelijk en versterken elkaar: de uitkomsten van het risicobeheersysteem bepalen wat je test, wat je documenteert en hoe je het toezicht inricht.
1. Risicobeheersysteem (art. 9)
Een continu, iteratief proces over de hele levenscyclus. Inclusief risico's bij redelijkerwijs voorzienbaar misbruik en extra aandacht voor minderjarigen en kwetsbare groepen. Lees verder.
2. Data en datagovernance (art. 10)
Relevante, representatieve en zo foutloos mogelijke datasets, met actief onderzoek naar bias. Lees verder.
3. Technische documentatie (art. 11)
Het dossier volgens bijlage IV, gereed vóór ingebruikname en tien jaar te bewaren. Lees verder.
4. Registratie van logs (art. 12)
Automatische logging voor traceerbaarheid; deployers bewaren logs minimaal zes maanden. Lees verder.
5. Transparantie richting deployers (art. 13)
Een gebruiksaanwijzing met beoogd doel, prestatieniveaus, beperkingen en vereiste toezichtmaatregelen — bruikbaar, niet alleen volledig.
6. Menselijk toezicht (art. 14)
Het systeem moet zó zijn ontworpen dat mensen de output kunnen interpreteren, negeren, terugdraaien en het systeem kunnen stoppen. Lees verder.
7. Nauwkeurigheid, robuustheid, cyberbeveiliging (art. 15)
Inclusief bescherming tegen data poisoning, adversarial examples en modelmanipulatie. Lees verder.
Plus organisatorisch
Een kwaliteitsmanagementsysteem, een conformiteitsbeoordeling met CE-markering, registratie in de EU-databank, monitoring na marktintroductie en het melden van ernstige incidenten.
Checklist voor gebruiksverantwoordelijken (art. 26)
Gebruik je een hoog-risico systeem van een leverancier, dan is dit jouw lijst:
- gebruik het systeem volgens de gebruiksaanwijzing en binnen het beoogde doel;
- wijs menselijk toezicht toe aan personen met de nodige bekwaamheid, opleiding, bevoegdheid en ondersteuning;
- zorg dat de inputdata relevant en voldoende representatief is voor het beoogde doel, voor zover je daar controle over hebt;
- monitor de werking en informeer de aanbieder en zo nodig de toezichthouder bij een risico of ernstig incident;
- bewaar de logs ten minste zes maanden;
- informeer werknemers en hun vertegenwoordigers vóór ingebruikname op de werkvloer;
- informeer betrokken personen dat zij aan een hoog-risico systeem worden onderworpen;
- werk mee met de bevoegde autoriteiten en voer waar vereist een FRIA uit.
Let op: van deployer naar aanbieder
De rolverdeling is niet in beton gegoten. Je wordt zelf aanbieder van een hoog-risico systeem — met het volledige eisenpakket — wanneer je:
- je naam of merk aanbrengt op een systeem dat al in de handel is gebracht;
- het beoogde doel wijzigt waardoor het systeem hoog risico wordt;
- een substantiële wijziging aanbrengt die de conformiteit raakt;
- een GPAI-model zo aanpast of inzet dat het een hoog-risico AI-systeem wordt.
De oorspronkelijke aanbieder moet je dan de informatie en technische toegang geven die je nodig hebt. Leg dat contractueel vast — zie AI inkopen en contracteren en artikel 25 uitgelegd.
Importeurs, distributeurs en gemachtigden
Drie rollen worden vaak vergeten, terwijl ze in internationale ketens juist cruciaal zijn.
De importeur brengt een AI-systeem van een aanbieder buiten de EU op de Europese markt. Hij moet vóór introductie controleren of de conformiteitsbeoordeling is uitgevoerd, of de technische documentatie bestaat, of het systeem CE-markering draagt en of een gemachtigde is aangewezen. Bij twijfel mag hij het systeem niet in de handel brengen; bij een risico moet hij de aanbieder en de markttoezichthouder informeren.
De distributeur stelt een systeem beschikbaar zonder aanbieder of importeur te zijn. Hij verifieert de CE-markering, de aanwezigheid van de gebruiksaanwijzing en of aanbieder en importeur hun verplichtingen zijn nagekomen. Ontdekt hij non-conformiteit, dan moet hij corrigerende maatregelen nemen of het systeem uit de handel nemen.
De gemachtigde is de in de EU gevestigde vertegenwoordiger die een aanbieder van buiten de EU schriftelijk moet aanwijzen voor hoog-risico systemen. Hij houdt de documentatie beschikbaar voor autoriteiten, verifieert dat de conformiteitsverklaring is opgesteld en fungeert als aanspreekpunt voor toezichthouders.
Sancties en boetes
De AI Act voorziet in aanzienlijke boetes bij niet-naleving.
KMO's en startups
Voor kleine en middelgrote ondernemingen en startups gelden proportionele boeteplafonds, zodat de sancties niet onevenredig uitvallen. De lagere drempel (percentage of vast bedrag) is van toepassing.
Wie handhaaft?
- Nationaal: Markttoezichtautoriteiten per lidstaat
- EU-niveau: Het AI Office (Europese Commissie)
- Klachtrecht: Burgers kunnen klachten indienen
- Recht op uitleg: Bij hoog-risico AI-beslissingen
Waar de hoogte van een boete van afhangt
De bedragen in de verordening zijn maxima, geen tarieven. Artikel 99 schrijft voor dat bij elke beslissing over het opleggen van een boete én over de hoogte ervan rekening wordt gehouden met alle relevante omstandigheden, waaronder:
- de aard, ernst en duur van de inbreuk en de gevolgen ervan, mede gelet op het aantal getroffen personen en de omvang van de schade;
- of andere markttoezichtautoriteiten al boetes hebben opgelegd voor dezelfde inbreuk;
- de omvang, jaaromzet en het marktaandeel van de overtreder;
- of de inbreuk opzettelijk of uit nalatigheid is begaan;
- welke maatregelen zijn genomen om de schade te beperken;
- de mate van samenwerking met de autoriteiten;
- in hoeverre de overtreder de inbreuk zelf heeft gemeld;
- of de overtreder eerder in de fout ging;
- of het systeem in meerdere lidstaten wordt gebruikt.
Zelf melden, snel corrigeren en aantoonbaar meewerken drukken de uitkomst dus wezenlijk. Een goed bijgehouden dossier is daarmee niet alleen een compliancekostenpost, maar ook een risicoreductie.
Bijzondere regels voor kmo's en start-ups
Voor kleine, middelgrote en micro-ondernemingen — waaronder start-ups — geldt bij elk boeteniveau het laagste van de twee genoemde bedragen, dus het absolute bedrag óf het omzetpercentage, welke van de twee lager is. Voor andere ondernemingen geldt juist het hoogste. Dat verschil kan in de praktijk een factor tien schelen.
Daarnaast krijgen kmo's proportionele ondersteuning: vereenvoudigde technische documentatie, prioritaire en kosteloze of goedkope toegang tot regulatory sandboxes en gerichte voorlichting van de toezichthouders. Zie het stappenplan voor het MKB.
Boetes voor GPAI-aanbieders en overheden
Voor aanbieders van general-purpose AI-modellen geldt een apart regime: de Europese Commissie kan boetes opleggen tot 3% van de wereldwijde jaaromzet of €15 miljoen, afhankelijk van welk bedrag hoger is. Dat gebeurt via het AI Office, niet via de nationale toezichthouder.
Voor overheidsinstanties en EU-organen bepalen de lidstaten zelf of en in hoeverre bestuurlijke boetes worden opgelegd; het handhavingsinstrumentarium bestaat daar vaker uit aanwijzingen, lasten onder dwangsom en het uit de handel nemen van systemen. Zie AI Act bij de overheid.
Meer dan alleen boetes
Een boete is niet het enige — en vaak niet het duurste — gevolg van non-conformiteit. Markttoezichthouders kunnen ook:
- eisen dat je corrigerende maatregelen neemt binnen een gestelde termijn;
- het systeem uit de handel laten nemen of terugroepen;
- het op de markt aanbieden beperken of verbieden;
- toegang eisen tot documentatie, datasets, broncode en trainingsdata voor onderzoek.
Daarnaast lopen civielrechtelijke claims van benadeelde personen, contractuele aansprakelijkheid richting klanten en reputatieschade parallel. Voor een systeem dat centraal staat in je dienstverlening, is een verplichte terugroeping doorgaans ingrijpender dan de boete zelf. Burgers kunnen bovendien een klacht indienen bij de markttoezichthouder.
Compliance Checklist
Volg de voortgang van jouw organisatie. Je voortgang wordt lokaal opgeslagen in je browser.
Stap 1 — Inventarisatie
Stap 2 — AI-geletterdheid (deadline: 2 feb 2025)
Stap 3 — Verboden praktijken controleren
Stap 4 — Hoog-risico compliance (deadline: 2 aug 2026)
Stap 5 — Governance
Van checklist naar bewijs: wat leg je vast?
Afvinken is de helft van het werk. De AI Act is een verordening waarin je naleving moet kunnen aantonen; bij markttoezicht vraagt men niet of je eraan hebt gedacht, maar om het document. Leg per AI-systeem minimaal vast:
Registratie en classificatie
- naam, doel, versie, leverancier en verwerkte data;
- het vastgestelde risiconiveau met onderbouwing — ook bij "geen hoog risico";
- je rol (aanbieder of gebruiksverantwoordelijke) en de datum van beoordeling;
- de eigenaar binnen de organisatie en het escalatiepad.
Mensen
- het AI-geletterdheidsprogramma met deelnemers en data;
- wie het menselijk toezicht uitvoert, met bekwaamheid en bevoegdheid;
- informatie aan werknemers, OR en betrokken personen.
Techniek en proces
- het risicoregister met maatregelen en restrisico;
- testprotocol, testresultaten en prestaties per relevante groep;
- datastaten: herkomst, representativiteit en biasonderzoek;
- logbeleid: wat, waar, hoe lang, wie heeft toegang.
Keten en incidenten
- leveranciersdocumentatie: gebruiksaanwijzing, CE-status, registratienummer;
- wijzigingsprocedure en beoordeling van substantiële wijzigingen;
- incidentprocedure met meldtermijnen en verantwoordelijken.
Eén AI-register met deze velden dekt in de praktijk het grootste deel van de bewijslast. Gebruik voor de verdieping de artikelen over technische documentatie, het kwaliteitsmanagementsysteem en inkoop en contracten.
25 Praktijk Use Cases
Echte AI-toepassingen beoordeeld onder de AI Act. Klik op "Bekijk feedback" voor een juridische analyse.
1. Social scoring van burgers
OnaanvaardbaarEen gemeente wil een puntensysteem invoeren dat burgers beoordeelt op basis van hun sociale gedrag — afvalscheiding, buurtparticipatie, betalingsgedrag — om voorrang te geven bij diensten.
2. Real-time gezichtsherkenning op straat
OnaanvaardbaarEen politiekorps wil real-time biometrische identificatie toepassen op camera's in het stadscentrum om gezochte personen automatisch te herkennen in de menigte.
3. Emotieherkenning op de werkplek
OnaanvaardbaarEen callcenter wil AI inzetten die via stemanalyse de emoties van medewerkers monitort om "stressniveaus" te meten en productiviteitsscores te koppelen aan de emotionele staat van werknemers.
4. Manipulatieve AI gericht op kinderen
OnaanvaardbaarEen speelgoedbedrijf ontwikkelt een AI-aangedreven interactieve pop die via gepersonaliseerde gesprekken kinderen subtiel aanstuurt om extra accessoires te willen kopen, door in te spelen op emotionele gehechtheid.
5. AI-screening van sollicitanten
Hoog risicoEen groot bedrijf gebruikt AI om cv's te screenen, kandidaten te ranken en automatisch de eerste selectieronde uit te voeren op basis van patroonherkenning in eerdere succesvolle aanwervingen.
6. Kredietscoring door een bank
Hoog risicoEen bank gebruikt een AI-model om de kredietwaardigheid van consumenten te beoordelen en automatisch te beslissen over het toekennen of weigeren van leningen en de rentevoet.
7. AI-gestuurde examenbeoordeling
Hoog risicoEen universiteit gebruikt AI om open vragen in tentamens automatisch te beoordelen en cijfers toe te kennen, inclusief beslissingen over slagen/zakken.
8. Predictive policing
Hoog risicoEen politiekorps gebruikt AI om te voorspellen in welke buurten de kans op criminaliteit het grootst is, en stuurt hierop politie-inzet aan. Het systeem voorspelt hotspots, geen individuen.
9. AI voor medische beelddiagnostiek
Hoog risicoEen ziekenhuis zet AI in om röntgenfoto's en CT-scans te analyseren en tumoren of afwijkingen te detecteren, als ondersteuning voor radiologen bij hun diagnose.
10. Autonome besturing energienetwerk
Hoog risicoEen energienetbeheerder gebruikt AI om in real-time de elektriciteitsbelasting te voorspellen en automatisch het netwerk te balanceren, inclusief het afschakelen van segmenten bij overbelasting.
11. AI-beoordeling asielaanvragen
Hoog risicoEen immigratiedienst gebruikt AI om asielaanvragen te pre-screenen, risicoprofielen op te stellen en de prioritering van dossiers te bepalen op basis van herkomstland, reisroute en verklaringen.
12. AI-verzekeringspremie berekening
Hoog risicoEen verzekeraar gebruikt AI om op basis van persoonlijke data automatisch de premie te berekenen en te beslissen over acceptatie of afwijzing van polissen.
13. Autonome voertuigen
Hoog risicoEen autofabrikant brengt een voertuig op de markt met een AI-systeem dat autonoom kan rijden op de openbare weg, inclusief sturen, remmen en navigatie.
14. AI-recidiverisico inschatting
Hoog risicoEen rechtbank gebruikt een AI-systeem om het recidiverisico van verdachten in te schatten als input voor beslissingen over voorlopige hechtenis, strafmaat of voorwaardelijke invrijheidstelling.
15. Biometrische toegangscontrole bedrijf
Hoog risicoEen bedrijf installeert een AI-gezichtsherkenningssysteem bij de ingang om medewerkers te identificeren en toegang te verlenen tot beveiligde zones, als vervanging van toegangspasjes.
16. AI-chatbot voor klantenservice
Beperkt risicoEen webshop zet een AI-chatbot in op de website om klanten te helpen met veelgestelde vragen over bestellingen, retourzendingen en productinformatie.
17. AI-gegenereerde nieuwsartikelen
Beperkt risicoEen nieuwsorganisatie gebruikt AI om automatisch nieuwsberichten te genereren op basis van databronnen (sportscores, beurskoersen, weersvoorspellingen) en publiceert deze op de website.
18. Deepfake-video voor marketing
Beperkt risicoEen marketingbureau maakt gepersonaliseerde videoboodschappen met AI-gegenereerde avatars die eruitzien als echte personen, voor reclamecampagnes op social media.
19. AI-vertaalservice
Beperkt risicoEen internationaal bedrijf gebruikt AI-vertalingstools om interne documenten, e-mails en klantcommunicatie automatisch te vertalen naar meerdere talen.
20. AI-ondersteuning in juridisch onderzoek
Beperkt risicoEen advocatenkantoor gebruikt AI om relevante jurisprudentie te doorzoeken, contracten te analyseren en samenvattingen te maken van juridische documenten.
21. Spamfilter voor e-mail
Minimaal risicoEen e-mailprovider gebruikt AI om inkomende e-mails te classificeren als spam of niet-spam en automatisch naar de juiste map te verplaatsen.
22. AI in videogames (NPC-gedrag)
Minimaal risicoEen gamestudio gebruikt AI voor het aansturen van non-player characters — vijanden die tactisch reageren, bijpersonages met dynamische dialogen, en procedureel gegenereerde werelden.
23. AI-aanbevelingsengine webshop
Minimaal risicoEen webshop gebruikt AI om op basis van browsegedrag en aankoophistorie gepersonaliseerde productaanbevelingen te doen: "klanten kochten ook" en "speciaal voor jou geselecteerd".
24. AI-voorraadoptimalisatie warehouse
Minimaal risicoEen supermarktketen gebruikt AI om de optimale voorraden per filiaal te berekenen op basis van historische verkoopdata, weer, evenementen en seizoenspatronen, om verspilling te minimaliseren.
25. AI-muziekaanbeveling streaming
Minimaal risicoEen muziekstreamingdienst gebruikt AI om gepersonaliseerde afspeellijsten samen te stellen op basis van luistergedrag, voorkeuren en de luistergewoonten van vergelijkbare gebruikers.
Hoe je zelf een use case classificeert
De voorbeelden hierboven zijn indicatief. Wil je je eigen toepassing beoordelen, beantwoord dan deze vijf vragen — in deze volgorde:
- Wat is het beoogde doel? Formuleer het in één zin, vanuit het perspectief van de persoon die door de uitkomst wordt geraakt.
- Wie wordt geraakt en hoe hard? Gaat het om toegang tot werk, geld, zorg, onderwijs of overheidsdiensten, dan is de kans op hoog risico groot.
- Beslist het systeem, of ondersteunt het? Een systeem dat een menselijk oordeel voorbereidt zonder het te vervangen, kan onder de uitzondering van artikel 6 lid 3 vallen — maar nooit bij profilering van personen.
- Zitten er biometrische of gevoelige gegevens in? Dan gelden extra beperkingen, en soms een verbod.
- Communiceert het met mensen of maakt het content? Dan gelden hoe dan ook de transparantieregels van artikel 50.
Leg de uitkomst vast in een kort memo met vraag, feiten, gekozen grondslag en conclusie. Doe daarna de risico-check ter controle, en lees bijlage III uitgelegd voor de volledige domeinlijst.
Begrippenlijst
Zoek en ontdek de kernbegrippen uit de AI Act.
- AI-systeem
- Een op een machine gebaseerd systeem dat met variërende niveaus van autonomie werkt en dat expliciete of impliciete doelstellingen kan afleiden uit input en output genereert zoals voorspellingen, aanbevelingen, of beslissingen.
- Aanbieder (Provider)
- Een natuurlijke of rechtspersoon die een AI-systeem ontwikkelt of laat ontwikkelen en het op de markt brengt of in gebruik stelt onder eigen naam of merk.
- Gebruiksverantwoordelijke
- Een natuurlijke of rechtspersoon die een AI-systeem onder eigen verantwoordelijkheid gebruikt, tenzij dat gebruik in het kader van een persoonlijke, niet-beroepsmatige activiteit plaatsvindt.
- GPAI-model
- General Purpose AI — een AI-model dat getraind is met grote hoeveelheden data, aanzienlijke algemeenheid vertoont, en geschikt is voor een breed scala aan taken.
- Hoog-risico AI-systeem
- Een AI-systeem dat valt onder bijlage I of III van de AI Act en significante risico's vormt voor gezondheid, veiligheid of grondrechten.
- Conformiteitsbeoordeling
- Het proces om aan te tonen dat een hoog-risico AI-systeem voldoet aan de vereisten van de AI Act, vóór het op de markt wordt gebracht.
- CE-markering
- Markering waarmee een aanbieder aangeeft dat een AI-systeem voldoet aan de toepasselijke eisen van de AI Act en andere relevante EU-wetgeving.
- Regulatory sandbox
- Een gecontroleerd kader dat door een toezichthouder wordt opgezet en waarbinnen aanbieders innovatieve AI-systemen kunnen ontwikkelen en testen onder toezicht.
- Post-market monitoring
- Alle activiteiten die een aanbieder uitvoert om systematisch ervaringen met AI-systemen op de markt te verzamelen en analyseren.
- AI-geletterdheid
- Vaardigheden, kennis en begrip waarmee aanbieders, gebruikers en betrokken personen AI-systemen geïnformeerd kunnen inzetten en zich bewust zijn van de kansen en risico's.
- Grondrechteneffectbeoordeling
- Een beoordeling door gebruiksverantwoordelijken van de mogelijke impact van een hoog-risico AI-systeem op de grondrechten van betrokken personen.
- AI Office
- Het EU AI Office, onderdeel van de Europese Commissie, verantwoordelijk voor het toezicht op GPAI-modellen en de coördinatie van de handhaving op EU-niveau.
- Systeemrisico
- Een risico dat specifiek is voor de capaciteiten van GPAI-modellen met een groot bereik, met aanzienlijke impact op de gezondheid, veiligheid, openbare veiligheid, grondrechten of de samenleving als geheel.
- Deepfake
- Door AI gegenereerd of gemanipuleerd beeld-, audio- of videomateriaal dat een gelijkenis vertoont met bestaande personen, objecten, plaatsen of andere entiteiten, en dat ten onrechte als authentiek kan worden beschouwd.
- Biometrische identificatie
- De geautomatiseerde herkenning van fysieke, fysiologische of gedragsmatige menselijke kenmerken om de identiteit van een natuurlijke persoon vast te stellen.
- Menselijk toezicht
- Maatregelen die ervoor zorgen dat een AI-systeem effectief wordt overzien door natuurlijke personen die risico's kunnen identificeren en het systeem kunnen stoppen of ingrijpen.
- Markttoezichtautoriteit
- De nationale autoriteit die in een EU-lidstaat toezicht houdt op de naleving van de AI Act en bevoegd is om te handhaven, onderzoek te doen en boetes op te leggen.
- Aangemelde instantie (Notified Body)
- Een onafhankelijke organisatie die door een lidstaat is aangewezen om conformiteitsbeoordelingen voor bepaalde hoog-risico AI-systemen uit te voeren.
- Technische documentatie
- Het dossier waarin een aanbieder aantoont dat een hoog-risico AI-systeem aan de eisen van de AI Act voldoet, inclusief ontwerp, ontwikkeling, datasets en prestaties.
- Data governance
- Het geheel van procedures voor het verzamelen, beheren en controleren van trainings-, validatie- en testdata, gericht op kwaliteit, representativiteit en het beperken van bias.
- Verboden AI-praktijk
- Een AI-toepassing met onaanvaardbaar risico die op grond van artikel 5 van de AI Act sinds 2 februari 2025 niet meer is toegestaan, zoals social scoring door overheden.
- Downstream-aanbieder
- Een aanbieder die een GPAI-model van een ander integreert in zijn eigen AI-systeem en daardoor zelf verplichtingen onder de AI Act kan krijgen.
- Bias (vertekening)
- Een systematische vertekening in data of model die kan leiden tot oneerlijke of discriminerende uitkomsten voor bepaalde groepen mensen.
- Red teaming
- Het bewust testen van een AI-model op kwetsbaarheden en ongewenst gedrag (adversarial testing), verplicht voor GPAI-modellen met systeemrisico.
- EU-databank
- De openbare EU-databank waarin hoog-risico AI-systemen worden geregistreerd voordat ze op de markt worden gebracht of in gebruik worden genomen.
- Substantiële wijziging
- Een wijziging aan een AI-systeem na het in de handel brengen die niet was voorzien in de oorspronkelijke conformiteitsbeoordeling en die de naleving van de eisen aantast of het beoogde doel verandert. Wie zo'n wijziging aanbrengt, wordt zelf aanbieder.
- Beoogd doel (intended purpose)
- Het gebruik waarvoor de aanbieder een AI-systeem bestemt, zoals vastgelegd in de gebruiksaanwijzing, het reclamemateriaal en de technische documentatie. Het beoogde doel bepaalt mede het risiconiveau.
- Redelijkerwijs voorzienbaar misbruik
- Gebruik van een AI-systeem op een manier die afwijkt van het beoogde doel, maar die kan voortvloeien uit redelijkerwijs voorzienbaar menselijk gedrag of interactie met andere systemen. Moet worden meegenomen in het risicobeheersysteem.
- Veiligheidscomponent
- Een component van een product of AI-systeem die een veiligheidsfunctie vervult of waarvan het falen de gezondheid en veiligheid van personen of eigendom in gevaar brengt.
- Bijlage I
- De lijst met bestaande EU-productwetgeving (machines, medische hulpmiddelen, speelgoed, liften, voertuigen en meer). AI als veiligheidscomponent in zulke producten geldt als hoog risico.
- Bijlage III
- De lijst met acht domeinen waarin AI-toepassingen als hoog risico gelden: biometrie, kritieke infrastructuur, onderwijs, werk, essentiële diensten, rechtshandhaving, migratie en rechtsbedeling.
- Bijlage IV
- De bijlage die voorschrijft welke elementen de technische documentatie van een hoog-risico AI-systeem moet bevatten, van systeembeschrijving tot testresultaten en monitoringplan.
- EU-conformiteitsverklaring
- Het document waarin de aanbieder verklaart dat een hoog-risico AI-systeem aan alle toepasselijke eisen voldoet. Onderdeel van het technisch dossier en voorwaarde voor CE-markering.
- Geharmoniseerde norm
- Een Europese norm waarvan de referentie in het Publicatieblad is gepubliceerd. Toepassing ervan geeft een vermoeden van conformiteit met de eisen die de norm dekt.
- Gemeenschappelijke specificatie
- Een technische specificatie die de Europese Commissie kan vaststellen wanneer geharmoniseerde normen ontbreken of tekortschieten. Geeft eveneens een vermoeden van conformiteit.
- Vermoeden van conformiteit
- Het juridische uitgangspunt dat je aan een wettelijke eis voldoet zolang je een geharmoniseerde norm of gemeenschappelijke specificatie toepast die die eis dekt.
- Ernstig incident
- Een incident of storing van een AI-systeem dat leidt tot overlijden of ernstige gezondheidsschade, ernstige verstoring van kritieke infrastructuur, schending van grondrechtenverplichtingen, of ernstige schade aan eigendom of milieu.
- Gemachtigde
- Een in de EU gevestigde natuurlijke of rechtspersoon die door een aanbieder van buiten de EU schriftelijk is gemachtigd om diens verplichtingen namens hem uit te voeren.
- Importeur
- Een in de EU gevestigde partij die een AI-systeem van een aanbieder buiten de EU op de Europese markt brengt en moet controleren of de conformiteitseisen zijn vervuld.
- Distributeur
- Een partij in de toeleveringsketen, anders dan de aanbieder of importeur, die een AI-systeem op de EU-markt aanbiedt en de CE-markering en documentatie moet verifiëren.
- Testen in reële omstandigheden
- Het tijdelijk testen van een AI-systeem in een echte omgeving buiten een laboratorium, onder voorwaarden zoals geïnformeerde toestemming, toezicht en een testplan.
- Automation bias
- De neiging van mensen om automatisch te vertrouwen op de output van een geautomatiseerd systeem. De AI Act verplicht om dit risico expliciet te beheersen bij menselijk toezicht.
- Data poisoning
- Het opzettelijk manipuleren van trainingsdata om het gedrag van een AI-model te beïnvloeden. Artikel 15 vereist technische maatregelen hiertegen.
- Adversarial example
- Een input die speciaal is ontworpen om een AI-model tot een onjuiste uitkomst te verleiden, vaak met voor mensen nauwelijks waarneembare aanpassingen.
- Feedbackloop
- Een situatie waarin de output van een lerend AI-systeem terugkomt in de trainingsdata en vertekening zichzelf versterkt. Moet volgens artikel 15 worden beperkt.
- AI-testomgeving (sandbox)
- Een gecontroleerd kader van een bevoegde autoriteit waarin innovatieve AI-systemen onder toezicht kunnen worden ontwikkeld, getest en gevalideerd vóór marktintroductie.
- Code of Practice
- Een vrijwillige gedragscode, opgesteld onder begeleiding van het AI Office, waarmee aanbieders van GPAI-modellen kunnen aantonen dat zij aan hun verplichtingen voldoen.
- FLOPs
- Floating point operations: de maat voor de rekenkracht die is gebruikt om een model te trainen. Boven 10^25 FLOPs wordt bij een GPAI-model systeemrisico vermoed.
- Klachtrecht (art. 85)
- Het recht van iedere natuurlijke of rechtspersoon om bij de markttoezichthouder een klacht in te dienen over een vermoedelijke overtreding van de AI Act.
- Recht op uitleg (art. 86)
- Het recht van een persoon om van de gebruiksverantwoordelijke een duidelijke en betekenisvolle uitleg te krijgen over de rol van een hoog-risico AI-systeem in een besluit dat hem aanmerkelijk treft.
- Markttoezicht
- Het geheel van bevoegdheden waarmee autoriteiten controleren of producten op de markt aan de eisen voldoen, inclusief onderzoek, corrigerende maatregelen en het uit de handel nemen van systemen.
Veelgestelde vragen over de EU AI Act
Antwoorden op de meestgestelde vragen over de AI Act (Verordening (EU) 2024/1689). Klik op een vraag om het antwoord te lezen.
De EU AI Act (Verordening (EU) 2024/1689) is de eerste uitgebreide AI-wetgeving ter wereld. De verordening stelt geharmoniseerde regels vast voor het ontwikkelen, op de markt brengen en gebruiken van AI-systemen in de Europese Unie. Het doel is tweeledig: betrouwbare en mensgerichte AI bevorderen én tegelijkertijd de gezondheid, veiligheid en grondrechten van burgers beschermen. De wet hanteert een risicogebaseerde aanpak, waarbij strengere regels gelden naarmate een AI-systeem grotere risico's met zich meebrengt.
De AI Act richt zich op verschillende rollen in de AI-waardeketen: aanbieders (developers die AI-systemen ontwikkelen en op de markt brengen), gebruiksverantwoordelijken (deployers die AI-systemen inzetten), importeurs, distributeurs en fabrikanten die AI in hun producten integreren. Vrijwel elke organisatie die AI gebruikt of aanbiedt krijgt er dus mee te maken — van multinationals tot mkb-bedrijven en overheden.
Ja. De AI Act heeft een extraterritoriale werking. De verordening geldt ook voor aanbieders en gebruiksverantwoordelijken die buiten de EU zijn gevestigd, zodra hun AI-systeem in de EU op de markt wordt gebracht of de output ervan in de EU wordt gebruikt. Een bedrijf in bijvoorbeeld de Verenigde Staten of het Verenigd Koninkrijk dat AI-diensten aanbiedt aan Europese gebruikers, moet dus voldoen aan de relevante eisen van de AI Act.
De AI Act onderscheidt vier risiconiveaus:
- Onaanvaardbaar risico — deze AI-praktijken zijn verboden (bijvoorbeeld social scoring door overheden).
- Hoog risico — toegestaan, maar onderworpen aan strikte eisen en een conformiteitsbeoordeling.
- Beperkt risico — geldt voornamelijk transparantieverplichtingen (bijvoorbeeld bij chatbots en deepfakes).
- Minimaal risico — geen specifieke verplichtingen; het overgrote deel van AI valt hieronder.
Daarnaast gelden er aparte regels voor general-purpose AI (GPAI) modellen. Bekijk de risiconiveaus voor meer detail.
Sinds 2 februari 2025 zijn AI-systemen met onaanvaardbaar risico verboden. Het gaat onder meer om: manipulatieve technieken die schade veroorzaken, het uitbuiten van kwetsbare groepen, social scoring door overheden, ongerichte scraping van gezichtsbeelden voor herkenningsdatabanken, emotieherkenning op het werk en in het onderwijs, bepaalde vormen van biometrische categorisatie op basis van gevoelige kenmerken, en — met uitzonderingen — real-time biometrische identificatie op afstand in openbare ruimtes door rechtshandhaving.
Hoog-risico AI-systemen zijn toepassingen die een significant risico vormen voor gezondheid, veiligheid of grondrechten, zoals AI in werving, kredietbeoordeling, onderwijs, kritieke infrastructuur en rechtshandhaving. Voor deze systemen gelden onder meer de volgende verplichtingen: een risicobeheersysteem, data governance en datakwaliteit, technische documentatie, automatische logging, transparantie naar gebruikers, menselijk toezicht, en eisen rond nauwkeurigheid, robuustheid en cyberbeveiliging. Daarnaast zijn een conformiteitsbeoordeling, CE-markering en registratie in de EU-databank vereist. De meeste van deze verplichtingen gelden sinds 2 augustus 2026.
AI-systemen met beperkt risico moeten voldoen aan transparantieverplichtingen. Gebruikers moeten weten dat ze met een AI-systeem communiceren in plaats van met een mens (denk aan chatbots). AI-gegenereerde of gemanipuleerde beelden, audio en video — deepfakes — moeten als kunstmatig gegenereerd worden gelabeld. Ook bij emotieherkenning en biometrische categorisatie moeten betrokkenen worden geïnformeerd. Deze verplichtingen gelden sinds 2 augustus 2026.
Ja. Grote taalmodellen zoals die achter ChatGPT, Gemini of Claude vallen onder de regels voor general-purpose AI (GPAI). Aanbieders van GPAI-modellen moeten technische documentatie bijhouden, informatie verstrekken aan downstream-aanbieders, het auteursrecht naleven en een samenvatting van de trainingsdata publiceren. Voor zeer krachtige modellen met systeemrisico gelden extra verplichtingen, zoals modelevaluaties, adversarial testing (red teaming), het melden van ernstige incidenten en passende cyberbeveiliging. De GPAI-verplichtingen gelden sinds 2 augustus 2025.
Sinds 2 februari 2025 moeten organisaties die AI-systemen aanbieden of gebruiken zorgen voor voldoende AI-geletterdheid bij hun personeel en bij anderen die namens hen met AI werken. Dat betekent dat medewerkers voldoende kennis en vaardigheden moeten hebben om AI-systemen verantwoord in te zetten, de mogelijkheden en risico's te begrijpen en de uitkomsten kritisch te kunnen beoordelen. Het vereiste niveau hangt af van de rol, context en de groep mensen op wie de AI wordt toegepast.
De AI Act is op 1 augustus 2024 in werking getreden en is gefaseerd toegepast:
- 2 februari 2025 — verbod op AI met onaanvaardbaar risico en de AI-geletterdheidsplicht.
- 2 augustus 2025 — verplichtingen voor general-purpose AI (GPAI) en governanceregels.
- 2 augustus 2026 — het merendeel van de hoog-risico-eisen en transparantieregels is van toepassing.
- 2 augustus 2027 — verplichtingen voor hoog-risico AI in gereguleerde producten (bijlage I).
Zie de volledige tijdlijn voor alle deadlines.
De boetes zijn aanzienlijk en gekoppeld aan de ernst van de overtreding. Voor verboden AI-praktijken kan de boete oplopen tot € 35 miljoen of 7% van de wereldwijde jaaromzet (het hoogste bedrag geldt). Voor andere overtredingen van verplichtingen geldt een maximum van € 15 miljoen of 3%, en voor het verstrekken van onjuiste of misleidende informatie aan toezichthouders € 7,5 miljoen of 1%. Voor mkb-bedrijven en startups gelden proportionele, lagere plafonds.
Het toezicht is verdeeld over twee niveaus. Op EU-niveau coördineert het AI Office (onderdeel van de Europese Commissie) de handhaving en houdt het direct toezicht op GPAI-modellen. Op nationaal niveau wijzen lidstaten markttoezichtautoriteiten aan. In Nederland vervullen onder meer de Autoriteit Persoonsgegevens en de Rijksinspectie Digitale Infrastructuur (RDI) een coördinerende en toezichthoudende rol. Burgers kunnen klachten indienen bij de bevoegde autoriteit.
Een aanbieder (provider) ontwikkelt een AI-systeem — of laat dat ontwikkelen — en brengt het op de markt of stelt het in gebruik onder eigen naam of merk. Een gebruiksverantwoordelijke (deployer) zet een bestaand AI-systeem in onder eigen verantwoordelijkheid in een professionele context. Beide rollen hebben eigen verplichtingen, en een organisatie kan tegelijk aanbieder én gebruiksverantwoordelijke zijn. Wie een hoog-risico AI-systeem wezenlijk aanpast of onder eigen naam aanbiedt, kan zelf aanbieder worden. Bekijk de verplichtingen per rol.
Nee, het zijn twee verschillende verordeningen die elkaar aanvullen. De AVG (GDPR) regelt de bescherming van persoonsgegevens en geldt zodra je persoonsgegevens verwerkt. De AI Act reguleert AI-systemen op basis van het risico dat zij vormen, ongeacht of er persoonsgegevens bij betrokken zijn. In de praktijk gelden beide vaak tegelijk: een hoog-risico AI-systeem dat persoonsgegevens verwerkt, moet zowel aan de AI Act als aan de AVG voldoen.
Begin met een inventarisatie van alle AI-systemen die je organisatie ontwikkelt of gebruikt en bepaal per systeem het risiconiveau en je rol. Zorg vervolgens voor AI-geletterdheid bij je personeel, controleer of je geen verboden praktijken toepast, en richt voor hoog-risico systemen de vereiste processen in (risicobeheer, documentatie, logging, menselijk toezicht). Wijs een verantwoordelijke aan voor AI-governance en houd de deadlines in de gaten. Gebruik de risico-check en de compliance-checklist van dit Kompas als startpunt.
Bijlage I verwijst naar bestaande EU-productwetgeving zoals de Machineverordening en de MDR: AI als veiligheidscomponent in zulke producten is hoog risico, met een deadline van 2 augustus 2027. Bijlage III noemt acht toepassingsdomeinen — biometrie, kritieke infrastructuur, onderwijs, werk, essentiële diensten, rechtshandhaving, migratie en rechtsbedeling — die sinds 2 augustus 2026 onder de hoog-risico eisen vallen.
Wanneer je je naam of merk aanbrengt op een hoog-risico systeem dat al in de handel is, wanneer je het beoogde doel wijzigt waardoor het systeem hoog risico wordt, of wanneer je een substantiële wijziging aanbrengt die de conformiteit raakt. Ook wie een GPAI-model zo aanpast dat het een hoog-risico systeem wordt, geldt als aanbieder. Dat staat in artikel 25 van de AI Act.
Aanbieders van generatieve AI moeten hun output machineleesbaar markeren als kunstmatig gegenereerd. Wie een deepfake publiceert — realistisch beeld, audio of video van bestaande personen, plaatsen of gebeurtenissen — moet bekendmaken dat de content kunstmatig is. Voor artistiek, satirisch of fictief werk volstaat een vermelding die de weergave niet verstoort. Deze regels gelden sinds 2 augustus 2026.
Bij een ernstig incident meldt de aanbieder dit bij de markttoezichthouder van de lidstaat waar het plaatsvond: standaard binnen 15 dagen, binnen 10 dagen bij overlijden en binnen 2 dagen bij een wijdverbreide inbreuk of ernstige verstoring van kritieke infrastructuur. Gebruiksverantwoordelijken informeren eerst de aanbieder. Wijzig het systeem niet op een manier die het onderzoek naar de oorzaak kan belemmeren.
Slechts gedeeltelijk. AI-systemen onder een vrije en open source licentie vallen buiten de verordening, behalve wanneer het gaat om verboden praktijken, hoog-risico systemen of systemen die onder de transparantieverplichtingen vallen. Voor open GPAI-modellen vervallen bepaalde documentatie-eisen, maar het auteursrechtbeleid en de publieke samenvatting van trainingsdata blijven gelden — en bij systeemrisico vervalt de vrijstelling volledig.
Een FRIA is de grondrechteneffectbeoordeling uit artikel 27. Publiekrechtelijke instanties, private partijen die publieke diensten leveren en organisaties die hoog-risico AI gebruiken voor kredietwaardigheidsbeoordeling of voor risicobeoordeling en prijsstelling bij levens- en ziektekostenverzekeringen moeten die vóór ingebruikname uitvoeren en het resultaat melden aan de markttoezichthouder.
De technische documentatie van een hoog-risico AI-systeem moet tien jaar na het in de handel brengen of in gebruik nemen beschikbaar blijven voor de nationale autoriteiten. Automatisch gegenereerde logs bewaart de gebruiksverantwoordelijke minimaal zes maanden, tenzij andere wetgeving een langere termijn voorschrijft.
Als beide verplichtingen gelden wel. Een DPIA volgt uit de AVG en kijkt naar risico's van de gegevensverwerking; een FRIA volgt uit de AI Act en kijkt naar gevolgen voor grondrechten van de personen die door het systeem worden geraakt. De AI Act staat toe dat de FRIA voortbouwt op een bestaande DPIA, zodat je alleen de ontbrekende onderdelen aanvult.
Geharmoniseerde normen zijn Europese normen waarvan de referentie in het Publicatieblad is gepubliceerd. Ze zijn nooit verplicht, maar wie ze toepast krijgt een vermoeden van conformiteit met de eisen die de norm dekt. CEN-CENELEC JTC 21 ontwikkelt de AI-normen; ISO/IEC 42001 sluit inhoudelijk goed aan bij het kwaliteitsmanagementsysteem van artikel 17.
Aanbieders van hoog-risico systemen uit bijlage III registreren zichzelf en het systeem in de EU-databank vóór het in de handel brengen of in gebruik nemen — ook wanneer zij op grond van artikel 6 lid 3 concluderen dat er geen hoog risico is. Overheidsinstanties die zo'n systeem gebruiken, registreren zich als gebruiksverantwoordelijke. Voor rechtshandhaving en migratie geldt een beveiligd, niet-openbaar deel van de databank.
Naast de informatieplicht van artikel 26 lid 7 AI Act geldt in Nederland het instemmingsrecht van artikel 27 WOR. Regelingen op het gebied van aanstellings-, beoordelings- en ontslagbeleid en voorzieningen voor controle op aanwezigheid, gedrag of prestaties vergen instemming van de ondernemingsraad. Een AI-selectietool of monitoringsysteem valt daar doorgaans onder.
Prestatie- en gedragsmonitoring met AI is hoog risico onder bijlage III en moet aan alle bijbehorende eisen voldoen. Emotieherkenning op de werkvloer is verboden, behalve om medische of veiligheidsredenen. Daarnaast stelt de AVG eisen aan proportionaliteit en subsidiariteit en is doorgaans instemming van de ondernemingsraad vereist.
Meer verdieping per onderwerp
Staat je vraag er niet bij? In onze kennisbank met 40 artikelen gaan we per onderwerp de diepte in — van de complete samenvatting en bijlage III tot inkoopcontracten, incidentmeldingen en sectorale gidsen voor zorg, onderwijs, financiële dienstverlening, overheid en marketing.