Wat betekent de AI Act voor bedrijven? Risico's en plichten
De Europese AI Act stelt regels aan AI-systemen op basis van hun toepassing en het risico dat ze voor mensen en hun rechten opleveren. Na het lezen weet je welke risicocategorieën er zijn, welke verplichtingen daarbij kunnen horen en welke vragen je organisatie aan zichzelf en leveranciers moet stellen.
De AI Act geldt voor meer bedrijven dan alleen AI-ontwikkelaars
De Europese AI Act is een verordening voor AI-systemen die in de EU worden aangeboden of gebruikt. De regels raken daardoor niet alleen bedrijven die zelf modellen trainen. Ook een organisatie die een externe AI-dienst inzet voor klantenservice, personeelsselectie, documentverwerking of productaanbevelingen kan verplichtingen hebben. De precieze rol hangt af van wat de organisatie met het systeem doet en hoe het wordt aangeboden.
De wet maakt onder meer onderscheid tussen aanbieders en gebruiksverantwoordelijken. Een aanbieder ontwikkelt een AI-systeem, laat het ontwikkelen of brengt het onder eigen naam op de markt. Een gebruiksverantwoordelijke zet een systeem in onder eigen verantwoordelijkheid, bijvoorbeeld door een AI-tool te gebruiken om sollicitaties te rangschikken. In sommige situaties kan een bedrijf dat een bestaand systeem ingrijpend aanpast of voor een ander doel inzet, aanvullende verantwoordelijkheden krijgen.
Begin daarom niet met de vraag of je bedrijf “AI maakt”, maar inventariseer waar AI beslissingen voorbereidt, inhoud genereert of processen beïnvloedt. Een standaardfunctie in software kan ook AI bevatten. Vraag leveranciers welke functionaliteit actief is, welk beoogd doel zij eraan geven en wie volgens de wet de aanbieder is. Leg ook vast wie intern eigenaar is van het gebruik. Zonder dat overzicht is het lastig om te bepalen welke regels gelden en wie actie moet ondernemen.
De vier risicocategorieën bepalen welke AI-regels gelden
De AI Act werkt met een risicogebaseerde aanpak. Dat betekent niet dat elk AI-systeem dezelfde certificering of documentatie nodig heeft. De wet onderscheidt verboden toepassingen, hoog-risicosystemen, systemen met specifieke transparantieverplichtingen en toepassingen met een laag of minimaal risico. De indeling hangt vooral af van het beoogde doel en de manier waarop een systeem in de praktijk wordt gebruikt, niet alleen van de techniek erachter.
Een toepassing met minimaal risico, zoals een interne tool die tekst samenvat zonder invloed op belangrijke rechten, valt doorgaans niet onder de zware eisen voor hoog risico. Dat betekent niet dat privacy-, auteursrecht- of consumentenregels verdwijnen. Bij beperkte risico’s kan transparantie vereist zijn: mensen moeten bijvoorbeeld weten dat ze met een chatbot communiceren of dat bepaalde inhoud kunstmatig is gegenereerd. Hoogrisicosystemen krijgen veel uitgebreidere eisen rond onder meer risicobeheer, data, documentatie en menselijk toezicht.
Aan de andere kant staan verboden praktijken, zoals bepaalde vormen van manipulatie of sociale scoring. Die kunnen niet worden gelegitimeerd door een goede menselijke controle achteraf. Controleer de wettelijke omschrijving en uitzonderingen zorgvuldig voordat je een systeem als verboden of toegestaan bestempelt. Maak voor iedere toepassing een korte onderbouwing: wat doet het systeem, wie wordt geraakt, wat is het beoogde doel en welke categorie past daarbij? Herzie die beoordeling als doel, gebruikers of functionaliteit veranderen.
Wanneer AI-gebruik op het werk als hoog risico kan gelden
Hoog risico betekent niet simpelweg dat een systeem ingewikkeld is of fouten kan maken. De AI Act noemt specifieke gebieden waarin AI grote gevolgen kan hebben voor veiligheid, toegang tot diensten of fundamentele rechten. Voor bedrijven zijn onder meer bepaalde toepassingen in werkgelegenheid relevant. Denk aan AI die sollicitaties filtert, kandidaten beoordeelt, promoties of ontslag ondersteunt, prestaties monitort of werk toewijst op basis van individueel gedrag of kenmerken.
Een hulpmiddel dat alleen een vacaturetekst herschrijft, is niet automatisch hoog risico omdat het bij werving wordt gebruikt. Een systeem dat kandidaten rangschikt of een aanbeveling geeft die de selectie beïnvloedt, kan dat wel zijn. Het onderscheid zit dus in de functie en invloed van de AI-uitkomst. Een organisatie moet beoordelen of het systeem onder een categorie in de wet valt en of een eventuele uitzondering daadwerkelijk van toepassing is. Een leverancier die een product “ondersteunend” noemt, neemt die beoordeling niet vanzelf van de gebruiker over.
Breng per toepassing in kaart welke beslissing ermee wordt voorbereid, hoeveel gewicht de uitvoer krijgt en of een medewerker die uitvoer in de praktijk kan negeren. Kijk ook naar indirecte effecten: kandidaten kunnen bijvoorbeeld worden uitgesloten voordat een recruiter hun dossier ziet. Vraag de leverancier naar het beoogde doel, de relevante classificatie en de grenzen van het systeem. Bewaar de reden voor je eigen indeling. Een onjuiste classificatie kan ertoe leiden dat noodzakelijke waarborgen ontbreken, terwijl een te brede classificatie onnodige processen en kosten oplevert.
Verboden AI-praktijken vragen om een andere controle dan risicobeperking
Voor sommige toepassingen is de hoofdvraag niet hoe je risico’s kunt verkleinen, maar of je het systeem überhaupt mag gebruiken. De AI Act verbiedt bepaalde praktijken, waaronder specifieke vormen van manipulatie of misbruik van kwetsbaarheden, bepaalde vormen van sociale scoring en bepaalde toepassingen van biometrische categorisering. De wet bevat ook regels rond biometrische identificatie op afstand, met uitzonderingen en voorwaarden die afhankelijk zijn van de context. De precieze wettelijke omschrijving is daarbij doorslaggevend.
Een veelgemaakte fout is dat een organisatie een verboden toepassing probeert te beheersen met een menselijke controle, een disclaimer of een nauwkeurigheidsmeting. Zulke maatregelen maken een verboden gebruik niet automatisch toegestaan. Een andere valkuil is dat een functie in een leverancierspakket ongemerkt wordt ingeschakeld. Denk aan automatische emotie-inferentie of het koppelen van gegevens voor een doel waarvoor ze niet zijn verzameld. De naam van een functie zegt bovendien niet altijd genoeg: onderzoek wat het systeem daadwerkelijk afleidt en hoe die uitvoer wordt gebruikt.
Neem verboden toepassingen daarom op in inkoop- en beveiligingscontroles. Vraag leveranciers welke biometrische, gedragsmatige of profileringstechnieken de software gebruikt, welke functies standaard aanstaan en hoe uitschakeling wordt bevestigd. Laat productteams nieuwe toepassingen vooraf toetsen, vooral wanneer zij werknemers, klanten of andere kwetsbare groepen raken. Als de leverancier geen duidelijke uitleg geeft over een relevante functie, is dat geen bewijs dat er geen risico bestaat. Het is een reden om gebruik te pauzeren totdat de organisatie voldoende zicht heeft.
Wat hoogrisico-AI vraagt van aanbieders en gebruiksverantwoordelijken
Voor hoogrisico-AI legt de AI Act uitgebreide verplichtingen op. Aanbieders moeten onder meer een risicobeheersysteem inrichten, passende datagovernance toepassen, technische documentatie opstellen en zorgen voor logging, nauwkeurigheid, robuustheid en cyberbeveiliging. Ook kunnen conformiteitsbeoordeling, registratie en een kwaliteitsmanagementsysteem vereist zijn. Welke procedure geldt, hangt af van de categorie en de relatie met andere Europese productregels. Dit is dus geen checklist die voor elk systeem precies hetzelfde uitpakt.
Gebruiksverantwoordelijken hebben eveneens werk te doen. Zij moeten het systeem gebruiken volgens de instructies, zorgen voor passend menselijk toezicht, bewaken dat de gebruikte invoergegevens relevant zijn voor het doel en logs bewaren waar de wet dat voorschrijft. Ook moeten zij de werking monitoren en bij bepaalde ernstige risico’s of incidenten passende stappen zetten. Een leverancier kan documentatie en hulpmiddelen leveren, maar de organisatie blijft verantwoordelijk voor de keuzes en omstandigheden van het eigen gebruik.
Maak de taakverdeling concreet in contracten en interne procedures. Leg vast wie wijzigingen meldt, wie incidenten onderzoekt, hoe snel informatie wordt gedeeld en welke ondersteuning beschikbaar is voor audits. Vraag niet alleen om een algemene verklaring dat een product “AI Act compliant” is. Vraag om bewijs dat past bij de toepassing: de bedoelde gebruiksgrenzen, technische instructies, relevante testinformatie en de rol van de leverancier. Een contract dat aansprakelijkheid verdeelt zonder toegang tot noodzakelijke informatie lost het operationele probleem niet op.
Controleer AI-leveranciers op doel, data en wijzigingsbeheer
Een leverancier kan een AI-tool voor een bepaald doel hebben ontworpen, terwijl een afnemer die voor iets anders inzet. Dat verschil is belangrijk: de classificatie en waarborgen hangen samen met het beoogde doel. Een generieke tekstassistent die intern concepten schrijft, is niet hetzelfde als een systeem dat automatisch kredietaanvragen beoordeelt of werknemers selecteert. Vraag daarom welke toepassingen de leverancier ondersteunt, welke toepassingen uitgesloten zijn en welke aannames achter zijn risicobeoordeling zitten.
Onderzoek ook hoe de dienst met gegevens omgaat. Worden prompts of documenten gebruikt om modellen verder te trainen? Waar worden gegevens verwerkt en hoe lang bewaard? Kan de leverancier onderaannemers of modelproviders wijzigen? Een antwoord op die vragen is niet uitsluitend een AI Act-vraagstuk: privacy, vertrouwelijkheid, intellectueel eigendom en informatiebeveiliging kunnen eveneens meespelen. Laat termen als “geen training” of “enterprise-grade” concreet maken in contractuele afspraken en technische instellingen.
AI-diensten veranderen regelmatig. Een nieuw model, andere standaardinstellingen of een toegevoegde functie kan de prestaties en risico’s wijzigen, ook als je eigen workflow hetzelfde blijft. Spreek daarom af hoe de leverancier wijzigingen aankondigt, welke testresultaten beschikbaar komen en hoe je een update kunt weigeren of terugdraaien. Beoordeel bovendien wat er gebeurt als de leverancier stopt met een model of de dienst niet beschikbaar is. Zonder versiebeheer en een herstelplan kan een organisatie niet goed verklaren welke AI-uitvoer tot een beslissing heeft geleid.
Transparantie bij chatbots, synthetische inhoud en AI-interactie
Bij sommige AI-toepassingen moeten mensen geïnformeerd worden dat zij met AI te maken hebben of dat inhoud kunstmatig is gegenereerd of gemanipuleerd. De precieze verplichting verschilt per toepassing. Een chatbot die klanten helpt, moet bijvoorbeeld niet doen alsof de gebruiker met een mens spreekt. Bij synthetische audio, beeld of video kunnen herkenbaarheid en openbaarmaking relevant zijn, met wettelijke uitzonderingen en aanvullende regels afhankelijk van het soort inhoud en gebruik.
Transparantie is meer dan een voetnoot in algemene voorwaarden. De informatie moet op het moment en de plek worden gegeven waar mensen haar kunnen begrijpen en gebruiken. Een korte melding bij het begin van een gesprek werkt vaak beter dan een lange juridische tekst op een andere pagina. Bij gegenereerde productinformatie kan het belangrijker zijn dat medewerkers de inhoud controleren op feitelijke claims dan dat elke klant een technisch label ziet. Kies dus een vorm die past bij het risico en de wettelijke eis.
Verwar een transparantiemelding niet met toestemming of met bewijs dat een systeem veilig is. Een klant kan weten dat hij met AI praat en toch misleidende of onjuiste informatie krijgen. Bepaal vooraf wie de melding opstelt, hoe die wordt aangepast bij nieuwe functies en hoe klachten worden opgevolgd. Test met echte gebruikers of zij begrijpen wat AI doet, wat het niet kan en hoe zij een medewerker bereiken. Let ook op interfaces waarin AI-uitvoer zo stellig wordt gepresenteerd dat de melding in de praktijk weinig betekenis heeft.
Menselijk toezicht moet echte invloed hebben op AI-besluiten
De AI Act verlangt bij hoogrisicosystemen passend menselijk toezicht. Dat betekent niet automatisch dat een medewerker iedere uitvoer handmatig moet goedkeuren. Het betekent wel dat toezicht zo moet zijn ingericht dat mensen het systeem kunnen begrijpen, verkeerd gebruik kunnen herkennen en zo nodig kunnen ingrijpen. Een medewerker moet weten wat de beperkingen zijn, welke signalen op fouten wijzen en hoe een besluit kan worden teruggedraaid of buiten het systeem om kan worden genomen.
Een formele goedkeuringsknop is geen betekenisvolle controle als medewerkers honderden aanbevelingen per uur moeten afhandelen of geen toegang hebben tot onderliggende informatie. Dit automatiseringsbias-risico ontstaat wanneer mensen AI-uitkomsten te gemakkelijk volgen, zeker als de interface een score zonder onzekerheid of context toont. Andersom kan toezicht ook te zwaar worden: verplichte handmatige beoordeling van elke laag-risico-uitvoer vertraagt werk en maakt medewerkers minder alert op gevallen die er echt toe doen.
Ontwerp toezicht daarom op basis van gevolgen en uitzonderingen. Laat medewerkers bijvoorbeeld extra controleren bij lage betrouwbaarheid, ontbrekende gegevens of een uitkomst met grote impact. Geef hun toegang tot relevante invoer, uitleg over bekende beperkingen en een route om fouten te melden. Oefen met realistische voorbeelden, waaronder gevallen waarin het systeem overtuigend maar onjuist antwoordt. Meet niet alleen hoeveel mensen op “afwijzen” klikken, maar ook of zij voldoende tijd, bevoegdheid en informatie hadden om zelfstandig te oordelen.
AI-geletterdheid, documentatie en logging in de dagelijkse praktijk
Organisaties die AI-systemen aanbieden of gebruiken moeten aandacht besteden aan AI-geletterdheid van betrokken medewerkers. Dat vraagt om meer dan een algemene presentatie over generatieve AI. Training moet aansluiten op de rol: een inkoper moet leveranciersclaims kunnen beoordelen, een klantenservicemedewerker moet AI-fouten herkennen en een proceseigenaar moet weten wanneer gebruik opnieuw juridisch of inhoudelijk moet worden getoetst. De benodigde kennis hangt af van ervaring, context en de mensen die door de toepassing worden geraakt.
Documentatie maakt die kennis bruikbaar wanneer mensen wisselen of een incident plaatsvindt. Leg per toepassing vast wat het systeem doet, welk doel is toegestaan, welke gegevens erin gaan, wie verantwoordelijk is en welke controle plaatsvindt. Noteer de versie van het model of de dienst, relevante instellingen en belangrijke wijzigingen. Bij systemen waarvoor logging verplicht is, moet je bovendien nagaan of de logs daadwerkelijk beschikbaar, begrijpelijk en lang genoeg bewaard zijn. Bewaar niet meer persoonsgegevens dan nodig; bewaartermijnen en toegang moeten passen bij privacyregels en het doel van de registratie.
Een spreadsheet kan voor een kleine inventarisatie volstaan, maar wordt onbetrouwbaar als niemand eigenaar is van actualisatie. Koppel daarom wijzigingen in software-inkoop, processen en gegevensstromen aan een beoordelingsmoment. Controleer steekproefsgewijs of de praktijk overeenkomt met de vastgelegde procedure. Vaak blijkt dat medewerkers een openbare chatbot gebruiken buiten het goedgekeurde proces, of dat een workflow gegevens doorstuurt die niet in de oorspronkelijke beoordeling stonden. Die afwijkingen zijn relevante signalen, geen reden om uitsluitend het formulier bij te werken.
Zo beoordeel je AI-toepassingen vóór en na ingebruikname
Een bruikbare beoordeling begint met een inventarisatie van toepassingen, niet met een lijst merknamen. Beschrijf per toepassing het doel, de betrokken personen, de gegevensstromen en de rol van AI in het proces. Stel vervolgens vragen als: beïnvloedt de uitvoer toegang tot werk, onderwijs, krediet of essentiële diensten? Wordt een persoon geprofileerd of biometrisch geanalyseerd? Kan de gebruiker de uitkomst betwisten? Welke menselijke controle bestaat er echt? Met zulke vragen kun je bepalen welke wettelijke categorie nader onderzoek vraagt.
Beoordeel daarna de hele keten: het model, de leverancier, de gebruikersinterface en het proces waarin de uitvoer terechtkomt. Een op zichzelf beperkte tekstsuggestie kan risicovoller worden wanneer een workflow die tekst automatisch naar klanten verstuurt of gebruikt om aanvragen af te wijzen. Test het systeem met representatieve voorbeelden, afwijkende invoer en gevallen waarin fouten extra schadelijk zijn. Betrek medewerkers die het werk uitvoeren en mensen die de uitkomst ondervinden; zij zien vaak problemen die in een demonstratie ontbreken.
Na ingebruikname zijn monitoring en herbeoordeling nodig. Houd bij of foutpercentages, klachten of handmatige correcties veranderen en onderzoek onverwachte patronen tussen groepen. Stel vooraf drempels vast voor pauzeren, terugschakelen naar een handmatig proces of escaleren naar de leverancier. Heropen de beoordeling bij een nieuw doel, een andere gegevensbron, een modelupdate of een verandering in regelgeving. Een systeem dat vandaag passend is ingericht, kan door gewijzigde context morgen andere risico’s opleveren.
Veelgestelde vragen
Wanneer gelden de verplichtingen uit de Europese AI Act?
De verplichtingen uit de AI Act gelden gefaseerd, afhankelijk van het type regel en het AI-systeem. De regels over AI-geletterdheid en verboden praktijken gelden sinds 2 februari 2025. De verplichtingen voor aanbieders van modellen voor algemene doeleinden gelden sinds 2 augustus 2025. De meeste overige regels zijn van toepassing sinds 2 augustus 2026; voor bepaalde hoogrisicosystemen die onderdeel zijn van gereguleerde producten geldt 2 augustus 2027.
Voor bestaande systemen kunnen overgangsregels gelden. Zo kan een belangrijke wijziging in het ontwerp invloed hebben op de vraag of een systeem alsnog aan nieuwe eisen moet voldoen. Controleer daarom niet alleen wanneer een tool is aangeschaft, maar ook wanneer deze op de markt is gebracht, hoe hij sindsdien is aangepast en welke categorie regels erop van toepassing is.
Moet een bedrijf medewerkers opleiden over AI-gebruik?
Ja, organisaties die AI-systemen aanbieden of gebruiken moeten passende maatregelen nemen om te zorgen voor voldoende AI-geletterdheid bij medewerkers en andere betrokkenen. Dat betekent dat mensen die met AI werken genoeg kennis en inzicht moeten hebben om het systeem verantwoord te gebruiken en de mogelijkheden en beperkingen ervan te begrijpen.
De wet schrijft geen vast cursusprogramma of verplicht certificaat voor. Wat passend is, hangt onder meer af van de ervaring van medewerkers, het soort systeem en de gevolgen van het gebruik. Een medewerker die AI inzet voor tekstsuggesties heeft mogelijk andere uitleg nodig dan iemand die AI-uitkomsten gebruikt bij personeelsselectie. Leg vast welke instructies of trainingen zijn gegeven en houd rekening met veranderingen in systemen en werkwijzen.
Vervangt de AI Act de AVG als een bedrijf AI gebruikt?
Nee, de AI Act vervangt de AVG niet; beide wetten kunnen tegelijk van toepassing zijn op hetzelfde AI-gebruik. De AI Act stelt eisen aan AI-systemen en de manier waarop ze worden ingezet, terwijl de AVG regels bevat voor het verwerken van persoonsgegevens, zoals het doel van de verwerking, de rechtsgrond en de rechten van betrokkenen.
Beoordeel daarom afzonderlijk of een gegevensbeschermingseffectbeoordeling (DPIA) nodig is. Dat kan onder de AVG verplicht zijn wanneer een verwerking waarschijnlijk een hoog privacyrisico oplevert. Voor bepaalde hoogrisicotoepassingen verlangt de AI Act daarnaast een beoordeling van de gevolgen voor grondrechten. Die verplichting geldt niet automatisch voor ieder bedrijf of ieder hoogrisicosysteem. Leg de uitkomsten van beide beoordelingen waar nodig op elkaar aan.
Welke boetes kan een bedrijf krijgen bij overtreding van de AI Act?
Een bedrijf kan bij overtreding van de AI Act een boete krijgen van maximaal €35 miljoen of 7% van de wereldwijde jaaromzet, afhankelijk van welk bedrag hoger is. Dit maximum geldt voor bepaalde ernstige overtredingen, zoals het gebruik van verboden AI-praktijken. Voor andere overtredingen kunnen maxima gelden van €15 miljoen of 3% van de omzet; voor het verstrekken van onjuiste of onvolledige informatie gelden lagere maxima.
Het maximale bedrag wordt niet automatisch opgelegd. De toezichthouder kijkt onder meer naar de ernst en duur van de overtreding, de gevolgen ervan, eventuele eerdere overtredingen en de medewerking van de organisatie. Voor kleinere bedrijven en start-ups gelden in bepaalde gevallen aangepaste maxima. Goede documentatie en tijdige opvolging van problemen kunnen helpen om aan te tonen hoe de organisatie haar verplichtingen heeft nageleefd.
Mogen medewerkers ChatGPT of andere openbare AI-tools gebruiken met bedrijfsinformatie?
Medewerkers mogen openbare AI-tools niet zonder meer gebruiken voor bedrijfsinformatie; de organisatie moet eerst beoordelen welke gegevens en tools daarvoor geschikt zijn. Het gebruik kan risico’s opleveren voor persoonsgegevens, vertrouwelijke informatie, beveiliging en intellectueel eigendom. Of invoer wordt opgeslagen of gebruikt om modellen te verbeteren, hangt af van de dienst, de instellingen en de contractvoorwaarden.
Maak daarom duidelijke afspraken over welke toepassingen zijn toegestaan en welke informatie nooit in een openbare tool mag worden ingevoerd. Denk aan klantgegevens, personeelsdossiers, broncode en bedrijfsgeheimen. Bied waar nodig een goedgekeurd alternatief en leg uit hoe medewerkers AI-uitvoer moeten controleren voordat zij die delen of gebruiken voor beslissingen. Evalueer de afspraken opnieuw wanneer de tool, de instellingen of het gebruik verandert.