Wat betekent de AI Act voor bedrijven? Risico's en plichten
De Europese AI Act stelt regels aan AI-systemen op basis van hun toepassing en het risico dat ze voor mensen en hun rechten opleveren. Na het lezen weet je welke risicocategorieën er zijn, welke verplichtingen daarbij kunnen horen en welke vragen je organisatie aan zichzelf en leveranciers moet stellen.
De AI Act geldt voor veel meer bedrijven dan alleen ontwikkelaars
De Europese AI Act draait niet alleen om bedrijven die zelf AI-modellen bouwen. Zodra je een AI-systeem in de EU aanbiedt of gebruikt, val je onder deze regels. Je hoeft dus geen eigen machine learning te trainen om mee te tellen. Gebruik je externe AI in je klantenservice, selectieprocedure, documentherkenning of voor productadviezen? Ook dan kun je onder de wet vallen. Het maakt uit wat je met zo'n systeem doet, hoe je het in de praktijk inzet en wie het officieel onder zijn naam aanbiedt.
In de wet zijn rollen afgebakend: een aanbieder (die ontwikkelt, inkoopt of het systeem zelf verkoopt) en een gebruiksverantwoordelijke (die AI inzet en daar verantwoordelijkheid voor neemt). Jij kunt zo'n gebruiksverantwoordelijke zijn als je bijvoorbeeld een AI-tool gebruikt om sollicitanten te rangschikken. Pas je een bestaand AI-systeem flink aan of zet je het in voor een heel ander doel dan eerst? Dan schuiven je verplichtingen mogelijk op.
Dus kijk verder dan de vraag of je bedrijf "AI maakt". Ga na: waar bereidt AI besluiten in je organisatie voor? Waar wordt inhoud automatisch gegenereerd, of processen gestuurd? Zo'n functie kan verstopt zitten in standaardsoftware. Vraag leveranciers: welke AI zit erin, wat is de bedoeling, en wie wordt wettelijk als aanbieder gezien? Vraag intern ook wie verantwoordelijk is voor welk gebruik. Zonder helder overzicht weet je niet voor welke systemen de wet geldt, of wie in actie moet komen.
Welke regels op je AI van toepassing zijn hangt af van vier risicocategorieën
De AI Act deelt systemen in volgens een risico-inschaling. Niet iedere AI-toepassing krijgt dezelfde papierwinkel of controles. Sommige zijn verboden. Andere gelden als hoog risico. Dan heb je nog systemen waarvoor een transparantieplicht geldt. De rest valt in het lage- of minimaal-risico-vak. Die indeling hangt vooral af van waarvoor je een AI inzet en hoe je die gebruikt, niet alleen van hoe ingewikkeld de techniek is.
Een interne tool die alleen teksten samenvat, zonder invloed op iemands rechten, valt niet onder de strengste eisen. Maar let op: privacy, auteursrecht, consumentenbescherming blijven gelden. Bij laag risico kan het zijn dat je moet laten weten dat iemand bijvoorbeeld met een chatbot praat of dat iets automatisch gemaakt is. Kom je bij hoogrisico uit, dan krijg je eisen rond onder meer risicomanagement, data, documentatie en menselijk toezicht voor je kiezen.
Verboden toepassingen, zoals geavanceerde manipulatie of sociale scoring, zijn er ook. Achteraf controleren met menselijke tussenkomst maakt zo'n systeem niet alsnog oké. Check zelf de precieze wettelijke omschrijving en mogelijke uitzonderingen voordat je ergens een stempel op zet. Formuleer per toepassing: wat doet het systeem, voor wie, wat is het doel, en wat is de categorie? Komt de functie of manier van inzet later anders te liggen? Herbekijk je indeling dan opnieuw.
Zo kijk je bij AI op de werkvloer of het systeem tot hoog risico hoort
Hoog risico zit niet in hoeveel techniek of kans op fouten, maar waar AI grote impact heeft op veiligheid, toegang tot diensten of basisrechten. Werkvloer? Dan kan het bijvoorbeeld gaan om AI die sollicitaties filtert, scores geeft voor promoties, ontslag adviseert, prestaties volgt of werk toewijst afhankelijk van het gedrag.
Herschrijft de AI alleen vacatureteksten, dan is het systeem vaak geen hoog risico. Maar zet je AI in om sollicitanten echt te rangschikken of uit te sluiten, dan valt het meestal wel in het zware regime. Waar de grens ligt: wat doet de AI precies, hoeveel weegt zijn advies uiteindelijk mee? Aanbieder zegt "ondersteunend", maar je moet zélf in de wet kijken onder welk artikel het systeem valt en of er een uitzondering is.
Dus: per toepassing uitzoeken welke besluiten de AI voorbereidt, hoe belangrijk de uitkomst is, en of een mens de AI daadwerkelijk kan overrulen. Let op indirecte effecten; soms vallen kandidaten al weg zonder ze gezien te hebben. Vraag leveranciers naar hun inschaling, bedoeling en systeemgrenzen. Bewaar jouw eigen redenatie goed. Te ruim inschalen is lastig; te smal kan risicovolle gaten opleveren.
Voor verboden AI-functies is een andere manier van controleren nodig
Tegen sommige AI-toepassingen is geen toezicht of controle opgetast: je mag het simpelweg niet doen. De AI Act verbiedt een rijtje praktijken: manipulatie via AI, misbruik van kwetsbaarheid, sociale scoring, en sommige biometrische praktijken. Regels over identificatie op afstand zijn behoorlijk specifiek en hangen af van situatie en inhoud. Alleen de letter van de wet zegt wat hier mag en wat niet.
Toch proberen bedrijven soms een verboden systeem "veilig" te maken met menselijke controle, een extra scherm of nauwkeurigheidsrapport. Maar een verbod kun je niet wegpoetsen met een knoppendruk. Soms kom je een functie tegen die in software van de leverancier per ongeluk aanstaat, zonder dat je dat doorhad (denk: ongeziene emotieherkenning, of profileren met data die daarvoor niet zijn bedoeld). Vertrouw nooit alleen op de naam van een functie: zoek uit wat het systeem precies doet, en wat je daarmee vervolgens in je organisatie doet.
Zet verboden functionaliteiten in je inkoop- en beveiligingschecks. Vraag leveranciers naar gebruikte biometrie, gedragsanalyses of standaardprofielen. Vraag specifiek naar mogelijkheden om features uit te zetten, en bewijs van uitschakeling. Laat toepassingen die kwetsbare groepen (zoals medewerkers of klanten) raken, vóór ingebruikname checken. Geen uitleg van leverancier? Dan niet zomaar ervan uitgaan dat jij veilig bent. Soms betekent dit gewoon: stoppen tot je een antwoord krijgt.
Aanbieders én gebruikers van hoogrisico-AI krijgen uitgebreide wettelijke plichten
Heb je te maken met hoogrisico-AI, dan krijg je als aanbieder (ofwel: leverancier) een waslijst aan eisen. Denk aan een werkend risicomanagement, regelen databeheer, documentatie schrijven, logging op orde, zorgen voor voldoende nauwkeurigheid, stabiliteit en beveiliging tegen cyberincidenten. Soms hoort daar een officiële beoordeling van een externe partij bij, registratie of een kwaliteitsbeheersysteem. Hoe de procedure precies loopt, hangt af van het systeemtype en of er nog aparte productregels gelden.
Gebruiksverantwoordelijken moeten het systeem dan gebruiken volgens de instructies, toezicht goed regelen, controleren of ingevoerde data voor het juiste doel worden ingezet, verplicht logs bijhouden, en het gebruik blijven monitoren. Ernstige incidenten? Dan moet je misschien melden of direct actie nemen. Documentatie en uitleg van een leverancier zijn handig, maar als gebruiker blijf jij ervoor staan hoe, waarvoor en wanneer het systeem in jouw workflow draait.
Spreek rollen en taken vast af in je contracten. Denk aan: wie rapporteert aanpassingen, onderzoekt incidenten, deelt informatie of ondersteunt een audit? Vraag niet alleen om het label “AI Act compliant”, maar bewijs afgestemd op jouw toepassing, dus: waar mag de tool voor, wat zijn de grenzen, wat zijn testresultaten, en wat is de rolverdeling? Een aansprakelijkheidsclausule is zinloos zonder goede toegang tot praktische info.
Vraag leveranciers niet alleen naar techniek, maar ook naar doel en veranderingen
Jouw doel kan zwaar meewegen: als je een teksttool inzet om sollicitaties te beoordelen, valt het systeem potentieel in een andere risicocategorie dan wanneer je die alleen gebruikt voor conceptteksten of samenvattingen intern. Vraag leveranciers altijd: voor welke doelen hebben jullie deze dienst zelf onderzocht? Welke toepassingen raden jullie juist af? En hoe beoordelen jullie het risico?
Zorg dat je weet wat er met data gebeurt. Worden invoer (prompts), teksten of bijlagen voor training of andere modellen gebruikt? Waar draaien servers? Hoe lang wordt iets bewaard? Mag de leverancier zomaar van onderaannemer, cloudprovider of model wisselen? Dit zijn privacy- en beveiligingsvragen, niet alleen AI-wettelijk, maar je wilt concrete antwoorden. “Niet trainen” of “geschikt voor bedrijven”, dit moet zwart op wit in contract of instellingen staan, niet op een foldertje.
AI-tools veranderen nogal eens. Een nieuwe standaardinstelling, extra functie of geüpdatet model kan het risico verhogen, ook al blijft jouw workflow gelijk. Maak afspraken over meldingen bij updates, testinformatie en de mogelijkheid om een versie terug te zetten. Bespreek: wat als de dienst stopt, of de leverancier een onderdeel intrekt? Zonder versiebeheer kun je niet meer aantonen welke uitkomst leidde tot een beslissing. Je raakt dan snel zicht kwijt.
Wat je moet weten over transparantie bij chatbots, AI-inhoud en interactie
Voor sommige AI-toepassingen moeten mensen weten dat ze met een AI-systeem communiceren, of dat een tekst, afbeelding, video of audio kunstmatig is gemaakt of aangepast. Wat precies verplicht is, wisselt per functie. Een chatbot mag bijvoorbeeld niet doen alsof je met een mens praat. Bij synthetische stemmen of beelden geldt soms ook een plicht tot herkenbaarheid, maar met uitzonderingen afhankelijk van inhoud en context.
Transparantie is niet iets dat je snel ergens in een privacy- of gebruiksvoorwaarden propt. Geef die informatie bij het juiste moment en de juiste plek in het proces. Eén korte melding aan het begin van een gesprek werkt vaak beter dan een algemene zinsnede diep in een document. Gaat het om automatisch gegenereerde productinformatie? Soms is het zinvoller om medewerkers te laten checken of alles feitelijk klopt, dan om klanten met technische labels te overladen. Je moet dus een aanpak kiezen die recht doet aan risico en wettelijke bepaling.
Let op: een transparantiemelding is géén vervanging voor toestemming of een “veiligheidskeurmerk”. Dat iemand weet dat hij met AI spreekt, wil niet zeggen dat de informatie verder klopt. Regel wie de meldingen opstelt, wie ze aanpast bij nieuwe functionaliteit en wie klachten opvolgt. Test meldingen met echte gebruikers, begrijpen zij daadwerkelijk wat AI doet, wat het niet kan en hoe ze een medewerker bereiken bij twijfel? Pas op voor interfaces waarbij de AI zo “geruststellend” presenteert dat niemand het waarschuwingstekstje meer leest.
Menselijk toezicht moet feitelijk verschil maken in AI-besluiten
De AI Act vraagt bij hoog risico dat er mensen meekijken bij de uitkomsten van AI. Maar dat hoeft niet altijd per se door alles met de hand goed te keuren. Belangrijk is dat mensen kunnen snappen wat het systeem doet, kunnen ingrijpen als het misgaat en genoeg uitleg krijgen. Medewerkers moeten de grenzen kennen, weten welke fouten te verwachten zijn en hoe je een foutcorrigeert of een resultaat terzijde schuift.
Alleen een goedkeuringsknop toevoegen is weinig waard als iemand, onder tijdsdruk, honderden AI-adviezen zonder zicht op context moet doorloppen. Automatiseringsbias ligt dan op de loer (dat noemen mensen soms het “Meewaaien met het systeem”-probleem). Andersom: alles handmatig afhandelen is niet altijd verstandig, want dat vertraagt werk en maakt het risico dat niemand meer ergens écht naar kijkt.
Richt toezicht in naar impact en uitzonderingen. Extra controle als de AI onzeker antwoordt, belangrijke gegevens mist, of als een beslissing grote gevolgen heeft. Geef medewerkers zicht op relevante output, uitleg over beperkingen, en laat ze fouten aan het licht brengen. Oefen met praktijkvoorbeelden, ook als de AI overtuigend maar onjuist reageert. Kijk niet alleen naar hoe vaak iets wordt afgewezen, maar of medewerkers genoeg tijd, informatie en zeggenschap hadden om echt invloed uit te oefenen.
AI-geletterdheid, praktische documentatie en logging onder de nieuwe regels
Moet je als bedrijf AI aanbieden of gebruiken, dan brengt de wet eisen rond AI-geletterdheid mee. Dan is een eenmalige presentatie echt niet genoeg. De training, en de inhoud daarvan, moeten passen bij de rol en vraagstukken van medewerkers. Wie leveranciers beoordeelt, moet snappen waarop je afvinkt. Klantenservice moet AI-fouten kunnen herkennen. De proceseigenaar moet weten wanneer je opnieuw moet checken of gebruik nog is toegestaan. Jouw behoefte aan kennis hangt af van hoe je AI inzet, wie het raakt en welke ervaring medewerkers al meebrengen.
Leg die kennis vast. Geef bij iedere toepassing aan: wat doet de AI, waarvoor mag het wel of niet, welke data gaan erin, wie is verantwoordelijk, hoe wordt gecontroleerd? Sla ook de versie van het gebruikte model of systeem goed op en noteer inhoudelijke wijzigingen. Is logging verplicht, check dan of de logboeken echt beschikbaar, bruikbaar en lang genoeg bewaard worden. Tegelijk: verzamel zo min mogelijk persoonsgegevens in die logs, en bewaartijden moeten overeenkomen met privacy-eisen en doel.
Voor een snelle inventaris is een spreadsheet mogelijk genoeg. Maar dat houd je alleen betrouwbaar als iemand verantwoordelijk is voor updaten. Koppel wijzigingen in software of werkproces direct aan een nieuwe check. Loop steekproefsgewijs na of de praktijk overeenkomt met je vastgelegde procedures. Zie je medewerkers her en der toch nog een AI-chatbot gebruiken buiten het traject, of sluipt er een andere gegevensstroom in? Dat zijn signalen om direct bij te sturen, niet om alleen het formulier weer bij te werken.
Zo pak je beoordeling van AI-toepassingen voor én na livegang aan
Begin een beoordeling nooit met een rijtje leveranciersnamen. Zet per toepassing op papier: wat is het doel, wie zijn erbij betrokken, hoe lopen de gegevens, welke rol speelt AI in de beslissing? Vraag jezelf: heeft de uitkomst invloed op toegang tot werk, krediet, onderwijs of andere belangrijke zaken? Gaat het om profilering of biometrische analyse? Kan de gebruiker bezwaar maken? Hoe ziet menselijk toezicht er echt uit?
Check altijd het hele traject: het model, de leverancier, de gebruikerskant en het proces waar AI-uitvoer in terechtkomt. Een losse tekstsuggestie krijgt pas betekenis als een workflow die suggestie direct als afvinkpunt voor klanten gebruikt. Test het systeem met voorbeelden die in de praktijk voorkomen, vreemde inputs of gevoelige situaties. Bij de test zijn medewerkers die het dagelijks werk doen of die geraakt worden door de uitkomst erg waardevol; zij merken tekortkomingen vaak eerder op dan iemand van buitenaf.
Na lancering blijf je monitoren en moet je opnieuw schatten of risico’s veranderen. Houd bij: aantal fouten, klachten, correcties of vreemde patronen. Bepaal vooraf: wanneer stop je (tijdelijk), als je een incident ziet? Wanneer schakel je de leverancier in of keer je terug naar handmatig werken? Elk nieuw doel, andere databron of een update van het model: dit alles kan de risico-inschatting verschuiven. Blijf dus niet hangen bij de eerste beoordeling.
Veelgestelde vragen
Wanneer zijn de plichten uit de AI Act van kracht?
Voor jou gelden de plichten uit de AI Act niet allemaal tegelijk. Dat verschilt per soort regel en AI-systeem. Regels rond AI-geletterdheid en verboden toepassingen gelden vanaf 2 februari 2025. Moet je voldoen aan verplichtingen voor basis AI-modellen, dan geldt 2 augustus 2025. De meeste overige plichten gaan in op 2 augustus 2026; werk je met bepaalde hoogrisico-systemen binnen gereguleerde producten, dan wordt dit 2 augustus 2027.
Voor systemen die je al gebruikt, kunnen aparte overgangsregels gelden. Breng bij nieuwe eisen altijd in kaart: wanneer heb je de tool gekocht, hoe en wanneer is die op de markt gekomen, en hoe is het ontwerp sindsdien gewijzigd? De actuele versie bepaalt vaak aan welke verplichtingen je moet voldoen, niet alleen de aanschafdatum.
Moeten bedrijven personeel opleiden rond AI-gebruik?
Ja, als je als organisatie AI-systemen gebruikt of aanbiedt, moet je ervoor zorgen dat betrokken medewerkers er genoeg vanaf weten. Je moet AI-geletterdheid borgen, zodat gebruikers het systeem verantwoord kunnen toepassen en snappen wat wel en niet werkt.
De wet schrijft geen vaste cursus of verplicht examen voor. Wat "passend" is, hangt af van onder andere de ervaring van medewerkers, het soort systeem en de gevolgen van het gebruik. Iemand die AI inzet als schrijfassistent heeft andere uitleg nodig dan wie AI hanteert in selectieprocessen. Leg overzichtelijk vast wie welke training of instructie krijgt, en denk ook aan wat nodig is als systemen of processen veranderen.
Vervangt de AI Act de AVG als je AI gebruikt bij persoonsgegevens?
Nee, de AI Act neemt de plek van de AVG niet over. In veel gevallen gelden beide wetten tegelijk. De AI Act focust op eisen aan systemen en inzet, terwijl de AVG gaat over verwerken van persoonsgegevens, het doel, de grondslag en de rechten van betrokkenen.
Check dus los van elkaar: heb je vanwege privacyregels een DPIA nodig? Dat moet, zodra je gegevensverwerking een hoog risico op privacygebied oplevert. Voor sommige hoog-risico AI-systemen vraagt de AI Act aanvullend een beoordeling van de gevolgen voor grondrechten. Dat is geen automatische plicht voor elk bedrijf of AI-systeem. Waar nodig laat je de uitkomsten van privacybeoordeling en AI-inschatting op elkaar aansluiten.
Welke boetes staan er op overtreden van de AI Act?
Wie de AI Act overtreedt, kan een boete krijgen tot €35 miljoen of 7% van de wereldwijde jaaromzet, het hoogste geldt. Zware boetes zijn bestemd voor ernstige gevallen, zoals het gebruik van verboden AI-systemen. Voor minder ernstige overtredingen gelden maximumbedragen van €15 miljoen of 3% van de omzet; bij onjuiste of onvolledige informatie zijn de maxima lager.
Je krijgt niet automatisch de hoogste boete. De toezichthouder weegt bijvoorbeeld: hoe ernstig of lang duurde de overtreding, wat waren de gevolgen, zijn er eerdere overtredingen geweest, werkte je mee? Soms gelden er lagere maxima voor kleinere ondernemingen. Als je je dossier op orde hebt en direct reageert op signalen van problemen, kun je laten zien dat je je best hebt gedaan aan je verplichtingen te voldoen.
Mag je ChatGPT of andere online AI-tools gebruiken met bedrijfsgegevens?
Je mag niet zomaar iedere AI-tool online gebruiken voor bedrijfsinfo. Voordat medewerkers bedrijfsgegevens, klantdata, personeelsinformatie, broncode of vertrouwelijke stukken door een AI-dienst halen, moet je toetsen of dat kan. Zo'n gebruik kan risico's opleveren: persoonsgegevens, bedrijfsgeheimen, beveiliging of intellectueel eigendom kunnen uitlekken. Wat er met je invoer gebeurt, verschilt per dienst, instelling en contract.
Spreek helder af welke AI-gebruik toegestaan is en wat nooit mag worden ingevoerd in publieke tools zoals ChatGPT. Leg dat zo nodig vast, bied een intern goedgekeurd alternatief en zorg dat medewerkers weten hoe ze AI-resultaten controleren voor ze delen of in besluiten verwerken. Kijk die regels opnieuw na elke wijziging aan de tool, instellingen of workflows.
Foto: https://kaboompics.com/