Sinds 2 februari 2025 zijn de verboden AI-praktijken uit artikel 5 van Verordening (EU) 2024/1689 van kracht. Organisaties die een van de acht verboden praktijken toepassen, riskeren bestuurlijke boetes tot €35 miljoen of 7% van de wereldwijde jaaromzet, afhankelijk van welk bedrag hoger uitvalt. Wat precies verboden is, en waar de grenzen liggen ten opzichte van hoog-risico toepassingen die níét verboden zijn, is voor veel organisaties nog onduidelijk. Dit artikel geeft een overzicht van alle acht verboden, met concrete voorbeelden en een toelichting op de belangrijkste grensgevallen.

De acht verboden op een rij

Artikel 5 verbiedt het in de handel brengen, in gebruik stellen of gebruiken van AI-systemen voor de volgende praktijken:

1. Schadelijke manipulatie en misleiding (artikel 5, lid 1, punt a): AI-systemen die subliminale technieken of doelbewuste manipulatietechnieken inzetten om het gedrag van personen wezenlijk te verstoren en daardoor aanzienlijke schade veroorzaken. Denk aan een recommandatiesysteem dat onbewust angstreacties triggert om aankopen te stimuleren.

2. Uitbuiting van kwetsbaarheden (artikel 5, lid 1, punt b): AI-systemen die inspelen op kwetsbaarheden door leeftijd, handicap of een specifieke sociale of economische situatie. Voorbeelden zijn chatbots die ouderen met cognitieve achteruitgang manipuleren, of apps die financieel kwetsbare gebruikers aanzetten tot geldleningen.

3. Social scoring (artikel 5, lid 1, punt c): AI-systemen die personen over een langere periode evalueren of classificeren op basis van sociaal gedrag of persoonlijkheidskenmerken, waarbij de score leidt tot nadelige behandeling in niet-gerelateerde contexten, of tot onevenredige behandeling. Het klassieke voorbeeld is het Chinese model waarbij burgers worden beoordeeld over het hele maatschappelijke leven en op basis daarvan worden uitgesloten van diensten of reisrechten.

4. Voorspellende criminaliteitsanalyse op basis van profilering (artikel 5, lid 1, punt d): AI-systemen die uitsluitend op basis van profilering of persoonlijkheidskenmerken voorspellen of iemand een strafbaar feit zal plegen. Dit staat los van systemen die menselijke beoordelingen ondersteunen waarbij al sprake is van objectieve, verifieerbare feiten.

5. Ongerichte opbouw van gezichtsherkenningsdatabases (artikel 5, lid 1, punt e): AI-systemen die gezichtsafbeeldingen van internet of CCTV-beelden verzamelen zonder gericht te zijn op een specifiek individu of groep, om zo databases voor gezichtsherkenning aan te leggen of uit te breiden. Dit verbod treft praktijken zoals die van Clearview AI.

6. Emotiedetectie op de werkplek en in het onderwijs (artikel 5, lid 1, punt f): AI-systemen die emoties van werknemers of leerlingen afleiden uit biometrische gegevens, tenzij het uitsluitend gaat om medische of veiligheidstoepassingen. Een hr-tool die realtime de stemming van medewerkers monitort via camerabeelden valt hier volledig onder.

7. Biometrische categorisering op gevoelige kenmerken (artikel 5, lid 1, punt g): AI-systemen die personen op basis van biometrische gegevens indelen naar ras, politieke opvattingen, vakbondslidmaatschap, religieuze overtuiging, seksleven of seksuele gerichtheid.

8. Realtime biometrische identificatie op afstand in openbare ruimten (artikel 5, lid 1, punt h): Het gebruik van realtime biometrische identificatiesystemen in publiek toegankelijke ruimten voor rechtshandhavingsdoeleinden is verboden, met drie limitatief omschreven uitzonderingen: het opsporen van slachtoffers van ernstige misdrijven of vermiste personen, het afwenden van een concrete en ernstige veiligheidsdreiging of terroristische aanslag, en het lokaliseren van verdachten van strafbare feiten met een maximum gevangenisstraf van ten minste vier jaar.

Grensgevallen: wat is verboden en wat is hoog risico?

Een veelgemaakte fout is het gelijkstellen van verboden praktijken aan hoog-risico toepassingen. Beide zijn onderscheiden categorieën met fundamenteel andere rechtsgevolgen.

Private kredietscoring is een goed voorbeeld van een grensgeval. Een bank die AI gebruikt om de kredietwaardigheid van een consument te beoordelen op basis van relevante financiële gegevens, valt niet onder het verbod van artikel 5, lid 1, punt c. De beoordeling gebeurt immers in een direct verband met de aanvraag en leidt niet tot behandeling in een niet-gerelateerde context. Dergelijke systemen zijn echter wel expliciet aangemerkt als hoog-risico onder Bijlage III, punt 5(b) van de verordening. Dit betekent dat er conformiteitsbeoordeling, technische documentatie, menselijk toezicht en registratie verplicht zijn, maar geen algeheel verbod.

Fraudedetectie bij financiële instellingen op basis van transactiepatronen valt buiten het verbod, mits de analyse stoelt op objectieve financiële indicatoren.

Emotiedetectie voor medische of veiligheidsdoeleinden is uitdrukkelijk uitgezonderd van het verbod. Een systeem dat vermoeidheid detecteert bij chauffeurs of operators van zware machines valt niet onder artikel 5, lid 1, punt f, op voorwaarde dat het systeem uitsluitend voor dat veiligheidsdoel is ingezet.

Eenmalige gedragsbeoordelingen in een welomschreven context, zoals het beoordelen van een sollicitant, vallen niet automatisch onder het verbod op social scoring, omdat dat verbod een cumulatieve beoordeling over een tijdsperiode vereist. Dergelijke systemen zijn echter wel hoog-risico onder Bijlage III.

Toepassingsbereik: wie is gebonden?

De verboden gelden voor zowel aanbieders als gebruiksverantwoordelijken, en zowel binnen als buiten de EU gevestigde organisaties die AI-systemen aanbieden of gebruiken met effect op personen in de EU. De verboden zijn daarmee extraterritoriaal van toepassing. AI-systemen die uitsluitend voor nationale veiligheid of militaire doeleinden worden ingezet, vallen buiten het toepassingsbereik, maar alleen als dit het exclusieve doel is. Zogeheten dual-use systemen genieten deze uitzondering niet.

Richtsnoeren van de Europese Commissie

Op 4 februari 2025 publiceerde de Europese Commissie niet-bindende richtsnoeren over de praktische toepassing van de verboden. Deze richtsnoeren bevatten juridische uitleg en concrete voorbeelden per verbod. Ze benadrukken dat de verboden breed moeten worden uitgelegd om omzeiling te voorkomen, en dat naleving van andere EU-wetgeving, zoals de AVG of de Digital Services Act, niet automatisch meebrengt dat een AI-praktijk geoorloofd is onder de AI-verordening.

Handhaving en boetes

De verbodsbepalingen zijn per 2 februari 2025 van kracht. De handhavingsbevoegdheden van nationale toezichthouders zijn per 2 augustus 2025 van kracht geworden. Overtredingen van artikel 5 kunnen worden bestraft met bestuurlijke boetes tot €35 miljoen of 7% van de totale wereldwijde jaaromzet, afhankelijk van welk bedrag hoger is. Voor kleine en middelgrote ondernemingen, waaronder start-ups, geldt een lager plafond. Naast boetes kunnen toezichthouders ook het terugtrekken van een AI-systeem uit de markt of het beperken van de beschikbaarheid ervan opleggen. De verboden zijn rechtstreeks inroepbaar voor nationale rechters, zodat ook civielrechtelijke handhaving mogelijk is.

Praktische gevolgen voor organisaties

Organisaties moeten alle lopende AI-toepassingen toetsen aan de acht verboden categorieën. Bijzondere aandacht verdienen systemen die biometrische gegevens verwerken, werknemers of studenten monitoren, gedragsdata over langere perioden aggregeren, of geautomatiseerde risico-inschattingen produceren. Bij twijfel over de kwalificatie geldt als uitgangspunt: ook als een toepassing niet verboden is, kan zij hoog-risico zijn en dan gelden aanzienlijke nalevingsverplichtingen die per augustus 2026 volledig van kracht worden.