Sinds de komst van de EU AI Act hoor je het overal: “Straks mag je bepaalde AI-systemen helemaal niet meer gebruiken.” Maar wat betekent dat concreet? Welke toepassingen worden straks verboden, en waarom?
De EU wil met de AI Act technologieën uitbannen die te gevaarlijk zijn voor mensenrechten, veiligheid of democratie. Dat betekent niet dat alle AI verboden wordt. Het gaat om een kleine, maar belangrijke groep toepassingen.
In deze blog leg ik uit:
-
welke AI-systemen expliciet verboden zijn
-
waarom de EU deze keuzes maakt
-
hoe je voorkomt dat jouw organisatie in de gevarenzone belandt
→ Lees ook onze complete gids over de EU AI Act.
Waarom verbiedt de EU bepaalde AI?
De EU stelt in de AI Act dat sommige technologieën zó risicovol zijn dat ze geen plek hebben in een democratische samenleving. Denk aan:
-
massale surveillance
-
manipulatie van gedrag
-
sociale scores
De reden is simpel: deze systemen kunnen mensenrechten schenden, leiden tot discriminatie of machtsmisbruik en burgers hun vrijheid ontnemen.
Wat staat er letterlijk in de wet?
De AI Act somt vier hoofdgroepen op die verboden zijn. Hier leg ik ze uit in gewone taal.
1. Subliminale manipulatie
AI-systemen die mensen manipuleren zonder dat ze het doorhebben. Bijvoorbeeld:
-
subtiele geluiden of beelden die emoties beïnvloeden
-
onzichtbare nudging die mensen onbewust aanstuurt tot bepaald gedrag
Voorbeeld:
Een AI-systeem dat subtiele visuele signalen gebruikt om mensen in een winkel sneller dure producten te laten kopen, zonder dat ze dat merken.
Waarom verboden?
-
Dit ondermijnt vrije wil.
-
Mensen kunnen zich er niet tegen verweren.
2. Exploitatie van kwetsbaarheden
AI die misbruik maakt van specifieke kwetsbaarheden, zoals:
-
leeftijd (kinderen)
-
mentale of fysieke beperkingen
-
sociale of economische situatie
Voorbeeld:
Een chatbot die kinderen overtuigt om in-app aankopen te doen.
Waarom verboden?
-
Kwetsbare groepen moeten extra worden beschermd.
-
De EU wil geen AI die bewust mensen manipuleert vanwege hun zwakke positie.
3. Sociale scoring
AI die burgers een “sociaal kredietcijfer” geeft op basis van hun gedrag of persoonlijke kenmerken. Bekend uit China, waar mensen punten verliezen voor “slecht gedrag” en daardoor bijvoorbeeld geen treinkaartjes meer mogen kopen.
Voorbeeld:
Een overheid die burgers een lagere score geeft omdat ze protesteren, of veel schulden hebben.
Waarom verboden?
-
Het schendt privacy en grondrechten.
-
Het creëert ongelijkheid en maatschappelijke uitsluiting.
4. Biometrische identificatie in openbare ruimten
Dit is het meest besproken verbod. Het gaat om:
-
gezichtsherkenning op straat
-
emotie-detectie in publieke ruimtes
-
live tracking van individuen
De EU verbiedt deze technieken grotendeels, met enkele uitzonderingen zoals:
-
zoeken naar slachtoffers van misdrijven
-
terreurbestrijding (mits strikt gereguleerd)
Voorbeeld:
Een stad die camera’s inzet om gezichten live te scannen en mensen met openstaande boetes op te sporen.
Waarom verboden?
-
Schendt het recht op privacy.
-
Creëert risico’s op misbruik door staten of bedrijven.
Geldt het verbod ook voor bedrijven?
Ja. Niet alleen overheden, maar ook bedrijven mogen deze systemen straks niet meer ontwikkelen, verkopen of gebruiken in de EU. Doe je dat wel, dan riskeer je:
-
boetes tot €35 miljoen of 7% van je wereldwijde omzet
-
reputatieschade
-
mogelijk strafrechtelijke vervolging
→ Lees ook: Documentatie-eisen onder de EU AI Act uitgelegd
Hoe voorkom je dat je verboden AI gebruikt?
Zorg dat je:
-
precies weet welke AI je inzet
-
leveranciers bevraagt over hun technologie
-
je team traint in AI-geletterdheid zodat ze herkennen wat wél en niet mag
→ Bekijk onze AI-geletterdheid training voor teams.
Conclusie
Niet alle AI is verboden. Maar sommige toepassingen gaan volgens de EU simpelweg te ver. Zorg dat je weet waar de grenzen liggen. Want een fout kan je organisatie veel geld én vertrouwen kosten.
→ Wil je alles weten over de AI Act? Lees onze complete gids over de EU AI Act.
Ferry Hoes
Ferry Hoes is veelgevraagd spreker en trainer op het gebied van AI-geletterdheid. Hij staat meermaals per maand op het podium voor organisaties zoals a.s.r., VodafoneZiggo en verschillende ministeries. In 2020 won hij de Anti-Discriminatie AI-Hackathon van de Nederlandse overheid.