Hier volgen de belangrijkste begrippen uit de AI-verordening.
- Hoog risico AI-systeem
Onder hoog risico AI-systemen vallen onder andere systemen die opereren in de volgende gebieden:
- Biometrie;
- Kritieke infrastructuur;
- Onderwijs en beroepsopleiding;
- Werkgelegenheid, personeelsbeheer en toegang tot zelfstandige arbeid;
- Rechtshandhaving;
- Migratie-, asiel- en grenstoezichtsbeheer;
- Rechtsbedeling en democratische processen;
Wat er precies onder deze onderwerpen wordt verstaan is te lezen in hoofdstuk III en bijlage III van de AI-verordening.
Voor hoog-risico AI-systemen gelden strengere regels en eisen dan lagere risicocategorieën. Welke rol je hebt ten opzichte van het AI-systeem (aanbieder, gebruiksverantwoordelijke, importeur of distributeur) bepaalt welke verantwoordelijkheid je hebt ten aanzien van deze regels en eisen.
- Verboden AI-systeem
Vanaf 2 februari 2025 geld er een verbod op AI-systemen binnen de volgende gebieden:
- Doelbewust negatief beïnvloeden van gedrag (door bijvoorbeeld sublimale technieken, manipulatie of misleiding);
- AI-systemen die doelbewust de kwetsbaarheden van personen gebruiken (denk aan leeftijd of specifieke sociale of economische omstandigheden);
- AI-systemen die sociale score toekennen die als gevolg een nadelige of ongunstige behandeling van bepaalde personen of groepen personen kan hebben;
- Het boordelen of voorspellen van risico’s, op basis van profilering of een beoordeling van diens persoonlijkheidseigenschappen en -kemerken;
- Het scraping van gezichtsafbeeldingen van internet of CCTV-beelden;
- Het afleiden van emoties van personen;
- Biometrische categorisering;
- Biometrische identificatie op afstand met het oog op rechtshandhaving.
Meer is te lezen in hoofdstuk II van de AI-verordening.