Hoog-risico AI in recruitment verwijst naar AI-systemen die worden ingezet bij beslissingen over toegang tot werk, promotie of selectie van personen. Volgens de Europese AI-verordening (AI Act) vallen zulke systemen in de hoogste risicocategorie omdat ze directe gevolgen hebben voor de levenskansen van mensen. Voor HR- en recruitmentprofessionals betekent dit concrete verplichtingen die in 2026 volledig van kracht zijn.

Welke AI-systemen vallen onder de hoog-risico categorie?

AI-systemen die worden gebruikt voor werving, selectie, beoordeling, promotie of beëindiging van arbeidsrelaties vallen onder de hoog-risico categorie van de AI Act. Dit geldt ook voor systemen die taken toewijzen of het gedrag van medewerkers monitoren. De wetgever beschouwt deze toepassingen als hoog-risico omdat ze fundamentele rechten van werknemers en sollicitanten kunnen beïnvloeden.

Concreet gaat het om de volgende typen systemen binnen recruitment en HR-software:

• Geautomatiseerde screeningtools die kandidaten rangschikken of afwijzen op basis van profieldata
• AI-gestuurde assessmentplatformen die persoonlijkheid of geschiktheid analyseren
• Systemen die sollicitatiegesprekken analyseren via spraak, gezichtsherkenning of taalpatronen
• Algoritmen die interne mobiliteit of promotiekansen voorspellen
• Tools die prestaties van medewerkers monitoren en scoren

Niet elke AI-toepassing in HR valt automatisch in deze categorie. Eenvoudige chatbots voor FAQ-beantwoording of planningstools zonder beslissingsfunctie worden doorgaans als laag-risico beschouwd. Het onderscheid zit in de vraag of het systeem een significante rol speelt in beslissingen die iemands loopbaan beïnvloeden.

Waarom geldt recruitment als hoog-risico toepassing van AI?

Recruitment geldt als hoog-risico toepassing van AI omdat geautomatiseerde beslissingen hier directe gevolgen hebben voor de toegang van mensen tot werk en inkomen. Dit raakt grondrechten zoals non-discriminatie en gelijke behandeling. De AI Act erkent dat zelfs goedbedoelde algoritmen structurele vooroordelen kunnen bevatten of versterken.

AI-modellen worden getraind op historische data. Als die data historische ongelijkheden weerspiegelen, bijvoorbeeld dat bepaalde functies altijd door mannen werden vervuld, kan een algoritme dit patroon onbewust voortzetten. Zonder menselijk toezicht en transparantie is dit type bias moeilijk te detecteren en te corrigeren.

Daarnaast zijn de gevolgen van een foute beslissing in recruitment asymmetrisch: een afgewezen kandidaat die nooit weet waarom, heeft geen mogelijkheid om bezwaar te maken. De AI Act wil juist die transparantie en verantwoording afdwingen, zodat mensen niet onzichtbaar worden buitengesloten door een black-box systeem.

Welke verplichtingen gelden voor hoog-risico AI in HR?

Organisaties die hoog-risico AI-systemen inzetten in HR moeten voldoen aan een reeks verplichtingen uit de AI Act. De kernvereisten zijn transparantie, menselijk toezicht, technische documentatie en risicobeheersing. Deze verplichtingen gelden zowel voor aanbieders als voor gebruikers van dergelijke systemen.

De belangrijkste verplichtingen op een rij:

1. Risicobeheersysteem: Organisaties moeten aantoonbaar risico’s identificeren, beoordelen en beheersen gedurende de volledige levenscyclus van het AI-systeem.
2. Transparantie naar kandidaten: Sollicitanten moeten worden geïnformeerd wanneer AI een rol speelt in hun beoordeling.
3. Menselijk toezicht: Er moet altijd een mens in staat zijn om de output van het systeem te beoordelen, aan te passen of te negeren.
4. Technische documentatie: De werking, trainingsdata en validatie van het systeem moeten gedocumenteerd zijn en beschikbaar voor toezichthouders.
5. Nauwkeurigheid en robuustheid: Systemen moeten voldoende nauwkeurig zijn en bestand zijn tegen manipulatie of onverwachte invoer.
6. Registratie in EU-database: Hoog-risico AI-systemen moeten worden geregistreerd in een centrale Europese database.

Voor HR-professionals betekent dit in de praktijk dat je niet alleen moet weten welke tools je gebruikt, maar ook hoe ze werken en welke risico’s ze meebrengen. Leveranciers van ATS- en selectiesoftware zijn verplicht om deze informatie te verstrekken.

Wat zijn de gevolgen van niet-naleving van de AI Act?

Niet-naleving van de AI Act voor hoog-risico AI-systemen kan leiden tot aanzienlijke boetes en reputatieschade. De verordening voorziet in boetes tot 30 miljoen euro of 6% van de wereldwijde jaaromzet, afhankelijk van welk bedrag hoger is. Toezichthouders in elke EU-lidstaat zijn bevoegd om onderzoek te starten en sancties op te leggen.

Naast financiële gevolgen zijn er ook operationele risico’s. Systemen die niet voldoen aan de eisen kunnen worden verboden of tijdelijk buiten gebruik worden gesteld. Voor organisaties die sterk leunen op geautomatiseerde recruitment, kan dit de wervingsprocessen ernstig verstoren.

Het reputatierisico is minstens zo groot. Kandidaten en medewerkers die ontdekken dat ze beoordeeld zijn door een niet-transparant of discriminerend algoritme, kunnen juridische stappen ondernemen. In een krappe arbeidsmarkt kan dit ook directe schade toebrengen aan de employer brand van een organisatie.

Hoe beoordeel je of een bestaand recruitmenttool hoog-risico is?

Om te beoordelen of een bestaand recruitmenttool als hoog-risico AI kwalificeert, stel je jezelf drie centrale vragen: speelt het systeem een rol in beslissingen over mensen? Gebruikt het AI of machine learning? En heeft de uitkomst gevolgen voor iemands toegang tot werk of loopbaanontwikkeling? Als je alle drie met ja beantwoordt, is het waarschijnlijk hoog-risico.

Een praktische beoordeling doorloopt de volgende stappen:

• Inventariseer je toolstack: Breng in kaart welke digitale tools betrokken zijn bij werving, selectie, beoordeling en doorstroom van medewerkers.
• Vraag documentatie op bij leveranciers: Aanbieders van hoog-risico AI zijn verplicht technische documentatie te leveren. Als een leverancier dit niet kan, is dat een alarmsignaal.
• Beoordeel de beslissingsfunctie: Genereert het systeem een score, rangschikking of aanbeveling die invloed heeft op een selectiebeslissing? Dan is het potentieel hoog-risico.
• Check de menselijke controle: Is er altijd een recruiter of HR-professional die de output beoordeelt en kan overschrijven? Zo niet, dan vergroot dit het risico aanzienlijk.
• Raadpleeg juridische of compliance expertise: De definitieve classificatie vereist kennis van de AI Act en sectorspecifieke regelgeving.

Het is ook zinvol om te kijken naar de intentie van het systeem. Een tool die puur informatie verzamelt en presenteert, maar de eindbeslissing volledig bij de mens laat, heeft een ander risicoprofiel dan een systeem dat kandidaten automatisch filtert of afwijst zonder menselijke tussenkomst. Wil je snel inzicht in het talentprofiel van een kandidaat? Probeer dan ons online assessment.

Hoe TalentLead helpt met verantwoorde AI in recruitment

De AI Act vraagt om meer dan technische compliance. Het vraagt om een fundamenteel andere manier van kijken naar hoe je kandidaten en medewerkers beoordeelt: objectief, transparant en mensgericht. Precies daar helpen wij organisaties mee.

• Objectieve talentinzichten: Via de geïntegreerde TMA-assessments in ons platform breng je de intrinsieke motivatie, competenties en het potentieel van kandidaten in kaart, los van subjectieve indrukken.
• Transparant selectieproces: Kandidaten weten waarvoor ze worden beoordeeld en recruiters zien direct welke match een kandidaat maakt met de functievereisten.
• Menselijk toezicht centraal: Onze tools ondersteunen de recruiter, ze vervangen hem of haar niet. De eindbeslissing blijft altijd bij de mens.
• Compliance-vriendelijke aanpak: We helpen je bij de implementatie van HR-tech oplossingen die aansluiten bij de eisen van de AI-verordening.
• Duurzame matches: Door te kijken naar talent en motivatie in plaats van alleen ervaring, verlaag je het risico op misfits en hoog verloop.

Wil je weten hoe je jouw recruitmentproces toekomstbestendig maakt binnen de kaders van de AI Act? Neem contact op met TalentLead en we denken graag met je mee.