Waarom AI niet neutraal is: bias #4 proxies

werving selectie algoritme bias proxy

Proxies zijn cijfers die correlaties aanduiden tussen bepaalde concepten, waardoor ze voor een algoritme dienen als een soort voorspellers. Blond haar is bijvoorbeeld een proxy voor een blank huidtype. Aan de hand van zulke correlaties worden mensen ingedeeld in groepen. Er ontstaan patronen waaruit blijkt dat bepaalde groepen gemiddeld slechtere prestaties, vaardigheden of capaciteiten vertonen, met als gevolg een systematische uitsluiting van die groepen. Wat kunnen we eraan doen?

Waarom AI niet neutraal is: bias #3

HR algoritme werving selectie bias

Als je algoritmes wil gebruiken om iets automatisch te voorspellen, moet je de wereld vereenvoudigen om het in programmeertaal te kunnen vastleggen. Bijvoorbeeld: wil je een slimme kandidaat - neem iemand met een universitair diploma. Organisaties maken dus keuzes over welke indicatoren ze opnemen in hun algoritmische analyses. Dit keuzeproces wordt ‘feature selection’ genoemd. Omdat algoritmes een vereenvoudigde wereld vereisen, kunnen biases ontstaan. Deel 3 uit een serie van vijf.

Future of HR - Raconteur (2018)

Een Engelstalige digitale themakrant (onafhankelijke bijlage van The Times) over de Future of HR. Ook hier staat de "digitale transformatie" binnen HR centraal, inclusief de vraag wat dit betekent voor de HR-afdeling, de HR-medewerkers en de organisatie in het geheel. Kansen en bedreigingen, mogelijkheden en vraagstukken worden in dit document onder de loep genomen door verschillende journalisten. Ook gerelateerde onderwerpen als diversiteit, langer doorwerken, kortere werkweken en duurzame inzetbaarheid passeren de revue. 

 

The Future of HR - Raconteur.net (2018)

Stappenplan Artificial Intelligence Impact Assessment - ECP (2018)

AIIA EPC

Het maatschappelijk debat rondom AI heeft zich snel ontwikkeld. Naast de potentiële voordelen van AI, is er daarbij snelgroeiende aandacht voor bedreigingen en risico’s (transparantie, privacy, autonomie, cybersecurity et cetera) die om een zorgvuldige benadering vragen. Voorbeelden uit het recente verleden (slimme meters, ov-chipkaart) laten zien dat de invoering van IT-toepassingen niet ongevoelig is voor het juridische en ethische debat. Dat geldt ook bij de toepassing van AI.

AI en recruitment als kat-en-muisspel

Steeds vaker gebruiken organisaties HR-technologie en analytics ten behoeve van beter matchende en presterende medewerkers. Maar wat als individuele werkenden op hun beurt dit ook gaat inzetten om werkgevers en hun HR-beleid beter te kunnen inschatten?

Waarom AI niet neutraal is: bias #2

Bias AI - werving & selectie recruitment algoritmes

Wat een algoritme leert, hangt af van de ‘trainingsdata’ waaraan het is blootgesteld. Deze gegevens trainen het algoritme om zich op een bepaalde manier te gedragen. De kwaliteit en waarde (en neutraliteit) van de ingevoerde data is hierbij dus essentieel. Dit valt onder te verdelen in twee categorieën: ‘labelling examples’ en ‘data collection’. Deel 2 in de (5-delige) serie Waarom AI niet neutraal is.

Waarom AI niet neutraal is: bias #1

Bias in AI - werving & selectie recruitment algoritmes

Organisaties gebruiken data als input voor algoritmes, die hen vervolgens kunnen ondersteunen in het maken van keuzes. Stel, een organisatie wil uit een grote groep potentiële medewerkers een selectie maken van 'goede' werknemers. Hoe definieer je ‘goed’ in meetbare eigenschappen? Is een goede werknemer iemand die de meeste producten verkoopt? Iemand die nooit te laat komt? In eerste instantie lijken dit redelijke overwegingen in het voorspellen van ‘goede’ werknemers, maar uitsluiting van groepen mensen is hierbij reëel. Deel 1 uit een serie: Waarom een doelvariabele kan leiden tot (onbedoelde) discriminatie.

Ready for the Change - Bijdragen aan proactief loopbaangedrag

Anna van der Horst - Ready for the Change 2019)

Aanpassen aan onbekende omstandigheden kan een interessante uitdaging zijn, of juist een stressvolle, moeilijke situatie. Zeker wanneer het gaat om iets dat zo belangrijk is als je werk. Het proefschrift ‘Ready for the Change’ van Anna van der Horst is geschreven om mensen en organisaties te helpen zich beter voor te bereiden op veranderingen in werk. Welke vaardigheden en gedrag dragen bij aan een succesvolle loopbaan? Voor welke mensen is het makkelijk of juist moeilijk om dit gedrag te laten zien? Het proefschrift presenteert verschillende interventies die je helpen dit gedrag te versterken om zo beter passend werk te vinden.

Eerlijkheid binnen AI: het sollicitant-perspectief

Fairness in AI recruitment

De traditionele werving en selectie, waarbij HR-medewerkers zelf een CV en motivatiebrief lezen en beoordelen, heeft plaatsgemaakt voor het zogenoemde e-recruitment of ATS (Applicant Tracking System). Door middel van algoritmes worden CV’s en motivatiebrieven gescand op bepaalde vaardigheden of kenmerken. De kandidaat wordt op basis van deze analyse afgewezen of uitgenodigd voor een sollicitatiegesprek. Maar wordt deze manier van afwijzen als eerlijk ervaren? Een uiterst relevante vraag, want de sollicitanten zijn een belangrijke groep die met AI te maken krijgt en hun ervaring is bepalend voor maatschappelijke acceptatie van de inzet van AI bij recruitment.

Op weg naar een brede ontwikkelcultuur

eindverslag Maakplaats 021 fellowship

Maakonderwijs is leren (door te) maken. Het stimuleert hoofd, handen en hart. Door de verbinding tussen creativiteit en hedendaags technologie kunnen kinderen zich beter ontwikkelen: kennis wordt meteen toegepast en ingezet voor het maken van dingen die ze leuk vinden. Sacha van Tongeren blikt terug op de pilot van het trainingstraject Maakplaats 021 Fellowship. Het fellowship programma is een praktijkvoorbeeld dat antwoord geeft op de challenge-vragen gesteld door de NSvP en Instituut Gak over het leren van de toekomst.

Over NSvP

De NSvP maakt zich hard voor een menswaardige toekomst van werk. We stellen de vraag hoe de arbeidsmarkt van morgen eruit ziet en onderzoeken hoe werk zodanig kan worden ingericht dat het bijdraagt aan de menselijke waarden en behoeften. We zijn een onafhankelijke stichting. We financieren als vermogensfonds innovatieve projecten op het snijvlak van mens, werk en organisatie.

Rijnkade 88
6811 HD Arnhem
info@nsvp.nl
026 - 44 57 800

 

Vind ons op Facebook
Volg ons