Algoritmerna och jobbrekryterarna – allians med förhinder?

Vad händer när verksamheter införlivar AI i rekryteringsprocessen? En fråga som saknat svar baserat på empiriska studier. Fram tills nu. Forskningsprojektet ”Algorithmic evaluation in the recruitment process – does it increase diversity in organizations?” har sammanställt resultaten från en undersökning där ett AI-projekt pågick parallellt med en traditionell process. När de olika processerna jämfördes visade det sig att den med AI förstärkte redan existerande mönster.

- Vi känner sedan tidigare till att diskriminering sker vid rekrytering. Personer med utlandsklingande namn väljs ofta bort. Vad vi ville undersöka var om automatisering kunna förändra mönstret till det bättre eller till det sämre för att se vilka samhälleliga konsekvenser den här nya tekniken kan få för inkludering på arbetsmarknaden.

Moa Bursell på Institutet för framtidsstudier: Foto: Cato Lein

Det säger Moa Bursell till Arbetsliv i Norden. Hon är docent i sociologi och forskningsledare vid Institutet för framtidsstudier. Med stöd av svenska Vetenskapsrådet och i samarbete med Stockholms universitet undersöker hon användandet av AI i rekryteringsprocesser.

Samverkan mellan teknik och människa

Studien gjordes vid ett av Sveriges största dagligvaruföretag. Ett företag som redan har god mångfald, men vill bli ännu bättre på att få en blandad personalstyrka och därför ville undersöka hur AI fungerar när ny personal ska anställas, berättar Moa Bursell.

- Jag ville främst veta hur rekryteringsprocessen hanterade ansökningar från personer med utomeuropeiska namn, men studien undersökte även i vilken mån kvinnor och äldre det vill säga personer över 40 år blev kallade till intervju, säger Moa Bursell.

Den automatiserade process som företaget använde sig av hanterade själva screening-fasen. De arbetssökande fick fylla i ett formulär med grundläggande ”skall-krav”, personlighetstest och i vissa fall även problemlösningstest. Därefter räknade en algoritm ut hur de sökande klarat kraven. Resultatet med namn på kvalificerade kandidater sammanställdes i en lista som lämnades över till rekryterarande chefer.

Oproportionerligt & proportionerligt urval

Argumenten för att införliva AI i rekryteringsprocessen har för HR-avdelningar skildrats med en mängd positiva effekter:

• Tids- och kostnadsbesparande.
• Ger ökning av produktiviteten, säkerheten och kontrollen liksom av rättvisa och opartiskhet.
• Skapar anställningar med utgångspunkt i meriter i stället för utifrån rekryterarens magkänsla.

Men resultaten från studien visar att trots användande av AI i rekryteringsprocessen kan resultatet bli ett annat än det önskade. För när listan med namnen på de med AI utvalda namnen lämnades till rekryterande chefer fick personer med utomeuropeiska namn inte samma möjlighet som övriga, inklusive kvinnor, att komma till intervju.

- Mest slående var att dessa personer inte hade sämre testresultat än övriga sökande. Därför kom de proportionerligt med i listan som sammanställts med hjälp av AI. Medan rekryterarande chefer valde bort oproportionerligt många med just utomeuropeiska namn, berättar Moa Bursell och fortsätter:

- För kvinnor gällde inte denna avvikelse. Rekryterarna kallade dem till intervju i samma proportioner som de fanns med på i listan.

Eftersom Moa Bursell även hade tillgång till resultaten från den traditionella rekryteringsprocessen var det möjligt att jämföra resultaten från de båda processerna.

- Vad vi kunde se var att när rekryterarna själva fick ha hand om hela processen blev mångfalden större än när de skulle hantera en lista som sammanställs automatiskt. De rekryterande cheferna agerade alltså på ett sätt som är mindre inkluderande med en lista som framställts med algoritmer än när de ägde hela processen själva, säger Moa Bursell.

Orsaken till att rekryterarna valde bort oproportionerligt många personer med utomeuropeiska namn framkommer inte i studien, den är endast kvantitativ gjord, men Moa Bursell säger att det är möjligt att rekryterarna skapar mångfald på sitt sätt i den traditionella processen, även om det inte är på det mest meritokratiska sättet.

Vidare forskning nödvändig

Algoritmers påverkan har hittills präglats av såväl optimism som pessimism i de akademiska diskussionerna, skriver Moa Bursell, i sin rapport.

Till Arbetsliv i Norden säger hon att forskningen om algoritmer och rekrytering behöver drivas i nya riktningar eftersom det finns flera aspekter att undersöka:

- När man byter rekryteringsprocess är det väsentligt att vid något tillfälle undersöka vad som skedde efter att algoritmer infördes och vilka resultaten blivit, säger Moa Bursell.

Hon föreslår att man börjar med att titta på hur introduktionen av den nya tekniken gick till, det alltid finns sammanhang som den ska verka i.

Vidare vilket slags test de arbetssökande ska genomföra – personlighetstest eller ett kognitivt test – och om det testet lämpar sig bäst för den personal man söker, i studiens fall ofta medarbetare till kassa och lager.

Moa Bursell poängterar här att medvetenheten om att det med testet är möjligt att skapa strukturella hinder i ett större perspektiv måste lyftas fram. Om liknande test används i stor skala, och effekten blir att färre personer med utländska namn anställs, då riskerar detta att förstärka redan existerande mönster av ojämlikhet.

Eller om äldre personer presterar sämre på test online för att de har sämre ”online skills”, förmågor som i sig kanske inte har med arbetsuppgifterna att göra.

Samt om algoritmerna fungerar, om de bidrar till mer eller mindre rättvisa.

Med egen och andras forskning hoppas Moa Bursell får svar på de kanske mest angelägna frågorna:

- När leder skiftet från människor till algoritmer till bättre bedömningar och beslut? När får det negativa effekter och för vem? Får vi svaren på dessa frågor vet vi vilka uppgifter vi ska delegera till algoritmerna. Och om vi ska göra denna delegering, säger Moa Bursell.

Forskningsprojektets tidsplan är 2020-2024.