»AI-etikken skal starte hos den enkelte data scientist«

Carly Kind
Illustration: Ada Lovelace Institute. Se større version
Vi laver stadig teknologi, som da vi byggede biler i 50'erne og 60'erne - overbeviste om, at markedet vil fikse de problemer, der måtte være, siger jurist og institutleder Carly Kind.
Interview3. september 2019 kl. 05:20
errorÆldre end 30 dage

Amazons nu skrottede rekrutteringssystem er et skoleeksempel på konsekvenserne af bias i machine learning. Systemet skulle hjælpe selskabet med at gennemgå jobsøgendes CV'er og finde de meste attraktive talenter, men endte med at blive droppet, fordi det uforvarende havde lært at foretrække mandlige frem for kvindelige kandidater. 

Spørger man menneskerettighedsadvokat Carly Kind, er problemet grundlæggende, at man troede, man kunne bygge systemet objektivt i første omgang. 

Carla Kind er tidligere Legal Director i ngo'en Privacy International og nyudpeget leder af Ada Lovelace Institute - et uafhængigt institut dedikeret til etisk anvendelse af data og AI. 

»I jagten på systemer, der er objektive, har vi skabt systemer, der er subjektive. Og for at kunne modbalancere det skal du have subjektivitet,« siger hun da DataTech møder hende i København. 

»Du er næsten nødt til at have positiv særbehandling indbygget i systemet. Vi ved, at den optimerer efter mandlige kandidater, fordi Amazon traditionelt har hyret mænd. Hvis du skal balancere den rekrutteringsproces, har du brug for, at systemet optimerer efter flere kvinder end mænd eller værdisætter køn på en bestemt måde. Og det er rigtig svært at gøre for en teknolog, fordi du bevæger dig fra det objektive til det subjektive,« forklarer hun. 

Få fuld adgang til DataTech

DataTech skriver til dig, der arbejder professionelt med data og analytics. Vi giver dig inspirerende cases, nyheder og debat om alt fra machine learning-modeller til dataetik. Få tilsendt tilbud

Abonnementsfordele
vpn_key
Fuld adgang til DataTech
Alt indhold på DataTech er åbent for dig, så du kan nyde det fra din computer, tablet eller mobil.
drafts
Kuraterede nyhedsbreve
Nyheder, interviews, tendenshistorier og meget mere, leveret til din indbakke.
thumb_up
Adgang til debatten
Deltag i debatten med andre professionelle.
Debatten
Log ind for at deltage i den videnskabelige debat.