Forskning: Adskillige fairness-tests for ML giver ingen garanti mod ulovlig diskrimination

Foto : davinci / Bigstock

Forskning: Adskillige fairness-tests for ML giver ingen garanti mod ulovlig diskrimination

Lovgivere bør stille krav til, hvordan vi adresserer bias i ML og AI-systemer, siger Oxford-forskere. 
En lang række af de metoder, som ML-praktikere kan ty til for måle modellers fairness, giver ikke nødvendigvis garanti mod, at modellen ender med at være diskriminerende i juridisk forstand. 
Vil du have fuld adgang til DataTech?

DataTech skriver til dig, der arbejder professionelt med data og analytics. Vi giver dig inspirerende cases, nyheder og debat om alt fra Machine Learning-modeller til dataetik.

Prøv DataTech gratis

DataTech giver dig ny viden, cases og erfaringer med at lykkes med AI og data science i praksis. Få 3 ugers gratis og uforpligtende prøveabonnement

Klik her
Brent Mittelstadt
Brent Mittelstadt
Illustration: University of Oxford

Brent Mittelstadt er Senior Research Fellow og British Academy Postdoctoral Fellow i dataetik ved Oxford Internet Institute, Turing Fellow ved Alan Turing Institute og medlem af UK National Statistician’s Data Ethics Advisory Committee. Han er etiker med fokus på forståelse af komplekse algoritmiske systemer. 

Regulering af AI
Europa Nævnet
Illustration: Europa Nævnet

DataTech har fået økonomisk støtte fra Europa-Nævnet til at sætte journalistisk fokus på arbejdet med at regulere AI. 

EU-Kommissionen vil i år fremlægge et forslag til, hvordan AI skal tøjles. Forude venter således en afgørende offentlig debat, som skal være med til at sikre, at den endelige lovtekst rammer den rigtige blanding af sikkerheder og muligheder. Et fejlskud mod den ene af disse poler kan have alvorlige konsekvenser for Europas evne til succesfuldt at udnytte AI i dette årti. 

DataTech vil i en artikelserie gå i dybden med, hvordan EU konkret vil regulere AI, hvor der er behov for regulering, ligesom vi undersøger, hvordan de specifikke regler rammer ned i det praktiske arbejde med AI i europæiske virksomheder.