Professor: Udviklere og ingeniører lades i stikken i debat om AI-etik

Professor: Udviklere og ingeniører lades i stikken i debat om AI-etik
Illustration: ITU. Se større version
Der er stadig store problemer med etikken i AI-udvikling. Men svaret er ikke, at ingeniører skal være bedre mennesker, mener professor.
Interview 2. november kl. 04:56
errorÆldre end 30 dage

Et stort, internationalt forskningshold satte sig for nyligt for at undersøge et nagende spørgsmål: Hvorfor fungerer nogle medicinske AI-systemer dårligere for grupper med en bestemt etnisk herkomst end andre, når der ikke er nogen kendt korrelation mellem den information, der er tilgængelig i de medicinske billeder, og en persons oprindelse?

Svaret ligger muligvis i forskernes opsigtsvækkende fund: At det er ganske trivielt for et AI-system at gætte den race, en patient selv identificerer sig som, ud fra en CT-scanning. Selvom mennesker ikke kan. Og selvom radiologien altid har antaget, at de undersøgte systemer er agnostiske, når det kommer til race. 

Læs ogsåAI kan gætte race ud fra CT-scanning, og forskere ved ikke hvorfor

For forskerholdet var resultatet bekymrende. Ikke specifikt fordi AI-systemet kunne gætte selvrapporteret race, men fordi der aldrig er blevet taget højde for det. Og fordi det åbner en dør for at AI-systemer forskelsbehandler patienter på baggrund af race, uden at lægen kan se det ved at kigge på præcis de samme billeder.

For Irina Shklovski, der er professor i Human Centered Computing ved KU, var forskningsarbejdet dog også en kilde til håb.

Få fuld adgang til DataTech

DataTech skriver til dig, der arbejder professionelt med data og analytics. Vi giver dig inspirerende cases, nyheder og debat om alt fra machine learning-modeller til dataetik.

Abonnementsfordele
vpn_key
Fuld adgang til DataTech
Alt indhold på DataTech er åbent for dig, så du kan nyde det fra din computer, tablet eller mobil.
drafts
Kuraterede nyhedsbreve
Nyheder, interviews, tendenshistorier og meget mere, leveret til din indbakke.
thumb_up
Adgang til debatten
Deltag i debatten med andre professionelle.
Debatten
Du har ikke tilladelse til at deltage i debatten. Kontakt support@ing.dk hvis du mener at dette er en fejl.
Forsiden