AI kan gætte race ud fra CT-scanning, og forskere ved ikke hvorfor

6. september 2021 kl. 09:591
ct scanning
Illustration: CreativeEndeavors, BigStock.
Resultater spirer bekymring for at bias kan være skjult i medicinsk AI. 
Artiklen er ældre end 30 dage
Manglende links i teksten kan sandsynligvis findes i bunden af artiklen.

Deep learning-modeller kan med høj præcision lære at forudsige race ud fra medicinske billeder. Det konstaterer et stort hold af forskere fra blandt andet MIT og Stanford School of Medicine i et paper, som kalder på forsigtighed. 

Få fuld adgang til DataTech

DataTech er til professionelle, der arbejder med data og analytics.

Få 3 uger gratis prøve abonnement til DataTech. Betalingskort er ikke påkrævet, og du vil ikke blive flyttet til et betalt abonnement efterfølgende.

Du kan også få tilsendt et tilbud til dig.

Abonnementsfordele
vpn_key
Fuld adgang til DataTech
Alt indhold på DataTech er åbent for dig, så du kan nyde det fra din computer, tablet eller mobil.
drafts
Kuraterede nyhedsbreve
Nyheder, interviews, tendenshistorier og meget mere, leveret til din indbakke.
Adgang til andre medier
Hver måned får du 6 klip, som kan bruges til permanent at låse op for indhold på vores andre medier.
thumb_up
Adgang til debatten
Deltag i debatten med andre professionelle.
1 kommentar.  Hop til debatten
Debatten
Log ind eller opret en bruger for at deltage i debatten.
settingsDebatindstillinger
1
12. januar kl. 11:21

Jeg synes det er en meget mærklig reaktion forskningen har på det fenomen. Hvis det er rigtig, at AI modellen har fundet mønstre i de data, som giver et næsten 100% sikkert resultat mht race, så ville min reaktion være, at vi er "blinde" og at en objektiv algorytme har opsporet noget som vi endnu ikke forstår, men som kan være essentiel.

Det er måske lige nøjagtig en måde at forstår bedre, hvorfor menneske er ikke menneske. Der er en evolutionsmæsig grundt til, at nogen har mørk hudfarve og andre ikke. Og det ville være logisk at det er ikke det eneste som er anderledes hos forskellige racer - at det er lige nøjagtig ikke kun på overfladen at vi er forskellige.

Jeg tror at problemet ligger i hjernen af dem, som arbejder med de her modeller. Det er et tegn på, at de fleste i sundhedsvæsnet verden rundt (og måske særdeles i USA) er alt for parat til at hoppe på diskriminerings sporet når race indblandes, i stedet for at se på problemerne og mulighedrene objektivt. Ja - algoritmen skal ikke bruges til at sortere mennesker fra, men hvis den tydeliggør at medicinen har overset nogle vigtige fysiologiske forskelle, så ville det jo være af enorm hjælp til en bedre medicinsk behandling af alle.

Som jeg forstår AI indtil videre, så er det mega-data-crunching-algoritmer (virker ikke særlig intelligent - mere som ufattelig kompleks håndtværk), og at deres styrke er håndtering af mange statistiske variabler. Hvis den her AI virkelig kan finde frem til racen, så gør det den sandsynligvist på baggrund af nogle variabler, som vi ikke lægger særlig meget vægt på fordi de drukner i de mest fremtrædende og indlysende, dvs det kommer forskerne at tage nogen tid at forstår det. Måske det kan sammenlignes med det, som vi mennesker har som intuition - noget som vi ikke kan sætte fingeren på, men hvor svaret er faktisk ofte rigtig.

Jeg håber ikke, at nogen har indtastet racen i alle data sæt og algoritmen har adgang til den information. Fordi den slags resultater kan rykke - her er det artificiel intelligens som sætter gang i vores intelligens for finde ud af, hvad AI ser men som vi er blinde overfor.

Måske der skal oprettes et nyt spor - Artificial Intuition.