»Hvis du kalder det beslutningsstøtte, er det, fordi du ikke er sikker på, at det regner rigtigt«

Foto : Bigstock, DevinQuotes

»Hvis du kalder det beslutningsstøtte, er det, fordi du ikke er sikker på, at det regner rigtigt«

Klinisk AI til beslutningsstøtte sætter læger i bizar situation, mener direktør for Visiana. 

De bedste kliniske AI-systemer er dem, der overtager opgaver fra læger eller giver dem information, de ikke selv kan udlede. Sådan lyder vurderingen fra Hans Henrik Thodberg, stifter og direktør i Visiana, der ikke giver meget for AI-løsninger, der slår sig på at levere beslutningsstøtte. 

»Hvis du kalder det beslutningsstøtte, er det, fordi du ikke er sikker på, at det regner rigtigt hver gang,« siger han. 

»Der er mange, som laver AI-systemer, der kommer med et forslag, som lægen kan være enig eller uenig i. Men det sætter lægen i en bizar situation, hvor lægen måske gerne vil overlade noget til modellen, men samtidig skal vurdere, om systemet regner rigtigt eller ej.«

I stedet for at gøre, hvad læger er bedst til, må lægen forholde sig til, om et scanningsbillede f.eks. er inden for modellens kompetence at analysere, siger Hans Henrik Thodberg. 

»Hvis læger sidder og skal tage hensyn til et ubehjælpsomt AI-system, så fokuserer de forkert.«

Afviser at analysere billeder, den ikke forstår

Visiana står bag det ML-drevne system BoneXpert, der bruges af størstedelen af hospitaler i Skandinavien, England, Italien og Benelux-landende til at udregne knoglealder ud fra røntgenbilleder. Omkring halvdelen af udviklingstiden til det system er gået med at gøre det i stand til at melde pas, hvis billedet ikke passer med, hvad modellen kender, fortæller Hans Henrik Thodberg. 

»Hvis hånden har nogle stærke deformationer, som ligger uden for modellens normalområde, så melder den det. På den måde peger den netop på de billeder, som lægen skal være ekstra opmærksom på.«

»Det er jo et virkelig stort problem, hvis du giver læger et system i hånden, som mange gange rammer rigtigt, men nogle gange regner forkert, og systemet ikke ved, hvornår det regner forkert.«

BoneXpert

BoneXpert-softwaren forsøger at bestemme knoglealderen ud fra 21 forskellige knogler i hånden. For hver enkelt knogle validerer BoneXpert, at den ser normal ud og er positioneret korrekt. Hvis dette ikke er tilfældet, afvises knoglen i beregningen af sikkerhedsmæssige grunde. ¨

I dette eksempel – en pigehånd – er fire af fingerspidserne ikke positioneret fladt på røntgenpladen. Dermed er de afbilledet i en forkert vinkel, og de afvises derfor i BoneXpert’s knoglealderberegning.

Illustration: Visiana

En no-brainer

BoneXpert er bygget til at kunne erstatte røntgenlægen, når det handler om at vurdere knoglealder, hvis hospitalet ønsker det. Det har man blandt andet valgt at gøre på Hillerød Sygehus, fortæller Hans Henrik Thodberg.  

»På Hillerød Sygehus ser røntgenlægen slet ikke billederne. Børnelægen sender sin patient over i røntgenafdelingen og får svar tilbage fra BoneXpert. Det giver et andet workflow, fordi børnelægen kan fortsætte sin udredning med det samme, og patienten kan komme videre frem for at vente på, at en røntgenlæge ser på billedet og giver en melding.«

Det kan selvfølgelig sætte gang i tanker hos radiologer, som ikke ønsker at blive erstattet. Men hos Visiana har man bestemt ikke indtryk af, at det betragtes som et problem. 

»I Skandinavien er radiologer optaget af at bruge deres tid fornuftigt og ikke blive udbrændt. Der er altid mangel på radiologer. Så når man kan lade dem slippe for den her opgave, som måske tager dem fem minutter, så er det en no-brainer. I andre lande har man en anden holdning. Og det kan vi se på de lande, som vi sælger til.«

Giv ekstra information

De bedste AI-systemer er dem, som komplementerer lægen, mener Hans Henrik Thodberg. 

»Et AI-system kunne f.eks. giver ortopæden nogle kvantitative informationer om vinkler og længder på knoglerne, som lægen ikke selv kan bestemme lige så nøjagtigt. Og så kan lægen bruge de tal sammen med sin erfaring og faglighed til at lave sin vurdering,« siger han. 

»Hvis du lader AI-systemet overlappe med noget, som lægen gør, så sidder de to systemer og vurderer det samme, men hvem tager fejl, og hvem har ret?« 

Prøv DataTech gratis

DataTech giver dig ny viden, cases og erfaringer med at lykkes med AI og data science i praksis. Få 3 ugers gratis og uforpligtende prøveabonnement

Klik her
Hans Henrik Thodberg
Hans Henrik Thodberg
Illustration: Visiana

Hans Henrik Thodberg er stifter og direktør i Visiana, der laver værktøjer til automatisk analyse af røntgenbilleder. Hans Henrik Thodberg fik i 1986 sin ph.d. i eksperimentel fysik fra CERN og Niels Bohr Institutet.