Analyse: Det offentlige er tvunget til at lytte, når borgerne siger nej til AI-bonanza

Hos Udbetaling Danmark garanterer man retssikkerheden ved automatisk digital sagsbehandling, men eksperter har en række forbehold. Danskerne er også skeptiske viser ny undersøgelse. Illustration: Rasmus Meisler.
Hos Udbetaling Danmark garanterer man retssikkerheden ved automatisk digital sagsbehandling, men eksperter har en række forbehold. Danskerne er også skeptiske viser ny undersøgelse. Illustration: Rasmus Meisler. Illustration: Rasmus Meisler. Se større version
I en af branchens mest anerkendte årlige udgivelser slår et repræsentativt udsnit af landets borgere fast, at der skal være mennesker bag beslutningerne. Det er et helt afgørende signal til it-beslutningstagerne i det offentlige Danmark, der drømmer om omfattende udbredelse af kunstig intelligens.
1. december 2021 kl. 11:20
errorÆldre end 30 dage

It-beslutningstagere på tværs af det offentlige Danmark drømmer hede drømme om en omfattende udrulning af kunstig intelligens (AI) i den offentlige sektor. Men både borgere og eksperter er bekymrede over en fremtid, hvor kunstig intelligens træffer beslutninger i sager i det offentlige.

At ambitionerne er enorme står klart, efter Rambøll i samarbejde med Dansk IT igen i år har udgivet rapporten ‘IT i praksis', der af mange anses for et seriøst bud på en temperaturmåling af de digitale udfordringer i både den offentlige og den private sektor.

»AI ser ud til at blive en af de teknologier, som flest myndigheder vil tage i brug for første gang i løbet af de kommende tre år,« fastslår rapporten, der uddyber:

»Sideløbende med udviklingen inden for AI forventes initiativer til styring af big data at opleve en tilsvarende stærk vækst. Tilsammen vil de to udviklingsområder dominere datadrevet digitalisering hos en stor del af myndighederne. Rambøll vurderer, at det er en effektiv tilgang, der understøtter, at nye løsninger bygger på et afklaret datagrundlag.«

I rapporten har 92 it-ansvarlige og 81 forretningsansvarlige fra stat, regioner og kommuner svaret på et spørgeskema, som konsulenthuset har uddelt. Her gør repræsentanterne for det offentlige ambitionsniveauet soleklart, når det kommer til udbredelsen af kunstig intelligens.

Allerede i dag lyder vurderingen fra deltagerne, at 41 procent af myndighederne allerede benytter AI-teknologier, mens 51 procent undersøger mulighederne. Men beder man it-repræsentanterne om at se nogle år frem i tiden, så er optimismen endnu videre udbredt.

Om bare tre år forventer 91 procent af de adspurgte, at de benytter AI, men 8 procent undersøger teknologien. Dermed er der blandt it-beslutningstagerne i den offentlige sektor lagt op til et sandt AI-bonanza.

Fare forude

I Rambøll-rapporten får den da heller ikke for lidt, hvad angår mulighederne med kunstig intelligens, der udefra nogle gange, virker til i dag at dække over mildest talt lidt af hvert.

»I takt med at de store serviceområder er understøttet med digitale forretningsprocesser og genererer mange data, er der store forventninger til at udnytte disse data. Det vil være med værktøjer, der anvender AI, som kan skabe ny viden, optimere og automatisere indsatser og løsninger eller udvikle nye BI-løsninger, som gør brug af big data.«

Uden at agere lyseslukker må man nok pille en smule af glansen af den bemærkning og rette opmærksomheden mod det faktum, at det langt fra er alle det offentliges nuværende forsøg med den hypede teknologi, der har givet gevinst.

Faktisk har en række eksperter udtrykt alvorlig bekymring over blandt andet fuldautomatiske beslutninger foretaget i it-systemer hos Udbetaling Danmark, der står for at ekspedere en lang række sociale ydelser såsom boligstøtte og pension til hundrede tusindevis af danskere hver måned.

Hos Udbetaling Danmarks mener man, at de nye it-systemer letter sagsgangen og skaber ensartede beslutninger, men både Folketingets Ombudsmand, Niels Fenger, og lektor i digital forvaltning ved Københavns Universitet, Hanne Marie Motzfeldt, har udtrykt skepsis omkring transparensen i beslutningsprocessen og risikoen for systemiske fejl med dertilhørende enorme konsekvenser for borgerne og ikke mindst disses retssikkerhed.

»Det er ikke, fordi jeg er modstander af automatisering, men jeg peger på den samme fare, som de sidste tre siddende ombudsmænd har peget på. Man skal være virkelig omhyggelig, og man er nødt til at indse, at der skal sættes betydelige ressourcer af til tilsyn og kontrol. Hvis der er fejl, så eksploderer det,« sagde sidstnævnte til vores søstermedie Ingeniøren og fik opbakning af tænketanken Justitia.

Her havde vicedirektør Birgitte Arent Eiriksson noteret sig lignende faresignaler ved brugen af fuldautomatiske systemer i forvaltningen.

»Så længe der bliver ved med jævnligt at dukke sager op om fejl i automatiske systemer, og de sager omhandler mange borgere, og der går lang tid, før de bliver opdaget, så er jeg ikke betrygget. Hvis der er for blind tillid til systemerne, og der ikke sikres en tilstrækkelig egenkontrol og tilsyn, så vil mange borgere kunne blive ramt på deres retssikkerhed.«

Netop bekymringer af den karakter bør udgøre en fuldkommen central mellemregning i de optimistiske fremtidsforventninger om, at der i 9 ud af 10 myndigheder inden for tre år udruller løsninger baseret på kunstig intelligens.

En hånd på roret

Eksperterne står ikke alene med deres bekymring. Der kan næppe sendes et stærkere signal end det, borgerne i Rambølls undersøgelse sender. Det er således særdeles bemærkelsesværdigt, at 70 procent af de adspurgte borgere mener, at det "er vigtigt, at afgørelser træffes med menneskelig involvering«, mens blot 15 procent af de adspurgte svarer, at det er i orden, at der ingen menneskelig indblanding er, når der træffes beslutning.

Modsat relativt få adspurgte beslutningstagere, hvis svar ligger bag rapportens resterende konklusioner, lader metodikken bag rapporten ikke meget være overladt til fantasien, når den behandler borgernes synspunkter. På klassisk manér har Rambøll således fået 1.000 repræsentativt udvalgte danskere til at svare i undersøgelsen, som det efter klassisk statistisk metode hør og bør sig.

Dermed er derfor også signifikant vægt bag signalet til det offentlige Danmark, når borgerne på så kraftig vis kræver, at beslutninger i det offentlige kun overlades til mennesker af kød og blod.

Hvis man ikke fra offentlig side på uklædelig vis vil tromle en teknologisk udrulning ud over befolkningen, er det af den allerstørste vigtighed, at it-beslutningstagerne lægger låg på egen begejstring og lytter til borgere og eksperter.

Kunstig intelligens kan sagtens være et blandt mange værktøjer i fremtidens arsenal, men det offentlige må ikke se bort fra nødvendigheden af nøglebegreber som transparens og tillid.

Borgerne har krav på indsigt i, hvilke data det offentlige indsamler og ikke mindst, hvordan de bruges i det offentlige. Det bør være en grundsætning, også blandt teknologioptimistiske it-beslutningstagere, at staten – det er er os.

Ingen kommentarer endnu.  Start debatten
Debatten
Log ind for at deltage i den videnskabelige debat.