Dette indlæg er alene udtryk for skribentens egen holdning.

Store risici, når AI træffer vigtige beslutninger uden regulering

17. maj kl. 05:30
Johan Nilsson/TT
Illustration: Johan Nilsson/TT.
I dag anvendes algoritmer i stigende grad til at træffe beslutninger i den offentlige forvaltning. I princippet er det en god ting, men da mange beslutninger er komplekse i deres natur, skal denne nye teknologi reguleres, skriver Heike Erkers og Simon Vinge, Akademikerförbundet.
Artiklen er ældre end 30 dage

 

»Vi får brug for regulering af algoritmer og kunstig intelligens, så det bliver muligt at redegøre for, hvad softwaren gør - og derefter kontrollere, at den faktisk gør det, den siger, den gør«. Citatet stammer fra Leif Johansson, der er formand for AstraZeneca og kendt fra en lang karriere i erhvervslivet.

Offentlige forvaltninger på statsligt, regionalt og lokalt plan træffer i stigende grad beslutninger ved hjælp af algoritmer. En del af dette er en positiv udvikling med et stort potentiale. Vi ved alle, at der er mange rutineopgaver, som kan fjernes, og administrative byrder, som kan forenkles. Samtidig er det lige så klart, at denne udvikling kræver regulering mange steder.

Store risici

Vi kan f.eks. se, at robotter træffer beslutninger om økonomisk bistand, og at dele af arbejdsformidlingens vurderingsstøtte er blevet automatiseret.

Artiklen fortsætter efter annoncen

Endnu mere avancerede teknologier baseret på kunstig intelligens er begyndt at blive indført, og vi kan konstatere, at det svenske politi er begyndt at bruge den kontroversielle ansigtsgenkendelsesmetode.

Der er betydelige og indlysende risici, når vi bruger sådanne nye og uprøvede teknologier til at træffe beslutninger, der kan have vidtrækkende konsekvenser for den enkelte. Vi ser risikoen for lækager eller de startvanskeligheder, som alle nye teknologier medfører, og som den offentlige sektor knap nok er begyndt at se på.

Men lige så centralt er spørgsmålet om, hvordan beslutningerne faktisk træffes - og hvem der forstår og kan forklare, hvordan de programmeres. Tag f.eks. økonomisk bistand, som er støtte til de mest sårbare, en kompleks vurdering, hvor lovgivningen kræver en individuel vurdering i hvert enkelt tilfælde. Spørgsmålet er her, om vi ønsker, at erhvervet på vegne af demokratisk valgte repræsentanter i vores kommuner skal foretage disse vurderinger - eller om vi ønsker, at de skal foretages af udenlandske konsulentfirmaer i systemer uden gennemsigtighed og uden mulighed for at forklare sig?

Vi mener, at svaret er indlysende. Der er behov for demokratisk regulering. Vi har presset på i en årrække og har stor opbakning fra mange førende forskere - og fra borgerne. Vi ved, at tilliden til den offentlige sektor er baseret på beslutninger, der kan forstås og følges.



 

Mange af Sveriges kommuner eksperimenterer med automatiseret beslutningstagning og beslutningsstøtte, ofte med begrænset gennemsigtighed, utilstrækkelig dokumentation og uklar juridisk status. Administrationen skal blive mere gennemsigtig, ikke mindre gennemsigtig.

Vi har brug for en klar struktur for, hvordan automatiserede beslutninger skal redegøres for, forstås og kontrolleres. Det løser sig ikke af sig selv, men kræver en politik og en grundig undersøgelse med ekspertise. Det er ikke nok, at 290 kommunale mellemledere bliver ved med at tage til it-messer, hvilket er følelsen af gennemførelsen i dag.

Løfteomkostninger

Vi retter vores krav først og fremmest mod staten. Vi har i flere år rejst dette spørgsmål og de åbenlyse risici, vi ser, men uden at regeringen har reageret. Nu har vi en ny regering, som har mulighed for at handle inden det næste valg. Staten har et ansvar for at vise vejen og fjerne omkostningerne ved at regulere disse spørgsmål fra det lokale niveau. En klar plan ville også give Sverige chancen for at blive et førende land igen - eller i det mindste løfte os op fra sidstepladsen på OECD's liste over digitalisering af den offentlige sektor.

I dag ligger der en række forslag fra to store undersøgelser på bordet. De er under udarbejdelse i regeringskontoret, men på grundlag af dem skal lovgivningen på dette område udvikles radikalt. Og der er gode muligheder! Fordi vi er og forbliver uhelbredelige optimister. Når vi ser på vores medlemmers hverdag i den offentlige sektor, i myndigheder, regioner og kommuner, ser vi et ofte håbløst digitalt arbejdsmiljø. Der er et stort potentiale for effektivitet og automatisering her; fokusér på dette i stedet for at opskalere lovligt usikre og eksperimentelle systemer. For at dette kan ske, er det nødvendigt med en klar lovgivning baseret på princippet om åbenhed. Og det kræver, at spørgsmålet om, hvad der kan automatiseres og gøres bedre i velfærden, stilles til faget og de medarbejdere, der arbejder der - ikke kun til amerikanske konsulenter.

Vil du bidrage til debatten med et synspunkt? Så skriv til vores PRO debatredaktion på pro-sekretariat@ing.dk

Ingen kommentarer endnu.  Start debatten
Debatten
Log ind eller opret en bruger for at deltage i debatten.
settingsDebatindstillinger