Dataetisk formand revser KL-nedtoning af AI: »Det undrer mig, at KL taler omfanget ned«

Foto : mast3r/Bigstock

Dataetisk formand revser KL-nedtoning af AI: »Det undrer mig, at KL taler omfanget ned«

Nuancering af citat fra avis-interview om ingen AI i kommunerne huer ikke Dataetisk Råd. Formanden undrer sig over, at »KL øjensynligt ser det som sin opgave at tale omfanget af AI ned.« Forskere er også skeptiske

Et citat fra direktør i Kommunernes Landsforening Christian Harsløf i et interview i Politiken d. 4. oktober vakte undren blandt flere, herunder formanden for Dataetisk Råd og flere forskere.

»Debatten giver indtryk af, at vi er langt fremme med brugen af algoritmer. Men det er vi ikke. Robotter, kunstig intelligens og algoritmer findes simpelthen ikke i kommunernes sagsbehandling,« sagde Christian Harsløf i interviewet med avisen.

Udmeldingen fik formanden for Dataetisk Råd, Johan Busse, til at kommentere således på sociale medier:

»KL er i Politiken i dag citeret for at sige, at 'Robotter, kunstig intelligens og algoritmer findes simpelthen ikke i kommunernes sagsbehandling.' Det er forkert og det ved KL godt. De findes i stort antal, gode som dårlige. Hvorfor benægte det?«

Christian Harsløf replicerede samme sted således:

»Vi har ikke kørende kunstig intelligens til sagsbehandling på social- og beskæftigelsesområdet. Alene forsøg og eksperimenter.«

Algoritmer stort set i alle systemer

Også AI-forskeren Thomas Hildebrandt, som er professor på Datalogisk Institut ved København Universitet (KU), undrede sig, med henvisning til Københavns Kommunes arbejde på området, hvor kommunen har søsat 100 RPA-løsninger, såkaldte software-robotter, og tillige benytter kunstig intelligens og algoritmer i en jobcenterløsning.

Christian Harsløf.

Christian Harsløf.

Illustration: Tania Andersen

Thomas Hildebrandt påpegede også, at stort set alle sagsbehandlingssystemer benytter algoritmer.

Lektor i digital forvaltning Hanne Marie Motzfeldt fra KU mente, at der måtte være tale om en misforståelse i interviewet.

Christian Harsløf vil efterfølgende overfor Version2 gerne nuancere citatet i Politiken:

»For jeg kan se, at det har sat gang i en vældig debat. Jeg tror ikke, at mit synspunkt eller det Johan Busse, Thomas Hildebrandt og Hanne Marie Motzfeldt siger, er specielt divergerende.«

Han fortsætter:

»I citatet er der mange ord, der kan bøjes i elastik: Hvad er egentlig sagsbehandling, hvad er administrativt, og hvad er forberedelse osv. Jeg benægter bestemt ikke, at man benytter RPA-løsninger på beskæftigelsesområdet, og jeg er helt bekendt med, at STAR har haft et projekt med profilering på Jobnet. Når jeg ikke forholder mig til det, så er det fordi, Jobnet er en statslig løsning, og jeg udtaler mig på kommunernes vegne.«

Christian Harsløf mener også, at man må se på nuancerne i kommunernes anvendelse af teknologierne:

»Det er så diskussionen: Er det sagsbehandling, eller sagsforberedende? Jeg ved godt, at det lidt bliver en diskussion om ord, og det er sådan set ikke min hensigt. Min hensigt er at få tegnet et realistisk billede af, hvor langt vi egentlig er, med brugen af kunstig intelligens i sagsbehandlingen i Danmark. Og der er vi altså ikke særligt langt. Man får tit det modsatte billede, når man hører diskussionen.«

Det er mennesker, som træffer afgørelser i de danske kommuner, lyder synspunktet fra KL-direktøren.

»Jeg synes, vi skal hylde den danske tilgang. Vi har valgt en klog og forsigtig tilgang omkring brug af algoritmer i social- og beskæftigelsesindsatsen, hvor vi starter småt, vi tester, vi bliver klogere, og så lukker vi det ned, der ikke kan bære, og tager vi vores erfaringer med over til vores næste projekter.«

Dataetisk Råd undrer sig: KL taler omfanget af AI ned

Version2 har forelagt KL-direktørens nye udtalelse for formand i Dataetisk Råd, Johan Busse.

Johan Busse.

Johan Busse.

Illustration: Tania Andersen

»Algoritmer, robotter og AI har et stort potentiale ved løsningen af samfundsopgaver. Det skal vi naturligvis udnytte. Men det bør ske på en lovlig, ansvarlig og dataetisk måde, som også regeringens digitaliseringspartnerskab har peget på i den forgangne uge,« skriver Johan Busse i en mail til Version2.

Kommunerne anvender såvel algoritmer, som robotter og AI-funktioner i forbindelse med behandlingen af borgersager og ved borgerbetjening.

»Og godt for det, men vi har brug for i hvert enkelt tilfælde at vide og diskutere, hvordan anvendelsen af disse systemer påvirker borgernes retssikkerhed, borgerbetjeningen og tilliden til kommunerne.«

Han fortsætter:

»Det er i den sammenhæng meningsløst at pille rundt i sagsbehandlingsbegrebet eller hvem, som har ressortansvaret, da algoritmer, robotter og AI-funktioner påvirker afgørelserne, borgerbetjeningen og tilliden uanset, hvor i processen, de anvendes og uanset hvem, der har tændt for dem.«

Johan Busse slutter:

»Det undrer mig, at KL øjensynligt ser det som sin opgave at tale omfanget ned.«

AI-forsker: Vi har ikke valgt en klog og forsigtig tilgang i Danmark

Professor Thomas Hildebrandt er enig med Christian Harsløf i, at debatten om AI er meget polariseret, og undertiden mudret, fordi ord som robotter, algoritmer og kunstig intelligens kan betyde mange ting for den enkelte.

»Men jeg synes ikke, det hjælper til at gøre debatten mere klar, hvis man begynder at differentiere mellem sagsforberedelse og sagsbehandling, eller hvorvidt det er et statsligt eller et kommunalt system, der benyttes som del af sagsbehandlerens arbejde i kommunen.«

Thomas Hildebrandt.

Thomas Hildebrandt

Illustration: Tania Andersen

Forberedelse af en sag, herunder udvælgelsen af oplysninger og beregninger af risiko-scores for f.eks. langtidsledighed eller mistrivsel, der ligger til grund for beslutningen, påvirker selvfølgelig sagsforløbet, uanset om man kalder det forberedelse eller behandling, vurderer Thomas Hildebrandt.

»Tværtimod, så tror jeg snarere på, at man skal være helt åben om, at algoritmer, software robotter og kunstig intelligens faktisk finder anvendelse i kommunerne, og at der presses massivt fra mange sider for at øge denne anvendelse.«

»Tværtimod, så tror jeg snarere på, at man skal være helt åben om, at algoritmer, software robotter og kunstig intelligens faktisk finder anvendelse i kommunerne, og at der presses massivt fra mange sider for at øge denne anvendelse.«

Og så skal man have fokus på, at algoritmer, software-robotter og kunstig intelligens ikke nødvendigvis er dårlige teknologier, hvis de vel at mærke bruges til at løse de rigtige problemer, lyder synspunktet.

»Her er jeg ikke enig i, at vi har valgt en klog og forsigtig tilgang i Danmark omkring brug af algoritmer i social- og beskæftigelsesindsatsen. Helt konkret mener jeg, at det har været uklogt at både private og offentlige aktører har kastet sig over de prediktive algoritmer – uanset om det er til sagsoplysning eller behandling – før man ved, om det er

et rigtige problem, man løser, om datagrundlaget er godt nok, algoritmernes pålidelighed og deres indflydelse på sagsbehandlingen og vores rettigheder som mennesker og borgere i samfundet.«

Jurist: Rod, hvis vi ikke holder os til den almindeligt anerkendte sprogbrug

Jurist Hanne Marie Motzfeldt, som er lektor på Københavns Universitet, er bange for, at der kan gå roderi i begreberne, hvis man skal skelne mellem ord som 'sagsbehandling' eller 'sagsforberedende', som Christian Harsløf gør det.

Hanne Marie Motzfeldt.

Hanne Marie Motzfeldt.

Illustration: Jacob Nielsen

»For jurister er sagsbehandling ikke en betegnelse, der kun dækker over, at ‘en forvaltningsmyndighed ensidigt ved en sproglig erklæring på et offentligretligt grundlag fastlægger, hvad der er eller skal være gældende ret i forhold til en konkret borger’ (det traditionelle afgørelsesbegreb).«

»Og vi kan altså ikke bare sådan begynde at ændre på rimeligt faste definitioner af, hvad ord betyder – især ikke når vi har en del regler, der gælder for sagsbehandling – afgørelse eller ej. Det bliver noget rod, hvis vi ikke holder os til den almindeligt anerkendte sprogbrug – navnlig da det for praktikere vanskeliggør at gennemskue de retlige rammer, som allerede er tilstrækkeligt kompliceret.«

Prøv DataTech gratis

DataTech giver dig ny viden, cases og erfaringer med at lykkes med AI og data science i praksis. Få 3 ugers gratis og uforpligtende prøveabonnement

Klik her