LEDER Stop den frie leg i det offentliges AI-eksperimenter

17. februar kl. 05:0011
leder, ingeniøren mener, lederlogo
Illustration: Ingeniøren.
person
Artiklen er ældre end 30 dage
person

Kunstig intelligens kan hjælpe Danmark med at løse store samfundsudfordringer som at frigøre hænder til borgernær velfærd og hjælpe os til at bruge vores ressourcer bedre i den grønne omstillings navn. Sådan lød det fra en begejstret digitaliserings- og ligestillingsminister Marie Bjerre (V), da Digitaliseringsstyrelsen i sidste uge gjorde status over kommuner og regioners forsøg med AI-teknologi på tværs af alt fra beskæftigelse til sundhed og administration.

Læs hele artiklen

DataTech er til professionelle, der arbejder med data og analytics.

Få 3 ugers gratis prøveabonnement. Betalingskort er ikke påkrævet, og du bliver ikke flyttet til et betalt abonnement efterfølgende.

Du kan også få tilsendt et tilbud til dig.

Få prøveabonnementLog ind
IDA-medlemmer og PLUS-abonnenter kan gratis læse op til 6 artikler om måneden. Maks. 1 artikel pr. PRO-medie.
Abonnementsfordele
vpn_key
Fuld adgang til DataTech
Alt indhold på DataTech er åbent for dig, så du kan nyde det fra din computer, tablet eller mobil.
drafts
Kuraterede nyhedsbreve
Nyheder, interviews, tendenshistorier og meget mere, leveret til din indbakke.
Adgang til andre medier
Hver måned får du 6 klip, som kan bruges til permanent at låse op for indhold på vores andre medier.
thumb_up
Adgang til debatten
Deltag i debatten med andre professionelle.
11 kommentarer.  Hop til debatten

Fortsæt din læsning

Debatten
Log ind eller opret en bruger for at deltage i debatten.
settingsDebatindstillinger
11
Anne-Marie Krogsbøll
18. februar kl. 07:10

Da jeg af en eller anden grund ikke kan svare på tråden om fejlagtige indlogninger på andres MItId, lægger jeg lige en foreløbig kommentar her:

https://www.version2.dk/artikel/myndigheder-moerklaegger-sager-borgere-loggede-uvidende-ind-i-andres-mitid#comment-1761175

Jeg forstår stadig ikke, at det kan være en brugerfejl, for det bør vel slet ikke kunne lade sig gøre at komme til? Er det ikke det, artiklen handler om?

  • more_vert
    • insert_linkKopier link
Skrevet på Version2
5
Jimmy Klitgaard
17. februar kl. 14:14

Lederen forleder læseren og viderebringer fejlagtige informationer.

Der er rigeligt, at kritisere omkring anvendelsen og hypet omkring AI, om man får værdi ud af de penge man investerer, og hvad strategien er omkring AI i det offentlige, men det skal bør gøres på et grundlag af korrekte argumenter.

  1. Signaturprojekter: Lederen kritiserer, at projekterne 'end ikke er klar til at gå i drift'. Det er signaturprojekter! De laves jo netop for at afprøve om der er hold i teknologien, inden man smider penge efter projekter i større skala. Det er li'som ideen bag.

  2. Aalborg kommunes projekt er beskrevet helt forkert. Lederen skriver, at Aalborg kommunes projekt "kan hjælpe kommunen med at prioritere, hvilke ældre borgere der skal have tilbudt et hjælpemiddel til fysisk træning"

Der står i rapporten, at "Projektet viste, at den kunstige intelligens var i stand til at forudsige om et træningsforløb i forbindelse med bevilling af et hjælpemiddel ville kunne gavne en borger." og gevinstrealisering er: "En analyse fra kommunen har vist, at for hver time, den ældre borger træner, kan kommunen skære ca. 10 timers hjemmepleje årligt".

Ja, det lyder da tosset at lave et AI system til at vurdere om en borger skal have et hjælpemiddel. Til gengæld lyder det fornuftigt at vurdere om borgeren skal tilbydes et træningsforløb.

Det er slapt af ingeniøren, at I ikke læser teksten grundigt nok inden I formidler information.

Når det er sagt: Der er helt klart AI projekter, som aldrig skulle have påbegyndt, og der er fortsat langt fra AI skåltalerne til AI løsninger, der indfrier de lovede potentialer.

  • more_vert
    • insert_linkKopier link
Skrevet på Version2
7
Carsten Stenberg
17. februar kl. 14:43

Men selv for signaturprojekter bør der foreligge en seriøs forundersøgelse inden de sættes igang, som Lederen afslutter med at skrive.

Dit eksempel med gevinstrealisering er for den ydelse, som borgeren kan blive tildelt - ikke ved at vurderingen udført med AI - hvilket gør, at den slet ikke skal indregnes for AI-projektet.

  • more_vert
    • insert_linkKopier link
Skrevet på Version2
8
Jimmy Klitgaard
17. februar kl. 22:02

Jeg er ikke uenig i konklusionen af lederen. Der er for meget teknologibegejstring, og alt for få projekter der bliver til brugbare løsninger. Der mangler retning og strategi inden for AI området.

Personlig tænker jeg også, at mange af projekterne er for banale, er oversolgte, eller beskæftiger sig med områder, hvor AI slet ikke har en reel berettigelse.

Men jeg er uenig i argumentationen der ligges til grund for at nå konklusionen: Når der er så meget at tage fat i, så er det ærgerligt, at gengive Aalborg Kommunes projekt fejlagtigt, som lederen gør. Der kammer sagligheden over, og det er helt unødvendigt.

Ligeledes omkring signaturprojekterne: Ja, kræv business case, mere kontrol osv. for de projekter. Det er fint. Kritiser signaturprojekter i sin udformning eller manglende gevinstrealisering (jeg gengav for øvrigt blot rapportens formulering om gevinstrealisering, som jeg står ikke på mål om deres opgørelsesmetode) .. det er også så fint. Jeg synes bare, at det 'dumt' at kritisere projekterne ud fra om de bliver til fuldfærdige produkter, da det sjældent er målet med denne type projekter. Der er netop forskel på projekter og produktudvikling - også på omkostningssiden.

Hvis målet er færdige produkter, så skal luppen sandelig sættes på om produkterne kommer på markedet og business casen indfries. Men det er ikke situation med signaturprojekterne.

Jeg håber, vi kan blive enige om, at projekter skal evalueres ud fra de formål, der er opstillet for projekterne, og ikke alt muligt andet. Formålet er bl.a. beskrevet her:https://digst.dk/digital-transformation/signaturprojekter/ Det havde være fair at 'lederen' i stedet evaluerede og kritiserede projekterne ud fra disse formål - som ikke handler om at lave færdige produkter. Så ville det give mening og være sagligt.

  • more_vert
    • insert_linkKopier link
Skrevet på Version2
3
Torben Mogensen
17. februar kl. 10:10

Kunstig intelligens er lige nu (efter min mening) på toppen af hypekurven, og der er et goldrush for at bruge (og især sælge) systemer med AI til alt, selv om det ikke altid er gennemtænkt. Vi vil nok i de næste par år se luften langsomt sive ud af denne ballon, og forhåbentlig lære noget af det, så vi efter at have nået bunden kan begynde at bruge det mere fornuftigt og knap så kritikløst.

  • more_vert
    • insert_linkKopier link
Skrevet på Version2
6
Tommy Calstrup
17. februar kl. 14:16

Kunstig intelligens er lige nu (efter min mening) på toppen af hypekurven

Jeg er svært bange for, at vi kun er på vej mod "Peak of Inflated Expectations" på Gartners Hype Cycle, mens "Slope og enlightenment" ligger små 10 år ude i fremtiden.

  • more_vert
    • insert_linkKopier link
Skrevet på Version2
4
Mogens Bluhme
17. februar kl. 10:48

der er et goldrush for at bruge (og især sælge)

Der er lige præcis en uheldig alliance mellem ønsketænkning hos offentlige ledere udnyttet af smarte firmaer i at kunne forudsige hvordan borgere udvikler sig. Genetiske fundamentalister proklamerer "du er dine gener" men vi har også andre fundamentalister, som siger "du er dine sociale baggrundsvariable" - sidstnævnte ofte understøttet af et velmenende venstrefløjsnarrativ.

En relativ overhyppighed på 50 % lyder voldsomt men faktisk bliver 6 % af børn alkoholikere mod 4 % af ikke-alkoholikere. Altså 94 % af børnene af alkoholikere bliver ikke selv alkoholikere. Det er det, der i statistik hedder base rate neglect. Og 70 % af alkoholikere kommer fra hjem uden alhoholproblemer (Sandsynligheden for A givet B er ikke det samme som sandsynligheden for B givet A), jævnfør Bayes.

Offentige ledere og politikere - ikke de firmaer der byder sig til - de har kommercielle interesser - mangler ofte basal psykologisk og statistisk indsigt og er dermed nemme ofre for disse firmaers lobbyisme og markedsføring.

  • more_vert
    • insert_linkKopier link
Skrevet på Version2
1
Anne-Marie Krogsbøll
17. februar kl. 06:54

Tak for en god leder.

"prototype på et AI-system, der kan hjælpe kommunen med at prioritere, hvilke ældre borgere der skal have tilbudt et hjælpemiddel til fysisk træning. "

Det projekt kunne jeg godt tænke mig at høre mere om, for i mine ører lyder det bekymrende. Det er muligt, at det kan lade sig gøre, men jeg har simpelthen svært ved at se det for mig. Er det for at erstatte de ergo- og fysioterapeuter, som ellers vurderer den slags? Hvilke data baserer man algoritmerne på?

Hvis en sådan algoritme fejlvurderer, og giver afslag på et berettiget/nødvendigt hjælpemiddel, så er der her tale om en særdeles sårbar gruppe, som med næsten sikkerhed i rigtigt mange tilfælde ikke vil have personlige ressourcer til at gå op imod algoritmen og kæmpe sig igennem klagesystemet. Det er et af de steder, hvor det kan gå rigtigt galt.

En uddybende artikel om dette kunne være spændende.

  • more_vert
    • insert_linkKopier link
Skrevet på Version2
9
Jimmy Klitgaard
17. februar kl. 22:11

Se evt. anden kommentar fra mig. Lederen gengiver projektet forkert. Er helt enig med dig i, at projektet lyder meget bekymrende, som det er beskrevet i lederen.

I rapporten står der: "Projektet viste, at den kunstige intelligens var i stand til at forudsige om et træningsforløb i forbindelse med bevilling af et hjælpemiddel ville kunne gavne en borger."

Jeg kender ikke detaljerne i projektet, men det lyder mere som om, at når borgeren får bevilliget et hjælpemiddel, så kan systemet givet et bud på om borgeren vil kunne have gavn af et træningsforløb.

Det er lidt mindre bekymrende i min optik. En uddybende artikel om projektet vil dog stadig være interessant ;)

  • more_vert
    • insert_linkKopier link
Skrevet på Version2
10
Anne-Marie Krogsbøll
18. februar kl. 07:03

Ja, det er lidt svært at få et klart billede af, hvad det er dette projekt vil kunne gøre bedre end en fysioterapeut, og hvilke data der inddrages.

  • more_vert
    • insert_linkKopier link
Skrevet på Version2