Dansk Standard på vej med specifikationer for AI-beslutningsstøtte i det offentlige

Foto : Drawlab19 / Bigstock

Dansk Standard på vej med specifikationer for AI-beslutningsstøtte i det offentlige

Kunstig intelligens i den offentlige sagsbehandling stiller krav til etik og ansvarlighed, lyder det.

VERSION2: To nye specifikationer fra Dansk Standard skal fremover vejlede anvendelsen af kunstig intelligens i den offentlige forvaltning.

Specifikationerne er checklister, der består af spørgsmål, man skal stille sig selv, og som udgangspunkt anvender de overordnede faser i statens it-projektmodel: Idé, Analyse, Gennemførelse, Realisering og Afslutning.

De enkelte faser indeholder mange aktiviteter, og det er svært at koge det sammen. Men det handler kort sagt, om hvilke overvejelser man skal gøre sig i forbindelse med de forskellige faser i it-projektet.

Det fortæller konsulent i Dansk Standard Kim Skov Hilding i en mail til Version2.

 Kim Skov Hilding fra Dansk Standard
»Kunstig intelligens anvendt til beslutningsstøtte i offentlig sagsbehandling kræver i særlig grad, at der stilles en række spørgsmål for at sikre etisk og ansvarlig brug,« mener Kim Skov Hilding fra Dansk Standard, der står bag to kommende specifikationer om gennemsigtighed og beslutningsstøtte med AI i den offentlige forvaltning.
Illustration: Dansk Standard

Ikke krav men guidelines

Specifikationerne indeholder anbefalinger, information og gode råd. Der er således ikke tale om krav, der skal overholdes, men om guidelines.

Specifikationerne er udarbejdet ved hjælp af input fra danske interessenter gennem workshops, interviews og skriftlige kommentarer og bygger på en række principper og retningslinjer for etisk anvendelse af kunstig intelligens, blandt andet af EU og OECD, som udbygger generelle retningslinjer for ansvarlig udvikling af it-systemer

Der er tale om to specifikationer, hvor den første beskæftiger sig med gennemsigtighed og den anden om beslutningsstøttende anvendelse i offentlig sagsbehandling.

Om specifikationen om beslutningsstøtte fortæller Kim Skov Hilding:

»Den stigende tilgængelighed af data, herunder data om borgere og tidligere beslutninger, betyder, at der opstår nye muligheder for at anvende kunstig intelligens til beslutningsstøtte i den offentlige sagsbehandling.«

Før enhver anvendelse af et it-værktøj bør der stilles spørgsmål til, hvorfor og hvordan det anvendes i en given situation.

»Kunstig intelligens anvendt til beslutningsstøtte i offentlig sagsbehandling kræver i særlig grad, at der stilles en række spørgsmål for at sikre etisk og ansvarlig brug.«

Bred målgruppe for specifikationer

I specifikationen om beslutningsstøtte angives en checkliste for relevante overvejelser i de forskellige faser i it-projekter, hvor det offentlige bruger AI i sagsbehandlingen. Disse overvejelser medtages i grundlaget for krav og løsninger, samt i beslutningen om at udføre aktiviteter og gå videre til næste fase i it-systemets livscyklus. Det er brugerens ansvar at afgøre, hvorvidt checklisten er anvendelig til et givet formål.

Målgruppen er designere, udviklere, udbydere, indkøbere, tilsynsførere og brugere af kunstig intelligens til beslutningsstøtte i offentlig sagsbehandling, som ønsker eller er forpligtede til at evaluere systemets anvendelse.

En sekundær målgruppe er de interessenter, der er berørt af systemet, fx myndigheder og borgere generelt.

Specifikationerne omfatter ikke lovgivning og særlige krav, der kan være ved anvendelse af beslutningsstøtte indenfor specifikke domæner.

De skal anvendes sammen med organisationens eksisterende retningslinjer for sikring af overholdelse af regler, blandt andet håndtering af privatliv, cybersikkerhed, robusthed af it-løsninger, data governance, klage- og appel-håndtering, samt lovgivning.

Specifikationen for beslutningsstøtte beskæftiger sig ikke direkte med transparens i kunstig intelligens, men kan bruges sammen med den anden specifikation om gennemsigtighed, der anbefaler fremgangsmåder til at opnå gennemsigtighed i systemer, som anvendes til automatiske beslutninger eller beslutningsstøtte.

Specifikationerne forventes offentliggjort i løbet af april.

De formelle navne er 'DS/PAS 2500-1: 2020, Kunstig intelligens – Del 1: Gennemsigtighed' og 'DS/PAS 2500-1: 2020, Kunstig intelligens – Del 2: Beslutningsstøttende anvendelse i offentlig sagsbehandling'.

Faser i et AI-projekt

Dansk Standards kommende specifikationer om AI i det offentlige er ikke retningslinjer, men checklister, der består af spørgsmål, man skal stille sig selv, og som udgangspunkt anvender de overordnede faser i statens it-projektmodel. De enkelte faser indeholder mange aktiviteter, men det handler kort sagt om hvilke overvejelser man skal gøre sig i forbindelse med de forskellige faser i it-projektet.

Idéfasen
Denne fase bør som minimum indeholde identifikation af ønskede gevinster, mulige løsninger og mulige risici samt håndtering af risici.

Analysefasen
Denne fase bør som minimum indeholde validering af løsninger i forhold til ønskede gevinster og risici, og specifikation af krav.

Gennemførelsesfasen
Denne fase indeholder design, udvikling, integration og test.

Realiseringsfasen
Denne fase indeholder monitorering, evaluering, vedligehold af systemet eller dele af systemet, herunder personhenførbare data, der ikke længere er nødvendige.

Afslutningsfasen
Ved afskaffelse af et system er der nogle bestemte krav, som bringes i spil. Disse krav drejer sig fx om, hvorvidt data håndteres korrekt (typisk i forhold til lovgivning). Det kan også omhandle bevaring af dokumentation for algoritmen, der blev anvendt i forbindelse med en afgørelse.

Kilde: Dansk Standard.