D-mærket kræver AI med nødstop og klageret: Det er ikke raketvidenskab, det er bare godt håndværk

D-mærket kræver AI med nødstop og klageret: Det er ikke raketvidenskab, det er bare godt håndværk
Illustration: AS Photo Project, Bigstock. Se større version
D-mærket stiller krav til forklarlighed og test i AI-systemer, men det vil være op til virksomheder at argumentere for, hvornår testresultatet og forklaringen er god nok.
14. oktober kl. 04:50
errorÆldre end 30 dage

Hvis en virksomhed vil pryde sig med den nye danske mærkningsordning - D-mærket - skal den blandt andet kunne dokumentere, at AI-systemer bliver testet, og kunne forklare et resultat til dem, som det berører. 

Men det vil i udgangspunkt være op til virksomheden selv at forsvare, hvornår modellen er tilstrækkeligt forklaret, og hvornår testresultatet er godt nok. Det forklarer Mikael Jensen, der er direktør for D-mærket, som blev lanceret i slutningen af september. 

Det centrale princip i D-mærket er, at virksomheder tager bevidst stilling til de forskellige muligheder - og kan forsvare deres valg, siger han. 

»AI er et form for værktøj, så spørgsmålet man skal overveje er, hvilket værktøj er passende til denne opgave. Hvis en stat eller kommune bruger algoritmer til en følsom opgave, så vil man formentlig ønske at have forklarlighed i top. Men hvis du bruger en model til at detektere cancer, ville mange nok foretrække en model, der har super høj præcision, også selvom den er subsymbolsk og ikke umiddelbart kan forklares.«

Den rette strategi afhænger af en vurdering af risikoen ved den specifikke AI use case. 

Få fuld adgang til DataTech

DataTech skriver til dig, der arbejder professionelt med data og analytics. Vi giver dig inspirerende cases, nyheder og debat om alt fra machine learning-modeller til dataetik.

Abonnementsfordele
vpn_key
Fuld adgang til DataTech
Alt indhold på DataTech er åbent for dig, så du kan nyde det fra din computer, tablet eller mobil.
drafts
Kuraterede nyhedsbreve
Nyheder, interviews, tendenshistorier og meget mere, leveret til din indbakke.
thumb_up
Adgang til debatten
Deltag i debatten med andre professionelle.
Debatten
Du har ikke tilladelse til at deltage i debatten. Kontakt support@ing.dk hvis du mener at dette er en fejl.
Forsiden