Institut for Menneskerettigheder: Myndigheder bør fortælle når de bruger AI

Foto : fillvector, Bigstock

Institut for Menneskerettigheder: Myndigheder bør fortælle når de bruger AI

Risiko for diskrimination kræver gennemsigtighed, når det offentlige profilerer med kunstig intelligens. Det vil styrke borgernes retssikkerhed mener Institut for Menneskerettigheder, som kommer med konkrete forslag i ny analyse.
VERSION2: I en retsstat er det et grundlæggende princip, at borgere og offentlighed skal kunne kigge magthaverne i kortene og få indsigt i de processer, der ligger bag love og afgørelser.
Vil du have fuld adgang til DataTech?

DataTech skriver til dig, der arbejder professionelt med data og analytics. Vi giver dig inspirerende cases, nyheder og debat om alt fra Machine Learning-modeller til dataetik.

Prøv DataTech gratis

DataTech giver dig ny viden, cases og erfaringer med at lykkes med AI og data science i praksis. Få 3 ugers gratis og uforpligtende prøveabonnement

Klik her
Anbefalingerne fra Institut for Menneskerettigheder

Udover de øvrige nævnte stiler instituttet disse anbefalinger til myndighederne i analysen:

  • Alle offentlige myndigheder i Danmark, der anvender profileringsmodeller rettet mod borgere, forpligtes til at oplyse borgere om dette og ved afgørelser informere borgere om, hvordan modellen er nået frem til sine resultater.

  • Alle offentlige myndigheder i Danmark, der bruger profileringsmodeller i sagsbehandlingen, forpligtes til at dokumentere, at brugen hverken fører til direkte eller indirekte diskrimination af borgerne. Et sådant krav om dokumentation indebærer blandt andet:

  • At myndigheder forpligtes til at sikre kvaliteten af data til udvikling af profilerings modeller, herunder træningsdata ud fra konkret fastsatte krav, så eksisterende diskriminationsrisici ikke videreføres i profileringsmodellen,

  • At der fastsættes krav om periodiske tests af profileringsmodeller, når de anvendes af offentlige myndigheder i sagsbehandlingen, så det forebygges, at profileringsmodeller over tid forstærker diskriminationsrisici, og

  • At myndigheder har indgående kendskab til, hvornår og hvordan profileringsmodeller risikerer at danne diskriminerende resultater, og at der gennemføres procedurer for at sikre, at myndigheder kontrollerer og om nødvendigt berigtiger modellens resultat.