Datatilsynet: Ledige må ikke profileres med algoritmer bare fordi de samtykker

9. august kl. 07:3019
jobcenter
Illustration: Mads Claus Rasmussen/Ritzau Scanpix.
Afgørelsen kan rive tæppet væk under kommunernes algoritmeprojekter, men virksomheden bag algoritme til profilering af ledige borgere afviser, at data behandles på baggrund af samtykke.
Artiklen er ældre end 30 dage

Kommuner der anvender algoritmer i forsøget på at forudsige borgeres ledighedsforløb kan ikke bruge samtykke som grundlag for behandlingen af borgernes data. Sagt med andre ord er det ikke lovligt at profilere ledige borgere, blot fordi borgerne selv siger god for det.

Det bliver slået fast i en ny udtalelse fra Datatilsynet, der konkret har forholdt sig til, om borgerne kan samtykke til at blive profileret af den såkaldte LTU-algoritme.

Få fuld adgang til DataTech

DataTech er til professionelle, der arbejder med data og analytics.

Få 3 uger gratis prøve abonnement til DataTech. Betalingskort er ikke påkrævet, og du vil ikke blive flyttet til et betalt abonnement efterfølgende.

Du kan også få tilsendt et tilbud til dig.

Abonnementsfordele
vpn_key
Fuld adgang til DataTech
Alt indhold på DataTech er åbent for dig, så du kan nyde det fra din computer, tablet eller mobil.
drafts
Kuraterede nyhedsbreve
Nyheder, interviews, tendenshistorier og meget mere, leveret til din indbakke.
Adgang til andre medier
Hver måned får du 6 klip, som kan bruges til permanent at låse op for indhold på vores andre medier.
thumb_up
Adgang til debatten
Deltag i debatten med andre professionelle.
19 kommentarer.  Hop til debatten
Debatten
Log ind eller opret en bruger for at deltage i debatten.
settingsDebatindstillinger
19
12. august kl. 08:58

Til dem, der ikke har fattet det endnu: Hvis ikke nogen sætter foden eftertrykkeligt ned, er vejen til totalovervågning ikke lang. I Norge har tech-idioterne (mon Singularity University gemmer sig et eller andet sted i baggrunden?) fået en ny god idé:

"Norges svar på Danmarks Statistik kræver at få udleveret alle folks indkøbsboner fra supermarkederne og transaktionsdata fra Nets for mere detaljeret at kunne følge befolkningens forbrug. Dagligvarekæderne kalder det systematisk overvågning og nægter."

Heldigvis plejer Norge at have et forbilledligt Datatilsyn. Jeg bliver skuffet, hvis de ikke griber ind.

Herhjemme har vi Storebox. Gad vide, hvad der nu om dage bliver af de data? Oprindeligt blev de nemlig høstet og videregivet til forskning.

Spørger man Michael Knudsen, direktør for Job og velfærd hos Schultz, som har udviklet LTU-algoritmen, fornemmer man en vis undren. Schultz har nemlig aldrig rådgivet kommunerne om, at borgernes samtykke giver lov til profilering.

Hvorfor det netop er Schultz’ algoritme, der er kommet til at danne grundlag for Datatilsynets afgørelse, er et godt spørgsmål. For »vi er sådan set enige med Datatilsynet,« forklarer Michael Knudsen i et skriftligt svar til Version2.

Er det så mærkeligt? Det undrer mig ikke. Det sker helt sikkert oftere end vi tror... Nogen udvikler en AI til en kunde, kunden bruger AI forkert og/eller vedligeholder den ikke, AI-løsning kommer i søgelyset. Det kan aldrig være udviklerne af AI, der kan beskyldes. Det er kun kunden som har købt og efterfølgende anvendt en AI-løsning, der kan peges fingre ad, hvis noget lugter af lovovertrådelse.

18
11. august kl. 14:25

Dennis, jeg synes du mangler næste sætning i svaret:

Michael Knudsen skriver også, at Schultz har rådgivet kommunerne om, at det er den såkaldte Lov om en aktiv beskæftigelsesindsats (LAB), der blåstempler profilering af ledige borgere

Pointen er ikke at kommunerne anvender AI forkert, men at der ER lovhjemmel og samtykke således er irrelevant.

Så længe AI bruges til at give sagbehandleren det bedste beslutningsgrundlag, men overlader selve beslutningerne til sagsbehandleren ser jeg heller intetpotentielt etisk forkert i det. (Det kunne være en anden sag hvis AI på egen "hånd" - uden menneskelig indblanding - traf beslutninger og eksekverede dem)

Der bliver ikke indsamlet flere eller mere følsomme informationer om borgeren end der i forvejen er indhentet, så der ændres heller ikke ved de GDPR forudsætninger, der er for den pågældende databehandling.

Så dybest set bunder miseren i at kommunerne ikke har oplyst den tilstrækkelige lovhjemmel ved anmeldelsen af system og den tilhørende databehandling til Datatilsynet, men i stedet har "vrøvlet" om samtykke fra borgerne.

14
23. juli kl. 01:43

Det er sjovt som tingene altid bliver vendt på hovedet. Nu er jeg så priviligeret at jeg har bevæget mig på alle niveauer af lavtlønsmarkedet og understøttelse i diverse afskygninger, samt den modsatte ende af skalaen. Jeg har aldrig oplevet noget så stressende og hårdt som, køkken, rengøring, løsarbejder inden for jord og beton, selvstændig, vikararbejde, kontanthjælp, dagpenge. Samt aldrig oplevet noget så let, tilfredsstillende og højtlønnet som IT faget (det er lige før det grænser til for meget weinerbrød og flødekager). Og nej, det sidste er ikke mere værd, det kan i mange tilfælde undværes.

Der er et tydeligt skæld i samfundet hvor de mennesker der har valgt et år eller to ekstra på skolebænken, stort set kan læne sig tilbage og nyde livet i overflod (og brokke sig over rengøringsdamen eller maden i kantinen). Til tider kan jeg slet ikke forholde mig til deres "problemer", da det virker som totalt overflødigt og irelevant i forhold til grundlæggende overlevelse (husleje, el, vand, mad, transport, børn og evt. en biograftur som erstatning for en tur til Tennerif osv.).

Hele idéen om at screene nedslidte (psykisk såvel som fysisk) mennesker er absurd.

Vi har et "kaste" samfund, hvor 1/2 af samfundet arbejder under tvang (de har reelt ingen muligheder for at sige fra og skal finde sig i alt hvad de oplever dagligt).

Fundementalt set har vi fået et overakademiseret samfund, hvor man degraderer reelt arbejde og på magisk vis får ophøjet teoretisk arbejde til gudestatus.

Jeg ved ikke om borgerløn er løsningen, men omfordeling uden forpligtelser som man kan leve af ville være et ordentligt samfund værdigt. Der skulle helst være en reel løn på rengøringsarbejdet som kan få folk til aktivt at tilvælge det, som en attraktiv stilling.

Og for at være helt ærlig. Hvis min arbejdsgiver kom til mig imorgen for at fortælle mig at der ikke er nogen lønstigning (på 5 %), fordi køkken og rengøringspersonalet har krævet det dobbelte i løn, ville det ikke røre en tøddel ved min nuværende possition.

Den dag man belønner folk for at tage de jobs ingen andre vil have, tager jeg hatten af. Den eneste måde at gøre det på er ved at sikre folk der ikke "gider", at tage et job et ordentligt forsørgelsesgrundlag, så de har mulighed for at fravælge (arbejde og løn dermed bliver et tilvalg og udsat for konkurrence frem for slaveri).

10
21. juli kl. 12:38
  • Ikke al forskning er god forskning. Der findes uetisk forskning.
  • Der er alt, alt for mange penge i sundhedsforskning til, at diverse private aktører skal spinde yderligere guld på borgernes privatliv uden deres samtykke. Det burde i højere grad komme det offentlige tilgode. Medicinalgiganterne hugger/køber alligevel deres ideer fra den offentlige forskning. Grænsen mellem offentlig og privat forskning er blevet alt for udflydende.
  • Man kan godt være positivt indstillet overfor at dele data med konkrete forskningsprojekter, uden at være positivt indstillet overfor alle forskningsprojekter. Som det er nu, er det i vid udstrækning enten "Ja" eller "Nej".
  • Man kan godt være positivt indstillet overfor at dele data med konkrete forskningsprojekter, uden at være indstillet på, at data så skal kunne videregives til et ukendt antal andre forskere.
  • Medicinalgiganterne sidder i udstrakt grad på deres egne data som forretningshemmeligheder.
11
21. juli kl. 13:10

Ikke al forskning er god forskning. Der findes uetisk forskning.

Hvis et givent projekt overskrider gældende lovgivning, er det ikke samtykkesituationen at man kan håndtere dette.

Der er alt, alt for mange penge i sundhedsforskning til, at diverse private aktører skal spinde yderligere guld på borgernes privatliv uden deres samtykke.

Det er en sætning uden mening. Sagen angår data man netop samtykker til at dele.

Man kan godt være positivt indstillet overfor at dele data med konkrete forskningsprojekter, uden at være positivt indstillet overfor alle forskningsprojekter.

Det er først og fremmest ikke rimeligt at præsentere en a la carte menu med igangværende projekter, som borgeren skal tage stilling til i samtykkeøjeblikket.

Og for det andet er det meningsløst. Der vil kun være nul eller ganske få åbne forskningsprojekter med relevans for data i samtykkeøjeblikket.

Ideen er at data er tilgængeligt langt bagud i tid, når et potentielt forskningsprojekt kan finde gavn i data.

Grænsen mellem offentlig og privat forskning er blevet alt for udflydende.

Jeg tror de fleste gerne vil undgå planøkonomi, også på forskningsområdet.

Vel er der eksempler på big pharma med uetisk adfærd, men fortløbende at råbe op, som om at de virksomheder er uendeligt onde eller ikke burde eksistere, er bare bemærkelsesværdigt virkelighedsfjernt.

12
21. juli kl. 13:48

Hvis et givent projekt overskrider gældende lovgivning, er det ikke samtykkesituationen at man kan håndtere dette.

Etik er ikke et spørgsmål om lovgivning. Jeg kan godt synes, at noget er uetisk, selv om det måske er lovligt.

"Det er en sætning uden mening. Sagen angår data man netop samtykker til at dele."

Måske misforstod jeg dig, men jeg forstod, at du mente, at samtykke burde være ligegyldigt, da målet helliger midlet?

"Det er først og fremmest ikke rimeligt at præsentere en a la carte menu med igangværende projekter, som borgeren skal tage stilling til i samtykkeøjeblikket. Og for det andet er det meningsløst. Der vil kun være nul eller ganske få åbne forskningsprojekter med relevans for data i samtykkeøjeblikket. Ideen er at data er tilgængeligt langt bagud i tid, når et potentielt forskningsprojekt kan finde gavn i data."

Det er så din mening. Det går uden om problemet med, at man kan være uenig i nogle af de formål, data kan blive brugt til.

"Jeg tror de fleste gerne vil undgå planøkonomi, også på forskningsområdet. Vel er der eksempler på big pharma med uetisk adfærd, men fortløbende at råbe op, som om at de virksomheder er uendeligt onde eller ikke burde eksistere, er bare bemærkelsesværdigt virkelighedsfjernt."

Det er så din mening, hvilket bare er en mening. Jeg vil foreslå dig at læse nogle af Peter Gøtzsches bøger, f. eks. " Dødelig medicin og organiseret kriminalitet", så vil du se, at det virkelighedsfjerne er at benægte kriminaliteten i BigPharma.

6
21. juli kl. 04:10

Har netop skrevet speciale om signaturprojekterne, og havde aldrig overhovedet overvejet at stille spørgsmålstegn ved lovligheden af dem... Nu var det heller ikke det, specialet omhandlede, men jeg har da haft persondataret, og man skal ikke læse særligt langt i den store bog om GDPR for at opdage, at det offentliges myndighedsudøvelse ikke kan basere sig på samtykke - det skal hjemles ved lov. Det er faktisk noget helt grundlovsmæssigt, der skal sikre borgernes retssikkerhed mod Staten og holde sidstnævnte ansvarlig.

17
2. august kl. 17:58

Hej. Det er egentlig fortrolighedsstemplet, men som udgangspunkt er det heller ikke et speciale, jeg er specielt stolt af, og du vil ikke få noget ud af at læse det.

4
20. juli kl. 13:50

Måske er det dette "princip" der gælder:

Legalitetsprincippet er et retsprincip, der indebærer, at myndighedsbeslutninger, som griber ind i menneskers frihed og rettigheder, altid skal have hjemmel i lov. Kravet om lovhjemmel har især betydning inden for strafferetten; det strafferetlige legalitetsprincip er bl.a. formuleret i FN's Verdenserklæring om Menneskerettigheder og i Den Europæiske Menneskerettighedskonvention samt mht. dansk ret i Straffelovens § 1.

5
20. juli kl. 20:46

Nej, der står direkte i artiklen og er iøvrigt en grundpille i GPDR, at et samtykke skal være givet frivilligt, hvilket ikke er tilfældet hvis personen frygter at et evt afslag på samtykke, kan betyde mistede rettigheder, og det uanset om denne frygt, måtte være begrundet eller ej.

Hvis man kommer i kontakt med det danske sundhedsvæsen, bliver man som patient forøvrigt stillet overfor samme dilemma, idet man bliver bedt om en række samtykker, hvoraf en del slet ikke er nødvendig af hensyn til behandlingen, men hvilket kan være svært at gennemskue for den enkelte.

F.eks. bedes der om samtykke til patients data må benyttes til forskning og undervisningsbrug, hvilket måske nok tjener et "godt" formål, men som altså ikke er nødvendigt.

7
21. juli kl. 11:33

F.eks. bedes der om samtykke til patients data må benyttes til forskning og undervisningsbrug, hvilket måske nok tjener et "godt" formål, men som altså ikke er nødvendigt.

Forbedring og udvikling af behandlinger er stærkt afhængigt af, at fagpersoner kan lære af både individuelle og aggregerede behandlingsforløb, dvs. af indsigt i persondata.

Der bedes idag om et samtykke, for at denne datadeling kan finde sted.

Foreslår du at fjerne samtykket? Og i så fald, hvorledes skal fagområderne lære af de konkrete behandlingsforløb?

Eller skal al fremtidig forbedring af behandlinger alene bero på lænestolsforskning og ingen indsigt i data?

Eller er det kun andre og ikke bare ikke "en selv" der skal dele data?

De fleste ønsker den bedst mulige og mest kompetente behandling når først man er ramt af ulykken. Dvs. man nyder godt af tusindevis af tidligere behandlinger, hvor data om behandlingen er indgået i udviklingen af bedst mulige behandling.

Jeg har svært ved at se hvordan man moralsk kan retfærdiggøre, at afvise at dele disse data.

Der kan sikkert være sjældne særlige omstændigheder, men generelt for alle og inklusive kendisser og milliardærer, så er det korrekte moralske valg at lade sine data indgå i til forskning og undervisning.

Eller hvad er argumentet for at holde på data?

9
21. juli kl. 12:23

Pointen er vel ligeså meget at samtykke til deling af data ikke strengt taget er nødvendigt for at behandle en person? Det kan gøre det nemmere og i forbindelse med sundhedsdata er det fantastisk at kunne have som grundlag for forskning og folk bør helt klart i min bog give samtykke til det, så man kan gøre tingene bedre på så godt et grundlag som muligt. Men det er ikke et krav for behandling at du giver samtykke til det og det bør klart fremgå.

Ikke at man ikke gerne vil dele sine data. Det står bare ikke helt klart når du sidder med samtykkeerklæringen, hvorfor du bør give samtykke og at samtykke ikke er nødvendigt for at du bliver behandlet. Der burde stå klart og tydeligt i samtykkeerklæringen med store bogstaver at den del af samtykke som vedrører deling af data til forskning og undervisningsbrug er fuldstændigt frivilligt og på ingen måde og under ingen omstændigheder påvirker din behandling.

Det gør der bare ikke i klart sprog. Det står på jurasprog med en masse ting, som er indforstået og svært at forstå for den enkelte borger. Og der er vi så tilbage til Datatilsynets afgørelse, som netop henviser til at borgeren ved sit samtykke ikke kan anses at have stået frit til at sige ja eller nej, da konsekvenserne ved at sige nej ikke fremstår klart og tydeligt som værende at der ikke er nogen og at det respekteres af den pågældende offentlige myndighed, i dette tilfælde jobcenteret, som har magten til at bestemme om du skal en offentlig ydelse eller ej.

13
22. juli kl. 16:43

**Tæntk scenarie **

Man kan sammenligne det med det her tænkte scenarie/historie: Til Danmarks Indsamling blev der lige indsamlet 120 mio. kr. til godt formål - en støtte til nogle af fattigste områder i verdenen. Hvem ville ikke støtte sådan et formål?

Efter pengene er indsamlet fra danskerne printes de ud som kontanter og fyldes på åbne lastbiler. Klar til at blive kørt ud til hjælpeorganisationernes kontorer, så de kan udnyttes til gode formål. På lastbilernes vej blæser nogle af kontanterne ud af lastbilerne, og særligt lige på én strækning blæser det altid meget kraftigt. Chaufførerne har ikke altid styr på hvor mange kontanter, som blæser af her. På strækningen ligger der blandt andet et meget kendt og frygtet narkokartel, som kalder sig Zuckerberg. Nogen som ikke er bange for, at have næsen lidt for længe i stofferne. Grunden til kartellets omdømme og succesfulde foretning, skyldes særligt de mange kontanter, som blæser af lastbilerne ude foran deres klubhus. De har derfor råd til at købe de gode stoffer. Og massere af dem.

Kartellet er blevet så stort, at borgerne i området har svært ved, ikke at have en eller anden form for kontakt med dem. Om det er banale trusler eller skjulte agendaer ved de aldrig. Men borgerne ved bare, at kartellet altid har en finger med i spillet. Så meget at selv deres politikere tjener på kartellet, og nogle gange selv, har næsen i de gode stoffer.

En dag i Datakøbing, vil Anders ikke mere… Han vil ikke finde sig i, at kartellet får alle de “gratis” penge. Bare fordi, at organisatørene ikke er bedre til at beskytte lastbilerne. Han har dag ind og dag ud, advaret om hvad der kunne ske med kontanterne. Men de andre borgere og politikkere i området lyttede ikke til hans bekymringer. Selvom de frygtede kartellet, så var de alligevel interesserede i, hvad kartellet kunne tilbyde dem. Guld og grønne skove blev der lovet.

Uanset hvor mange “uheldige” hændelser kartellet var skyld i, så gjorde kartellet jo også mange gode ting for området, fik Anders at vide. De opkøbte store grunde, støttede de lokale forretninger og skabede dialog mellem politikerne og borgerne. Den økonomiske aktivitet havde aldrig været så stor, som nu.

Men… Det måtte stoppe nu! sagde Anders. Han tog derfor sagen i egen hånd. Han tog i byggemarkedet Data Synet. Han havde nemlig hørt, om nogle vilde typer, som måske kunne hjælpe ham. Og han havde ret! Han fik udleveret presenninger, snore, strips! Låse til at sikre sig, at de mange kontanter ville have meget svært ved, at blæse ud af lastbilerne. Kartellets dage ville være talte…

Efter Anders havde sikret lastbilerne, begyndte områdets borgere og politikere at opdage fraværet af kartellet. I starten var de bekymrede for hvad deres fravær ville betyde. Men de opdagede, at de lokale forretninger, dialogen mellem politikkerne og den økonomiske vækst, kunne foregå på andre premisser. Premisser der tilgodeså flere, end de få.

Borgerne og politikerne i Datakøbing levede lykkeligt til deres dages ende.

THE END!

8
21. juli kl. 12:15

Du er helt galt på den!!!! Samtykke handler netop ikke om moral, men at der reel mulighed for at vælge til eller fra.

Mht samtykke til deling af data, må første krav være at det er meget præcist hvem der for adgang til disse data, hvilket ikke har været tilfældet for de samtykker jeg er blevet præsenteret for.

Og ja, samtykker som ikke er nødvendige for en behandling, hører ikke til ifb en konkret behandlingssituation.

Hvis man have disse samtykker, så kunne det passende organiseres på samme måde som med organdonationer m.fl. (og nej, det skal ikke være et krav at man tager stilling - deraf ordet "frivillig")

Det er en udbredt misforståelse, at forskning kun kan udføres hvis man har alle data om alle, men man behøver faktisk kun en statistisk repræsentativ andel, hvilket godt kan opnås ad frivilligheden vej.

1
20. juli kl. 06:50

Spændende artikel, tak...

Det bliver da næsten endnu mere uhyggeligt, hvis profilering kan tages i brug, uden borgernes samtykke - og endda uden at de informeres.

Så er vi da endnu mere ude i ren BigBrother...

Der er aktuelt meget fokus på Mink-hjemmel eller ej. Men her står vi altså i en anden sag, hvor digitaliseringshjernevaskede offentligt ansatte tech-lobbyister og politikere tydeligvis ikke har sikret sig, at der er lovhjemmel, inden diverse signaturprojekter rulles ud. Og det på et område, som omfatter menneskerettigheder, nemlig retten til privatliv.

De har ikke engang været i en tidspresset nødsituation. Er der mon basis for en rigsretsag?

2
20. juli kl. 07:05

En rigsret er en domstol, der dømmer i sager, hvor statsoverhoveder og ministre er anklaget for ulovlig embedsførelse.

Derfor må svaret være nej, der er ikke basis for en rigsretsag når kommuner vælger at bruge LTU algotitmen.

3
20. juli kl. 07:22

Tak for svar, Micheal E.

Det er jeg klar over - jeg anvendte - måske lidt malplaceret - ordet for at understrege alvoren i sagen. I mink-sagen ses det (med rette) som yderst alvorligt, at der ikke var hjemmel på forhånd (det skaffede man så). Det burde vel så også være tilfældet her - en lignende alvor?

Sagen illustrerer den lovløshed, som præger digitaliseringen i Danmark. Ingen sikrer sig lovhjemmel, inden man går i gang med diverse prestige-IT-projekter - hverken embedsfolk, forskere eller ministre sikrer sig lovhjemmel, for IT er hævet over loven.

Sandsynligvis sker der ikke andet i denne sag, end at man trækker nallerne lidt til sig, og så kigger efter kattelemme til at fortsætte. Ingen stilles til ansvar. Men hvorfor skal der ikke placeres et juridisk ansvar også i denne sag, hvor det også ser ud til, at man ikke har sikret sig lovhjemmel, inden man overtrådte borgernes menneskerettigheder?

" Signaturprojekter med kunstig intelligens i kommuner og regioner Regeringen, KL og Danske Regioner har ved aftalen om kommunernes og regionernes økonomi for 2020 oprettet en investeringsfond, der støtter afprøvning af nye teknologier i den offentlige sektor."https://digst.dk/digital-transformation/signaturprojekter/

Har ministre (og der står jo faktisk også ministre bag disse signaturprojekter) og politikere ikke også her en pligt til at sikre sig lovhjemmel, inden man bakker op om projekter, som krænker borgernes rettigheder?