Dragoş Tudorache er formand for Europa-Parlamentets AI-komité.
Dragoş Tudorache er formand for Europa-Parlamentets AI-komité.

Foto : Europa-Parlamentet

Faldgruber i AI-lovgivning: »Vi skal ikke gentage fejlen fra GDPR«

GDPR ramte små selskaber og deres evne til at være konkurrencedygtige og compliant. Det skal ikke ske med AI-reguleringen, siger forman for EU-Parlamentets AI-komité.

Når EU-Kommissionen i dette kvartal vil præsentere et nyt lovforslag til regulering af AI i Europa, er der allerede konsensus om flere af de store linjer - som f.eks. at AI skal være bygget med mennesket i centrum og ikke viderebringe eksisterende bias fra den fysiske til den digitale verden. 

Men når det handler om lovens betydning for AI-udviklere og brugere, vil meget afhænge af den konkrete lovtekst, der skal gøre principper til lov. 

»Hvis du giver en instruks med målene for en lov til ti forskellige advokater, vil de alle sammen skrive teksten forskelligt,« bemærker EU-parlamentariker Dragoş Tudorache, der er formand for EU-Parlamentets AI-komité, der har fået til opgave at undersøge konsekvenser og udfordringer for AI.  

»Den store faldgrube er, at vi skriver reglerne på en måde, hvor vi skader det overordnede mål, som er at være konkurrencedygtige, at være kreative og nyskabende, og at være det i Europa og ikke et andet sted.«

Usikkerhed bliver en byrde

De fleste parter er enige om, at AI skal reguleres, alt efter hvor stor en risiko den enkelte applikation udgør for mennesker. 

Men kriterierne for, hvad der konstituerer en høj-risiko AI-applikation, og hvor mange kategorier der er brug for, er stadig til diskussion. Og det kommer til at være en af de afgørende faktorer for, om den kommende lovgivning bliver en succes eller en stopklods for AI-innovation, vurderer Dragoş Tudorache.

»Den største risiko er, at vi laver flere risikokategorier, som er alt for brede,« siger han.

»Hvis vi fanger for meget, så bliver det uklart, hvad vi mener, og alle vil føle sig bundet til at dobbelttjekke og undsige sig selv, fordi de er usikre på, om det, de laver, falder inden for eller uden for kravene.«

»Det i sig selv kan skabe en kæmpe byrde og en hæmmende effekt. Fordi du ikke er fri til at tænke og skabe,« siger Dragoş Tudorache.

Risikabel model i ufarlig sektor

Én model for at afgøre, om AI skulle være risikabel, er ved at se på, om systemet anvendes i en høj-risiko sektor. 

»Men det betyder, at du kan have risikobetonede modeller i en sektor, som ellers ser ufarlig ud. Og omvendt kan du have algoritmer i forsvaret eller retsvæsen, som overhovedet ikke er risikable,« siger Dragoş Tudorache og fortsætter:

»Det tror jeg personligt ikke er den rigtige vej. Vi skal differentiere så meget, som vi kan,«

Dragoş Tudorache tror i stedet på en risikodefinition, der fokuserer på, om systemet påvirker menneskeliv - sådan som det f.eks. kan være tilfældet med AI inden for sundhed, kreditvurdering og forsikring. 

Lektien fra GDPR

En anden faldgrube i arbejdet med den kommende AI-lov er at introducere en helt ny dokumentationsbyrde, som særligt små virksomheder ikke vil have råd til at leve op til. Her må de europæiske lovgivere lære af GDPR, siger Dragoş Tudorache, der er en del af EU-Parlamentets liberale gruppe Forny Europa.

»GDPR ramte små selskaber og deres evne til at være konkurrencedygtige og compliant. Det er noget, som alle anerkender og indrømmer. Store selskaber har råd til at løfte compliance-byrden, små selskaber har ikke. Og det skal ikke ske med AI-reguleringen.«

Der er også positive erfaringer, som arbejdet med databeskyttelsesloven kan give, understreger Dragoş Tudorache. 

»GDPR viste, at hvis du gør det rigtige på det rigtige tidspunkt, så kan du sætte standarder for verden. Det har GDPR gjort, og vi kan gøre det samme på AI, hvis vi som europæere bliver de første, der gør det, og vi gør det godt.« 

Nye AI-tider, nye datasæt

Endnu et stridspunkt, som Dragoş Tudorache endnu ikke har set konsensus omkring, er, hvilke krav loven kan stille til datasæt, der bruges til at træne modeller. 

»De store selskaber har allerede fordelen ved at have indsamlet store mængder data over det seneste årti. De vil ikke have, at vi beder dem lave nye datasæt, fordi vi stiller krav til datasæt for at fjerne bias og diskrimination,« fortæller han. 

»Nye selskaber ser mere favorabelt på det. For dem kan det udligne konkurrencen, fordi alle starter med en renvasket tavle.«

Et andet krav, som kan komme i spil til datasæt til AI, er, at de skal være relevante for europæere. 

»Det er for mange ikke klart, hvad det betyder. Betyder det, at jeg kun skal bruge patientdata fra EU, som måske ikke er særlig tilgængelig til at udvikle f.eks. klinisk AI? Eller kan jeg også bruges data fra Israel og Japan, hvis jeg har det? Det er stadig ikke klart.«

Lyt først

Ifølge Dragoş Tudorache må man forvente at se skrappe krav til datasæt, hvis de bruges til at udvikle modeller til højrisiko-systemer. 

»Hvis du vil lave en algoritme, som f.eks. skal hjælpe dig med at håndtere prøveløsladelser, så er det et legitimt mål. Men når du gør det, kan det datasæt, du bruger, ikke være baseret på tidligere afgørelser, fordi vi ved, at de af natur rumer bias pga. af race og socioøkonomiske faktorer.«

Omvendt er Dragoş Tudorache ikke tilhænger af et decideret forbud mod AI-systemer - sådan som 62 civilrets-organisationer tidligere har efterlyst

»Der er applikationer, sektorer og områder, hvor AI medfører høj risiko. Ansigtsgenkendelse indebærer helt klart høj risiko, men det betyder ikke, at jeg går ind for et forbud. For der kan være brugbare måder at anvende det på.«

Parlamentarikeren understreger dog, at den kommende tid blandt andet skal bruges på at lytte til civilsamfundet og akademikere såvel som industrien. 

»De her teknologier vil have en kæmpe effekt på vores liv over hele linjen - vores personlige liv, vores professionelle liv og vores samfund og demokratier. Det er en god idé at lytte først og så skrive regulering.«

Prøv DataTech gratis

DataTech giver dig ny viden, cases og erfaringer med at lykkes med AI og data science i praksis. Få 3 ugers gratis og uforpligtende prøveabonnement

Klik her
Dragoş Tudorache
Tudorache
Illustration: Tudorache

Dragoş Tudorache er medlem af Europa-Parlamentet for Rumænien og formand for AI-komiteen AIDA (Artificial Intelligence in a Digital Age). Tudorache er tidligere indenrigsminister i Rumænien.  

Regulering af AI
Europa Nævnet
Illustration: Europa Nævnet

DataTech har fået økonomisk støtte fra Europa-Nævnet til at sætte journalistisk fokus på arbejdet med at regulere AI. 

EU-Kommissionen vil i 2021 fremlægge et forslag til, hvordan AI skal tøjles. Forude venter således en afgørende offentlig debat, som skal være med til at sikre, at den endelige lovtekst rammer den rigtige blanding af sikkerheder og muligheder. Et fejlskud mod den ene af disse poler kan have alvorlige konsekvenser for Europas evne til succesfuldt at udnytte AI i dette årti. 

DataTech vil i en artikelserie gå i dybden med, hvordan EU konkret vil regulere AI, hvor der er behov for regulering, ligesom vi undersøger, hvordan de specifikke regler rammer ned i det praktiske arbejde med AI i europæiske virksomheder.