100 millioner afsat til forskning: AI rammer demokratiet som et jordskælv

Foto : Artmagination / Bigstock

100 millioner afsat til forskning: AI rammer demokratiet som et jordskælv

Vurderinger truffet af machine learning er svære at gennemskue. Selv for dem, der skal træffe vigtige beslutninger på baggrund af dem, lyder det fra Velux-fonden, der er klar med 100 millioner til forskning i området.

Version2: Hvad enten du skal kreditvurderes, din risiko for langtidsledighed skal gøres op, eller du bare sidder og scroller på Facebook, bliver du påvirket af algoritmer i dagens Danmark. Jo mere vi digitaliserer, desto større indflydelse får diverse software selvsagt på vores liv og samfund.

Derfor har Velux-fonden nu igangsat et projekt, der med i alt 100 millioner fra fonden skal undersøge machine learnings indvirkning på samfundet nærmere.

Velux-fonden vurderer nemlig, vi er nødt til at blive klogere på, hvordan vi får det bedste ud af den machine learning-baserede del af digitaliseringen. Desuden skal pengene hjælpe med at finde ud af, hvordan vi undgår de negative konsekvenser, der begynder at dukke op.

»AI udfordrer ikke demokratiet stille og roligt, men rammer det som jordskælv. Pludselig er et valg blevet manipuleret, eller en person dømt uretfærdigt af en algoritme,« siger Thomas Bjørnsholm, forskningsdirektør i Villum-fonden, der er Velux-fondens naturvidenskabelige søsterfond. Projektet er et samarbejde mellem de to fonde.

Voksende indflydelse på samfundet

I flere tilfælde får såkaldt machine learning større og større indflydelse på vores dagligdag, liv og beslutninger.

Blandt andet beskriver Harvard-professoren Shoshana Zubanoff i hendes bog The Age of Surveillance Capitalism, hvordan sociale mediegiganter som Facebook med nutidens teknologi er i stand til at manipulere vores valg, uden at vi som individer bemærker det.

Og det gør de udelukkende ved at styre, hvad vi ser, med diverse automatiserede dataindsamlings- og reklamealgoritmer.

»Cambridge Analytica er et supergodt, konkret eksempel på, hvordan machine learning påvirker vores demokrati,« siger Thomas Bjørnsholm og refererer til skandalen, der afslørede, hvordan data fra Facebook kan påvirke kæmpestore, demokratiske valg i både England og USA.

Derudover er der de tidligere eksempler, hvor danske myndigheder og virksomheder går ind og estimerer risikoen for langtidsledighed eller kreditvurderer kunder med machine learning.

»Machine learning er uigennemskueligt for de fleste, inklusive dem, der skal træffe beslutningerne i et eller andet scenarie. Er der en løsning på det? Det vil vi undersøge,« siger Henrik Tronier, der er programchef hos Velux-fonden.

Sidst men ikke mindst er der de såkaldte deep fake-teknologier, der med stadig større præcision kan ændre video-, lyd- og billedmateriale. Det bruges både til at lave falsk porno med kendte, men også til at få politikere til at sige ting, de aldrig har sagt.

Samtidig er der en masse gode ting, machine learning kan bruges til. Blandt andet gennemgang af store mængder kræftscanninger med henblik på diagnosticering og meget mere.

Tværfaglig forskning

Når begge Velux-fondens fonde, både den humaniora-baserede og naturvidenskabelige, er aktiverede, er det fordi, det er ambitionen, at forskningsprojektet skal være tværfagligt.

Den betydelige pengesum skal altså sørge for, at ‘forskere der har forstand på demokrati, samfund og mennesker skal arbejde tæt sammen med forskere, der har forstand på digitalisering, algoritmer, machine learning’, som Thomas Bjørnsholm formulerer det.

Samtidig skal 20 af de 100 millioner gå til løbende udbredelse af forskernes resultater og til at føde ind i forskningen med input, der ikke kommer fra forskerverdenen. Eksempelvis fra borgermøder, organisationer, der arbejder med problematikkerne og så fremdeles.

»Vi gør os ikke kloge på noget«

Præcis hvilke emner der skal behandles med midlerne, vides endnu ikke. Indtil den 1 maj 2020 kan forskere byde ind med emner, de mener, der kunne være interessante at behandle.

»Vi gør os ikke kloge på, hvor skoen trykker, det skal vi høre forskerne om. Efter den 1 maj inviterer vi, efter en ekstern ekspertbedømmelse, til fulde ansøgninger, der indsendes 1. oktober 2020. Det bedste projekt vælges i begyndelsen af 2021,« siger Henrik Tronier, der har store forventninger til projektet:

»Det er tale om en unik mulighed for forskerne. Det er et stort projekt, og det er over ti år, så der burde kunne komme noget banebrydende ud af det - både for forskningen og samfundet.«