ITU-forsker: »Vi behandler kunstig intelligens som en religion«

Foto : Miguel Sicart

ITU-forsker: »Vi behandler kunstig intelligens som en religion«

Når vi støder på et problem, udvikler vi en softwareløsning til at løse problemet. Forsknings- og kunstprojektet ‘ridiculous.software’ sætter spørgsmålstegn ved den praksis.

VERSION2: Der er software overalt i det moderne samfund. Når vi ser film eller lytter til musik, vil det som oftest være på en anbefaling, som en algoritme har lavet på baggrund af de ting, vi plejer at se eller lytte til.

Når vi som samfund står overfor et problem, så laver vi en app, der skal løse vores problem. Men software er ikke en løsning, og det er slet ikke så magisk en ting, som det for mange bliver til, hvis man spørger forsker ved IT-Universitetet (ITU), Miguel Sicart, der står bag forskningsprojektet Ridiculous.software:

»Hvis vi har et problem, så skal vi nok lave noget software, og især noget kunstig intelligens og dét skal nok løse det. ‘Så tænker jeg: Okay. Nej. Det er ikke sådan, det fungerer,’ «

Eksempelvis nævner Miguel Sicart den smittesporingsapp, der i starten af coronapandemien blev udviklet som et eksempel på den tro, folk har på at software kan løse problemer:

»Det var næsten en tro på, at hvis vi havde sådan en app, så ville det gå bedre med corona og lockdown og alle de ting. Selvom det ikke passer. Det er ét værktøj i et meget mere kompliceret system, der også har noget at gøre med samfundet og hvordan vi relaterer med hinanden og hvordan vi lever sammen. «

Latterlig software

Ridiculous.software vil især gerne lave grin med kunstig intelligens, som de mener har fået et nærmest magisk omdømme. Miguel Sicart peger selv på selvkørende biler der er et eksempel på, forbrugerne opfatter software som noget mere, end det egentlig er:

»Vi vil gerne hen, hvor vi tager det lidt mindre alvorligt, så vi ikke tror at det er magisk. Det er da super fedt at en Tesla kan køre selv, men hold nu op,«

Og for at illustrere netop hvordan en object recognition algoritme, som er det, en Tesla bruger til at holde sig indenfor de hvide striber på vejen, har Sicart udviklet en app, der beror sig på samme software. Appen hedder Probably Not, og dens funktion ligger i navnet: Den kan fortælle dig, hvad du sandsynligvis ikke har taget et billede af.

Prøver man at fotografere sin computermus med Probably NOT-appen kommer den frem til, at det med 97 procents sikkerhed ikke er en musefælde. Appen er baseret på machine learning og bruger object recognition til at analysere dit billede. På baggrund af dette giver den et statistisk baseret bud på, hvad du med højst sandsynligt ikke har taget et billede af.

Appens formål er at gøre kunstig intelligens til noget, man kan grine af, og gøre det mere transparent. Og således også afmystificere eksempelvis de selvkørende biler, der ifølge Sicart bygger på den samme teknologi:

»En Tesla kigger på verden med den samme teknologi, Probably Not bruger. Måske en meget bedre algoritme, flere data, flere kameraer, men stadigvæk. Der er masser af videoer på internettet af selvkørende Teslaer, der tror at månen er et gult trafiklys.«

Miguel Sicart vil gerne væk fra, at vi behandler kunstig intelligens som noget mere og større end statistik baseret på data, som han mener er blevet ophævet til noget nærmest magisk:

»Det er næsten som om, kunstig intelligens er mere end bare statistik. Som om, det er noget magisk der sker i en computer, der gør at den kan se ting og genkende ting i verden og løse problemer for os, uden at vi gør noget.«

Det er i bund og grund statistik, der på baggrund af en række beregninger munder ud i et tal. Og det er derfor, Sicart mener, at man ikke bør gøre kunstig intelligens, til mere end det er:

»Det er ikke en religion. Det er ikke en gud. Det er bare nogle tal, der ‘piler’ op på hinanden.«

Skal tage software ned på jorden

Ridiculous.software har både et videnskabeligt- og kunstnerisk aspekt og ét klart mål: At vise at alt software er latterligt:

»Ridiculous.software er både et forsknings- og kunstnerisk projekt, hvor vi prøver at kritisere den måde, hvorpå vi tror på teknologi. Det handler meget om at kritisere på en sjov måde. Lave lidt grin med den tro vi har på, at vi kan løse problemer KUN med teknologi.«

Forskerne synes, at den forståelse af teknologi er oversimplificeret, og at den desværre er gennemgående i samfundssynet på teknologi og software i særdeleshed. De besluttede sig derfor for, at lave nogle apps, der skal gøre grin med opfattelsen af, at alt kan løses med teknologi.

»I stedet for at være super-akademiske og række fingeren op og sige, ‘nej, nu skal I høre en filosofisk forklaring på hvorfor det ikke er sådan’, så laver vi bare jokes. Det er helt bevidst, at man skal grine, når man ser vores apps, og bruger dem. Det er helt bevidst, at det SKAL være en joke.«

Artiklen fortsætter efter videoen
Se Version2 teste 'Probably Not her:

Video: Mads Lorenzen

Netflix og nudler

Ifølge Miguel Sicart, kommer vores tiltro til algoritmer også til udtryk i vores valg af blandt andet vores valg af musik, film og bøger. Eller mangel på valg.

Når Netflix anbefaler film, gør den det, baseret på en statistik over hvilke film, du har set før. Det resultat, du ifølge statistikken med størst sandsynlighed vil kunne lide, er den film, du vil få anbefalet. Det samme gør sig gældende når vi streamer musik eller køber bøger.

»Det er et selvforstærkende loop. Hvis du spiser nudler hver dag, så kommer den også til at anbefale dig nudler. Men du kommer aldrig til at prøve anden slags mad, fordi du tror på at det algoritmen anbefaler er det rigtige. Men du skal også huske at prøve noget andet, ikke?«

Sicart kunne godt ønske sig, at de algoritmer, der genererer anbefalinger lå lidt tættere opad den måde, han har designet Probably Not-appen, således at det ikke altid var det største statistiske match, man fik serveret. Men noget nyt:

»Så bliver verden lidt større. Vi ser mere end den verden, der er statistisk bedst for os. Det er det, jeg gerne vil skubbe lidt til. en verden, hvor vi, rent teknologisk, faktisk kan komme med en løsning, der giver mere diversitet. Hvad hvis vi tænker på et problem på en anden måde? Så det handler ikke om at give den bedste løsning, det handler om at give en anden slags løsning.«

Ambitioner for fremtiden

Miguel Sicart og ridiculous.software er i gang med at skrive deres næste forskningsartikel samt udvikle deres næste app, som han håber bliver tilgængelig i januar. Denne gang har Sicart rettet fokus mod de algoritmer, som blandt andet de sociale medier Instagram og Tiktok bruger til at udvælge det indhold, der bliver prioriteret først:

En algoritme baseret på kunstig intelligens bestemmer om det billede du har taget er ‘godt’ eller ‘ikke godt', og hvis det ikke er godt, så kan du ikke gemme det. Så du tager et billede, og så vurderer den det, og hvis den ikke synes det er godt, så forsvinder det.

»Jeg vil gerne skrue det op på 11, og sige at du skal samarbejde med en kunstig intelligens, der har smag. Så nu arbejder jeg med at træne en machine learning model med god smag. På en meget radikal måde."«

Den nye ridiculous.software app har endnu ikke fået et navn, men Miguel Sicart er åben for forslag til navne den nye app.

Prøv DataTech gratis

DataTech giver dig ny viden, cases og erfaringer med at lykkes med AI og data science i praksis. Få 3 ugers gratis og uforpligtende prøveabonnement

Klik her