Human-Computer-Interaction in action

Teknologien er klar til at implementere AI i krævende arbejdsopgaver og processer inden for finans-, bygge-, klima- og sundhedsverdenen. Men de, der i praksis skal anvende AI, er der ikke helt endnu, mener psykolog Astrid Galsgaard.
Brødtekst

Teknologien er der, og den ledelsesmæssige velvilje og handletrang er der. Begge står de klar til at implementere AI i kognitivt krævende arbejdsopgaver og processer inden for finans-, bygge-, klima- og sundhedsverdenen. Men de, der i praksis skal anvende AI, er der ikke helt.

AI, kunstig intelligens, transhumanisme
Illustration: Astrid Galsgaard

Det drejer sig om fagspecialister, der i større eller mindre udtrækning skal interagere med AI-algoritmen om at løse komplekse problemstillinger.

Men ud over de åbenlyse potentielle årsager til modstand og skepsis ved at inddrage AI i sit arbejdsliv som at miste sit job eller blive degraderet til at skulle servicere en maskine (firkantet sagt), når AI skal være en fast bestanddel af opgaveløsningen - så er der også mere subtile, men måske mest tungtvejende elementer.

Jeg har dykket ned i AI i sundhedsverdenen ved at nærlæse forskningen og litteraturen inden for fagområderne computer science, implementeringsforskning og social- og kognitionspsykologien. På den baggrund har jeg sammenstykket et billede bestående af mindst fem elementer, der lader til at være potentielle årsager til skepsis og modstand blandt de praktiserende fagspecialister og dermed potentielt barrierer for en succesfuld implementering af AI i praksis:

  1. frygt for at miste sit job

  2. tab af kontrol over opgaveløsning

  3. manglende kognitiv og emotionel relation til AI

  4. frygt for uetisk praksis

  5. tab af oplevelsen af at have agens - det som i psykologien betegnes som Sense of Agency

 

Jeg vil sætte spot på især det sidste element: Sense of Agency - eller tab af sense of agency - fordi jeg tror, at det er her nogle af svarene på, hvordan AI skal implementeres med størst mulig succes, skal findes.

Sense of Agency defineres inden for psykologifaget som the phenomenon of experience initiating and controlling an action (Braun et al., 2018, p. 1). Tab af sense of agency korrelerer generelt negativt med implementering af nye tiltag inkl. ny teknologi i opgaveløsningen (fx. Desantis et al., 2011), og særligt når ny teknologi opleves som uforudsigelig eller uigennemskuelig (fx Berberian et al., 2012). Der er kun foretaget få studier i sense of agency og AI, men her viser der sig også et billede af, at oplevet ukontrollabel AI fører til tab af sense of agency (fx Diaz et al., 2018).

Sense of agency viser sig generelt at stige, så længe man oplever at ens handlinger har forventede konsekvenser, som man rent faktisk kan registrere med sine bare sanser eller på anden måde mikro-måle (Synofzik et al., 2008). Og måske kan denne dynamik også bruges i implementeringen ved, at dem, der skal anvende teknologien, har mulighed for at afprøve og eksperimentere med forskellige praksisser og forståelsesrammer for netop denne interaktion. Foruden at de selvfølgelig med deres specialviden skal være med til at udvikle teknologien med softwareeksperterne i første omgang.

Og netop udvikling af praksis for interaktion med AI - i praksis - er, hvad sygeplejersker på Duke University Hospital har opnået. Et par af hospitalets sygeplejersker på gulvet blev trætte af, at en implementeret AI-algoritme i deres computersystem alarmerede højt og enerverende i tide og utide, uden at nogen på afdelingen foretog sig noget anden end at slukke den. Sygeplejersker besluttede derfor at gøre en indsats for at forstå, hvad AI faktisk gjorde og kunne bruges til, og efter grundigt feltarbejde fik de drejet afdelingens generelle indstilling til og udvikling af praksis for daglige anvendelse af AI til detektion af indlagte patienter i kritisk tilstand (Wired, 2. oktober 2020).

Så hvordan kommer vi herhjemme i Danmark videre med brugen af AI-støtte? Teknologien og den ledelsesmæssige vilje er som sagt på plads, men det er ikke nok.

Jeg vil i et samarbejde med Radiologisk AI Testcenter (RAIT) undersøge, hvordan AIs potentiale udnyttes bedst muligt til at hjælpe os mennesker med at løse komplekse og vigtige opgaver, hvad end det er inden for sundhed, klima, økonomi eller sociale udfordringer. Og det vil jeg gøre ved at undersøge fagspecialisters interaktion med AI.

Min grundværdi er, at AI skal være tillids-vækkende fremfor tillids-svækkende (vi skal være kolleger fremfor konkurrenter).

Mit fokus er at bidrage til meningsfuld og psykologisk set bæredygtig implementering af AI (udover økonomisk og fagligt bæredygtig).

Mit faglige ståsted er teknopsykologien dvs interaktionen mellem menneske/organisation og intelligent maskine og deres gensidige påvirkning og hver især transformation (som jeg udfolder og udvikler løbende på min blog på Ingeniøren).

Min arena er sundhedsvæsenet med radiologien som omdrejningspunkt.

Hvordan jeg kommer i mål med min mission, og hvilke udfordringer og erkendelser jeg opnår undervejs - vil jeg løbende præsentere på min blog på Ingeniøren.

Dette synspunkt har tidligere været bragt på Ingeniøren.