Dette indlæg er alene udtryk for skribentens egen holdning.

Skal det være forbudt at lade digital humans agere salgsassistenter?

31. maj kl. 05:02
Telving & Co
Illustration: Telving & Co.
Ny teknologi giver etiske udfordringer hinsides dataetik. Digital humans’ potentiale for kommerciel manipulation er så stort, at den eneste fair løsning overfor erhvervslivet kan blive at forbyde visse typer af brug. Sådan skriver kommunikationsrådgiver og foredragsholder, Thomas Telving, i dette synspunkt.
Artiklen er ældre end 30 dage

Over de næste par år bliver mange chatbots erstattet af såkaldte digital humans: Animerede mennesker, der kan løse alverdens opgaver inden for skærmbaseret kommunikation. Fra kundeservice og salg til marketing, underholdning og meget andet. Producenterne reklamerer blandt andet med, at digital humans har fire gange så høje conversion rates som almindelige chatbots. Det er med andre ord en teknologi, der vil være i stand til at give selv den bedste recommender-algoritme baghjul.

Vores fornuft sættes på pause

Der er forskellige årsager til, at digital humans er en ekstremt potent teknologi i forhold til meget af det, vi tidligere har set. En af dem er, at selvom vi med fornuften godt ved, at de består af computerkode, er vi tilbøjelige til at tillægge dem menneskelige egenskaber. Vi udvikler empati med dem og får, bevidst eller ubevidst, en form for følelser for dem, ligesom vi kan få den opfattelse, at de også nærer følelser for os.

En anden årsag til, at digital humans får en helt særlig betydning for vores måde at være på nettet på, er, at de med effektiv data-integration vil kunne designes til at matche hver enkelt bruger. Noget, der vil være i stand til yderligere at forstærke den følelsesmæssige påvirkning.

Artiklen fortsætter efter annoncen

Resultatet er en teknologi, der på effektiv vis kan manipulere vores hjerner og nedsætte vores evne til at træffe frie, fornuftsbaserede valg – og dermed også vores evne til at passe på penge, værdier og værdighed.

Er øget omsætning altid godt?

Alt det ovenstående er overfladisk betragtet godt nyt for e-handlen. Hvilken webshop-ejer vil ikke gerne øge omsætningen?

Spørgsmålet er, om det også er godt nyt for forbrugeren, for slet ikke at tale om klimaet og kloden som sådan. Hvis teknologien er så effektiv, som producenterne lover, er brugen af den ikke kun et forretningsmæssigt valg. Den er også et etisk valg. Lige så vel som Instagram og TikTok arbejder målrettet, hyper-effektivt (og fuldt lovligt) på at tage tid og opmærksomhed fra mindreårige, skal vi så som virksomheder også nødvendigvis bruge alle lovlige midler på få fingre i forbrugernes penge? Mange er enige i, at de sociale medier har etiske udfordringer, men er det tænkeligt, at digital humans også kan blive så effektive, at vi må sige, at her stopper vores lyst til at bruge teknologien – selvom vi kan tjene endog rigtig gode penge på den?

CO2-aftrykket fra Amazons algoritme

Hvis man hører til dem, der mener, at overforbrug er en del af klimaproblemet, virker det åbenlyst, at man kan få alvorlige etiske vanskeligheder ved at adoptere teknologien. I forvejen booster digitale værktøjer vores forbrug i helt ekstrem grad. På Amazon bliver omtrent 30% af varerne f.eks. solgt af en recommender-algoritme (prøv i øvrigt lige at regne CO2-aftrykket ud for den!). Intelligent teknologi er altså allerede i dag virkelig stærk, men de klassiske recommender algoritmer vil være det rene vand i forhold til, hvor effektive digital humans bliver, når – eller hvis – de vinder udbredelse i salgsprocessen. Det kommer til at sætte helt nye standarder for webshopping, som næppe være til gavn for miljøet, hvis deres målsætning alene er at sælge så meget som muligt.

Jævnfør vores tilbøjelighed til at udvikle følelser for teknologien og dermed miste en del af af dømmekraften, kan man samtidig diskutere, om det i sidste ende er til gavn for forbrugeren: Køber man noget, man senere vil synes var en god investering? Eller køber man noget, man bare var psykologisk tilbøjelig til at købe i et uovervejet øjeblik?

Sælgerens dilemma

Som konsulent med speciale i digital markedsføring skal jeg hilse og sige, at det er nemmere at afvise en effektiv salgsteknologi her – i en klumme på DataTech – end på et kundemøde. At afvise et godt værktøj, fordi man mener, at det simpelthen er for godt, er tæt på at være mere, end man kan forlange af folk, der lever af at sælge og skabe meromsætning.

Netop i den pointe ligger måske et hint om, om ikke vi i stedet bør sætte juridiske grænser for teknologien, så konkurrencen trods alt bliver ens for alle. Alternativet vil være, at de mest kyniske giver sig i kast med teknologien, mens andre, mere etisk mindede, sidder tilbage og taber markedsandele.

Forbud eller advarselslamper?

Et forbud er et voldsomt skridt at tage. En mildere tilgang vil være at lave en mærkningsordning. At lade den besøgende vide, at hun eller han taler med en digital person og ikke et rigtigt menneske vil gøre en forskel. Forskning viser, at vores tilbøjelighed til at opfatte robotter som levende kan påvirkes ganske meget af, hvordan de frames. Det vil altså sige, at hvis de beskrives som ”døde maskiner” vil vi i nogen grad tro på det, hvilket formentlig vil mindske maskinens evne til at lege med vores følelser.

Desværre løser en mærkningsordning næppe problemet i dybden. Andre undersøgelser, som jeg også refererer i min nye bog, Killing Sophia, viser, at det er et generelt menneskeligt træk, at vi har svært ved at bevare en fornuftens kølighed overfor maskiner, der ligner mennesker. Også selvom vi rationelt set godt ved, at de er maskiner. At tillægge dem menneskelige egenskaber og udvikle empati med dem sker helt intuitivt og omgår vores fornuft.

Det er en løbende diskussion, hvor vi skal give en etisk forpligtelse støtte fra lovgivning. Vores etiske kompas bliver kun stærkere af at blive brugt, og det bliver det ikke, hvis alt er reguleret af jura. Derfor er der grund til at tænke sig godt om, før man beder om ny lovgivning.

Hvornår er regulering i fælles interesse?

Omvendt kan det give konkurrencemæssig uretfærdighed at lade for meget være op til etik. Man skal ikke være blind for, at efterspørgslen på digital humans bestemt ikke kun vil komme fra virksomhederne. Det må forventes, at den også kommer fra forbrugerne, fordi teknologien simpelthen er sjov og fascinerende. Det gør dilemmaet endnu sværere, for ønsker vi at regulere os ud af noget, både virksomheder og forbrugere ønsker at tage til sig?

Hvor mange procent skal det øge forbruget af ting og sager med, før vi kan blive enige om, at det ikke er i vores fælles interesse?

Vil du bidrage til debatten med et synspunkt? Så skriv til vores PRO debatredaktion på pro-sekretariat@ing.dk

Ingen kommentarer endnu.  Start debatten
Debatten
Log ind eller opret en bruger for at deltage i debatten.
settingsDebatindstillinger