AI-artikel meldte ved en fejl lokalpolitiker ud af partiet: »Bør jo slet ikke kunne lade sig gøre«

11. oktober 2022 kl. 10:2018
AI-artikel meldte ved en fejl lokalpolitiker ud af partiet: »Bør jo slet ikke kunne lade sig gøre«
Illustration: mast3r/Bigstock.
En artikel skrevet ved hjælp af kunstig intelligens meldte fejlagtigt et byrådsmedlem ud af sit parti.
person
Artiklen er ældre end 30 dage
person

Online-tjenesten Paqle, der har en robot til at hente artikler fra internettet, blandede to artikler sammen og genererede dermed en ny, hvoraf det fremgik, at byrådsmedlem i Brønderslev Kommune Ole Jespersgaard (S) havde meldt sig ud af Socialdemokratiet – men det havde han bare ikke.

Det skriver DK Nyt.

Læs hele artiklen

DataTech er til professionelle, der arbejder med data og analytics.

Få 3 ugers gratis prøveabonnement. Betalingskort er ikke påkrævet, og du bliver ikke flyttet til et betalt abonnement efterfølgende.

Du kan også få tilsendt et tilbud til dig.

Få prøveabonnementLog ind
IDA-medlemmer og PLUS-abonnenter kan gratis læse op til 6 artikler om måneden. Maks. 1 artikel pr. PRO-medie.
Abonnementsfordele
vpn_key
Fuld adgang til DataTech
Alt indhold på DataTech er åbent for dig, så du kan nyde det fra din computer, tablet eller mobil.
drafts
Kuraterede nyhedsbreve
Nyheder, interviews, tendenshistorier og meget mere, leveret til din indbakke.
Adgang til andre medier
Hver måned får du 6 klip, som kan bruges til permanent at låse op for indhold på vores andre medier.
thumb_up
Adgang til debatten
Deltag i debatten med andre professionelle.
18 kommentarer.  Hop til debatten

Jobs

Dine job
Vis alle

Fortsæt din læsning

Debatten
Log ind eller opret en bruger for at deltage i debatten.
settingsDebatindstillinger
5
Jacob Meibom
12. oktober 2022 kl. 10:08

Kære Lasse,

Du har skrevet en artikel, som jeg synes trænger til nogle præciseringer.

Du skriver: Online-tjenesten Paqle, der har en robot til at hente artikler fra internettet, blandede to artikler sammen og genererede dermed en ny.

Paqle har ikke skrevet nogle artikler. Dit eget link henviser til tjenesten news.leportale.com, som ikke har noget med Paqle at gøre.

Paqle er en søgemaskine med fokus på overvågning af nyheder. Paqle har vist en overskrift og linket til news.leportale.com, men fordi vi nu må konstatere, at news.leportale.com blander nyheder, har vi besluttet ikke længere at vise overskrifter derfra.

På den baggrund har vi også rundsendt et dementi til alle, der følger medieomtale af Ole Jespersgaard på Paqle, hvor vi beklager, at vi har vist indhold på vores søgetjeneste fra news.leportale, som kunne misforstås og at vi fremadrettet ikke vil vise indhold fra denne kilde.

Jacob Meibom, direktør på paqle.dk

  • more_vert
    • insert_linkKopier link
Skrevet på Version2
6
Anne-Marie Krogsbøll
12. oktober 2022 kl. 10:15

Hej Jacob Meilbom.

Tak for uddybning af sagen.

Er du enig i, at AI-indsamlede/genererede nyheder på en eller anden måde bør bære tydelig mærkning?

  • more_vert
    • insert_linkKopier link
Skrevet på Version2
9
Jacob Meibom
12. oktober 2022 kl. 11:26

Nej, det gør vi ikke, men vi er meget interesseret i at finde et koncept for at gøre det. Vi overvåger mere end 130.000 kilder og indekserer mange millioner artikler dagligt. Så konceptet skal kunne skaleres for at give mening. Men jeg er helt enig i, at det er relevant og vigtigt.

  • more_vert
    • insert_linkKopier link
Skrevet på Version2
10
Anne-Marie Krogsbøll
12. oktober 2022 kl. 12:26

men vi er meget interesseret i at finde et koncept for at gøre det

Hvad med simpelthen at bruge en neon-pink skrift, og så en fodnote om, at det betyder, at der er tale om bot-nyheder, som potentielt kan være fake news?

For selv om det er positivt, at I tager ved lære, og har droppet denne leverandør, så ændrer det jo ikke på, at Paqle faktisk videregav noget alvorligt sludder, og at intet vel garanterer, at det ikke vil ske igen med en anden leverandør?

  • more_vert
    • insert_linkKopier link
Skrevet på Version2
11
Jacob Meibom
12. oktober 2022 kl. 12:34

Hovedudfordringen er ikke at lave en markering eller fjerne en nyhed fra et søgeresultat. Hovedudfordringen er at opdage, hvilke nyheder, der er skrevet af en robot eller af anden grund bør markeres eller fjernes.

  • more_vert
    • insert_linkKopier link
Skrevet på Version2
12
Anne-Marie Krogsbøll
12. oktober 2022 kl. 12:39

Men alle nyheder videregivet af Paqle er vel skrevet/redigeret/vurderet af en robot? Så de skal vel bare allesammen skrives med pink?

  • more_vert
    • insert_linkKopier link
Skrevet på Version2
13
Jacob Meibom
12. oktober 2022 kl. 12:58

Paqle hverken skriver, redigerer eller vurderer nyheder. Vi finder andre mediers nyheder. Paqle er en søgemaskine, ligesom Google er en søgemaskine. Hvis vi vidste, hvilke nyheder, der var skrevet af en robot, ville vi gerne markere disse nyheder, så Paqles brugere kunne gøres opmærksomme på, at der var grund til at være særlig kildekritisk i vurderingen af den pågældende information.

  • more_vert
    • insert_linkKopier link
Skrevet på Version2
14
Anne-Marie Krogsbøll
12. oktober 2022 kl. 13:04

Som jeg ser det, er Paqle et led i den fødekæde, som bringer bot-producerede "nyheder" ud til folk. I mine øjne kan Paqle ikke fralægge sig ansvaret for de "nyheder", som viderebringes. Hvis Paqle ikke mener at kunne skelne mellem rigtige nyheder og bot-misforståelser, så er Paqle i mine øjne en del af problemet, og Paqles nyheder burde markeres som sådanne: Potentielt fake news.

  • more_vert
    • insert_linkKopier link
Skrevet på Version2
15
Jacob Meibom
12. oktober 2022 kl. 13:31

I mine øjne er det ikke en løsning at alle søgemaskiner skrev "Potentielt fake news" på alle nyheder. Står et sådan mærkat på alle nyheder, vil man ende med ikke at bemærke det. Den rigtige løsning må være at finde måder at kunne identificere nyheder skrevet af en robot.

Jeg synes også du bør skelne mellem fake news og nyheder skrevet af en robot. Fake news er et samfundsproblem, men de kan både være skrevet af mennesker og robotter.

Nyheder skrevet af en robot er ikke per definition falsk eller dum. Mange vejrudsigter, regnskabstal, sportsresultater mv er skrevet af robotter. Men det gør jo ikke i selv, at disse nyheder er falske. Men sådanne nyheder vil det være godt at kunne markere, som værende skrevet af en robot, så læseren kan hjælpes til at være særlig kildekritisk i forhold til fejl.

  • more_vert
    • insert_linkKopier link
Skrevet på Version2
16
Anne-Marie Krogsbøll
12. oktober 2022 kl. 14:10

Tak for svar, Jacob Meibom. Jeg har et par forståelsesspørgsmål:

  • Hvad er news.leportale.com for en virksomhed? Fungerer den anderledes end Paqle? (jeg synes, det er svært at finde en beskrivelse af den)
  • Hvilke andre kilder benytter Paqle
  • Hvilken anden løsning kunne du foreslå?
  • Hvordan kan Paqle sikre, at den slags ikke sker igen? For faktum er jo, at Paqle har viderebragt fake news - uanset hvordan man så definerer det begreb.
  • Hvilken form for kvalitetssikring indgår i Paqle? Dvs. hvordan sorterer Paqle mellem ægte og falske/fejlagtige nyheder?
  • more_vert
    • insert_linkKopier link
Skrevet på Version2
17
Jacob Meibom
12. oktober 2022 kl. 15:11

Svar nedenfor efter hvert spørgsmål:

Hvad er news.leportale.com for en virksomhed? Fungerer den anderledes end Paqle? (jeg synes, det er svært at finde en beskrivelse af den)

Svar: Jeg kender ikke news.leportale.com

Hvilke andre kilder benytter Paqle?

Svar: Vi bruger primært Infomedia som underleverandør. Deres dataselskab - Opoint - har mange års erfaring med finde og crawle nyhedskilder internationalt. Hvilke der overvåges ændres dagligt. Der er tale om mange tusinde kilder, så spørgsmålet kan ikke besvares fyldestgørende her.

Hvilken anden løsning kunne du foreslå?

Svar: Mit bedste bud er en løsning a la Wikipedia og Trustpilot, hvor brugerne inddrages til at melde ind og angive fejl

Hvordan kan Paqle sikre, at den slags ikke sker igen? For faktum er jo, at Paqle har viderebragt fake news - uanset hvordan man så definerer det begreb. Hvilken form for kvalitetssikring indgår i Paqle? Dvs. hvordan sorterer Paqle mellem ægte og falske/fejlagtige nyheder?

Svar: Vi kan ikke garantere, at det sker igen. Ingen søgemaskine kan garantere mod at indeksere indhold, som ikke burde indekseres. Betyder det, at man skal forbyde søgemaskiner? Det synes jeg ikke. Fordelene ved en søgemaskine overstiger for mig at se ulemperne. Men jeg synes selvfølgelig at man skal tilstræbe hele tiden at forbedre konceptet, f.eks. ved at inddrage brugerne til at medvirke til en mærkning af indholdet.

  • more_vert
    • insert_linkKopier link
Skrevet på Version2
4
Anne-Marie Krogsbøll
12. oktober 2022 kl. 07:31

Dette er enormt skræmmende. Mærkes den type artikler klart og tydeligt - meget klart og tydeligt, f. eks. skriggrøn skrift - med, at der er tale om bot-artikler, og derved potentielt fake news?

Hvis de ikke gør, så haster det da helt enormt med at gennemtvinge en sådan mærkningsordning - hvis man da ikke helt vil forbyde disse, hvad jeg kunne have mest lyst til. En ting er at sætte AI til at skrive tv-serier - noget jeg i forvejen synes er meget trist - men at man overhovedet kan finde på at lade dem skrive nyhedsdækning på egen hånd, det er så de små hår rejser sig i nakken.

Er algoritmen mon offentlig tilgængelig? For hvordan forhindrer man, at den måske ligefrem har skjulte politiske motiver indbygget?

  • more_vert
    • insert_linkKopier link
Skrevet på Version2
3
Ditlev Petersen
11. oktober 2022 kl. 19:55

Så mens vi gruede for Skynet, der blev "self-aware", så er en mere realistisk fremtid en verden af AI'er, der skriver og citerer hinanden - indtil det hele bliver til ren vås.

I'll be back! Watch this space.

  • more_vert
    • insert_linkKopier link
Skrevet på Version2
2
Jarnis Bertelsen
11. oktober 2022 kl. 14:06

Jeg synes artiklen er ekstremt interessant, hvis man læser en smule mellem linjerne.

  1. Paqle (og formentlig mange andre) generer nyhedsartikler, ved at lade en AI sammenflette flere forskellige artikler.
  2. Der er faktisk folk, der læser disse nyheder, og tror på indholdet.
  3. Ind i mellem sker der graverende fejl i sammenfletningen, som resulterer i faktuelt forkerte artikler. 2) gælder også for disse artikler.

Jeg var godt klar over at vi bevægede os i den retning, men det er nyt foe mig, at udviklingen er nået så langt. Det er lidt skræmmende, at folk faktisk stoler på teknologi, der tydeligvis er på så umodent et stadie.

  • more_vert
    • insert_linkKopier link
Skrevet på Version2