Jeg har opdaget en lille sjov detalje ved ChatGPT. Hvis man spørger den om noget, hvor mennesker på nogen måde kan føle sig truet, så svarer den altid noget i retning til sidst som "Derudover er menneskelig vurdering stadig vigtig for at validere og vurdere effektiviteten af de genererede algoritmer. Mens AI-modeller kan assistere i algoritmeoptimering, er det stadig nødvendigt med menneskelig ekspertise til at træffe endelige beslutninger baseret på den kontekst og de behov, der er involveret."

Selvom noget kan løses med AI, er ChatGPT's svar altid, at det ikke kan gøres uden mennesker involveret... Mon den er kodet til, at altid svare det?

Jeg spurgte, om AI i fremtiden vil lære at "håndtere" mennesker. Og tro det eller ej - ChatGPT's svar er, at AI er godt på vej:

Ja, udviklingen af AI inkluderer også forskning i områder som følelsesmæssig intelligens og interaktion med mennesker. Målet er at lære AI-modeller, hvordan de bedst kan håndtere mennesker og interagere med dem på en hensigtsmæssig og hensynsfuld måde.

Der er allerede fremskridt inden for områder som naturligt sprogforståelse og følelsesmæssig analyse, der hjælper AI-modeller med at forstå og reagere på menneskers følelser og intentioner. Derudover undersøges også områder som etik og bias i AI-systemer for at sikre, at de håndterer mennesker retfærdigt og med respekt.

»Alle ved, at det her er den næste kraftfulde ting. Så inden for de næste uger vil vi komme med et udkast til etiske retningslinjer for kunstig intelligens,« siger Margrethe Vestager ifølge ITWatch.

Om dette udsagn kan mane kritikken til ro, tvivler jeg på. Den vil nok blive mere skinger, mens det virkelige problem i ro og mag vokser politikererne over hovedet.

Og der skal ikke så meget til? Der er allerede folk der viderebringer fx chatGPT's orakelsvar som "sandheden".

Men, spørger du ChatGPT gør den netop opmærksom på, at den kan svare forkert, og at det er altid en god idé at bekræfte vigtige oplysninger fra pålidelige kilder eller eksperter. ChatGPT laver ofte åbenlyse fejl, og det er helt utænkeligt at nogen tror på, at ChatGPT's svar altid er korrekte. Ofte svarer ChatGPT dog også korrekt, og i disse tilfælde, kan det give god mening, at viderebringe ChatGPT's svar som sandheden. Videregives ChatGPT's svar som sandheden, går de altid igennem et menneske først, som har muligheden for at vurdere svaret, og kun viderebringe det, hvis de også mener at ChatGPT kommer med et korrekt svar. Derudover er der også et menneske som læser det viderebringne svar, og har muligheden for at frasortere. Der skal således mindst to idioter til, for at et ChatGPT svar bliver accepteret som troværdig, trods det er usandt.

https://www.theguardian.com/us-news/2023/jun/01/us-military-drone-ai-killed-operator-simulated-test

Det er vist ikke nødvendigt at sige så meget mere....

Nu skal man heller ikke bare dreje blindt til venstre på motorvejen, bare fordi Google Maps siger det. Vi skal holde os gode og minde hinanden om, at det er hjælpemidler og ikke livspiloter.

For eksempel kunne alle dokumenter fra advokaterne køres igennem en GPT med instruktioner om at gøre dem forståelige for lægmænd. Det kan dermed hjælpe med at fremme forståelsen mellem to parter, som med høj sandsynlighed har forskellige forståelsesgrundlag.

Dette mener jeg vist er en trossag(?), som jeg ikke helt deler. Evt. når der er sket tilstrækkelig ophoben af selvlærende og stadig ekspanderende kunstig intelligens, vil den (eller snarere de) før eller siden opføre sig som generel intelligens, herunder opføre sig som om der er en art bevisthed.

Jamen, det er jeg enig i, Lone Bech. Udviklingen går den vej med stormskridt - jeg mener bare at have forstået, at vi ikke er der endnu. Men det er det, de to eksperter, jeg lige nu henviser til, er overbeviste om kommer til at ske inden længe. Og de er ikke alene:"350 førende tech-folk advarer om, at kunstig intelligens kan blive lige så dødbringende som atomvåben"https://www.dr.dk/nyheder/seneste/350-foerende-tech-folk-advarer-om-kunstig-intelligens-kan-blive-lige-saa