Hvad er det så der er farligt, ved at det er nemmere at programmere?

Som it-bruger oplevede jeg konsekvensen af meget lettere programmering i kølvandet af '3. generation's-værktøjerne 90'-00'erne: halvsystematiske og under-ks'ede it-programmer, som brugerne kom til at bruge mange gange mere tid på. Hvor tidigere dominans af højniveau-programmeringssprog betød, at det fortrinsvist var matematisk kyndige it-folk, der var ekstraordinært velstrukturerede i øverste etage som stod for både programmmer og disses brugerflade.

Den gang var det meget lettere som alm. bruger at lære sig selv at bruge ret komplekse programmer, helt uden it-kurser, fordi programmerne var meget mere logiske og velstrukturerede.

Den lettere adgang til programmering boostede også den alle stedsnærværende, pågående markedsføring samt it-kriminalitet med hvad deraf fulgte.

Overført til trafikken ville den nævnte it-udvikling svare til, at alle trafikanter hver især fik mulighed for at udvikle egne adhoc færdselsregler, begrundet med 'demokratisering'...

Det må så være sådanne effekter, uoverskueligt rod, aggressiv markedsføring og kriminalitet, man vel fremover må forvente mange gange forstærket via AI.

Dette mener jeg vist er en trossag(?), som jeg ikke helt deler. Evt. når der er sket tilstrækkelig ophoben af selvlærende og stadig ekspanderende kunstig intelligens, vil den (eller snarere de) før eller siden opføre sig som generel intelligens, herunder opføre sig som om der er en art bevisthed.

Jamen, det er jeg enig i, Lone Bech. Udviklingen går den vej med stormskridt - jeg mener bare at have forstået, at vi ikke er der endnu. Men det er det, de to eksperter, jeg lige nu henviser til, er overbeviste om kommer til at ske inden længe. Og de er ikke alene:"350 førende tech-folk advarer om, at kunstig intelligens kan blive lige så dødbringende som atomvåben"https://www.dr.dk/nyheder/seneste/350-foerende-tech-folk-advarer-om-kunstig-intelligens-kan-blive-lige-saa

Jeg kan godt forstå bekymringen, men det lidt BS. Hvis jeg får viden fra forskellige aviser og nyheder, og laver min egen artikel baseret på den viden uden at kopiere indholdet direkte, er det bare at bruge min viden, og lovligt. Når en generativ AI gør det samme er det tyveri? Jo, processerne er forskellige, men resultatet meget ens.

Der er mange andre grunde til at være skeptisk overfor at give AI frit spil, men det her virker som en mindre af dem.

afledte nøgler og limited show, kan muligvis være en del af løsningen, men også disse har udfordringer sådan som et verifikation flow i praksis vil fungere. i praksis vil udstederen af det limited show claim skulle bruge en return url, for at bruger af siden der efterspørger en alders verifikation, vil komme tilbage til siden, efter claimet med limited show er blevet udstedt. Det vil i praksis betyde at udstederen af de limited show claims, vil kunne overvåge borgerne, med det omtalte Kinesiske forbillede...

Andre flows kan helt sikkert implementeres, men de vil endten resultater i samme overvågningsmuligheder eller være gøre brugervenlighed temmelig lav.

Smiley-ordning.....

Ikke andet end symptombehandling med en medicin, som meget hurtigt vil miste sin effekt.

Jeg vil foreslå ministeren - og alle andre, som tager AI-problemet alvorligt - at bruge nogle timer i påsken til at se dette nye interview, hvor Yudkowsky uddyber sine advarsler om snarlig udslettelse af alt liv:

https://www.youtube.com/watch?v=_8q9bjNHeSo

Jeg vil opfordre ministeren - og alle andre - til at se det for deres børns skyld... Det skylder vi dem: At bruge 3 timer på faktisk at sætte sig ind i, hvad den aktuelle AI-udvikling indebærer, inden man freder det.

Der skal nok være nogen der har haft mulighed for at bruge AI i årvis. Men, disse er sandsynligvis ikke terrorister.

Det sidste er så din trossag, hvor jeg omvendt finder det mærkeligt om hightek ikke forlængst er involveret også dér. Tænk over hvor mange, der har udført terroragtige handlinger, ala køre ind i en menneskemængde, skoleskyderier oa. - efter at de har hørt stemmer. Hver gang udlægges det, som om de pågældende har en psykose.

Selv har jeg hørt stemmer i 10-12 år, og det er lykkes mig at optage dem med en alm musikoptager. Noget med IoT og smarte lydteknikker, og involverende en god portion adfærdsvanskelig AI. 'Mine stemmer' har på umådelig mange måder forsøgt at trække mig rundt ved næsen og presse mig til dit og dat, blandt meget andet ønsker de ½-delen af min pension.

Ret mange nutidige 'hallucinationer' eller rettere 'illusioner' burde frem for psykiatrien placeres under retsvæsenet og illusionisterne bedst bevaret bag tremmer (sammen med en god portion AI). Så ville en del 'psykisk syge' få et fredeligere liv uden at skade hverken sig selv eller andre. Desuden ville DK spare en måske ikke uvæsentlig del af de angiveligt over 100 mia., som psykiatri med det hele koster samfundet.