EU: Generativ AI skal omfattes af ophavsretsregler

Det er ikke brugen af AI, der er farlig. Det er folk, der stoler blindt på AIernes svar og bruger dem til at træffe beslutninger me store konsekvenser, der der problemet. Og, nej, det er ikke det samme som at sige "guns don't kill people, people kill people", som ellers er et yndet argument hos modstandere af våbenkontrol. Man kan generelt stole på våben: Hvis man bevidst peger på en person med en pistol og trykker på aftrækkeren, kan man være ret sikker på det ønskede udfald. Man kan ikke stole på, at man får et pålideligt resultat, hvis man stiller en AI et spørgsmål, men svaret i sig selv skader ikke nogen. Det er kun de handlinger, som mennesker foretager på baggrund af AIens svar, i den tro at svarene er korrekte, der kan være skadelige. Hvis f.eks. en patient får forkert behandling, hvis en selvkørende bil tørner direkte ind i en fodgænger, eller hvis en farlig person får våbentilladelse på grund af en AIs fejlagtige råd, så ligger den egentlige fejl ikke hos AIen, men hos den person, det firma, eller den myndighed, der uden tilstrækkelig verifikation af AIens svar træffer potentielt farlige beslutninger på baggrund af disse svar.

Så det giver ikke mening at standse forskning i eller udvikling af AI. Det, der giver mening, er at regulere brugen af AI til at træffe beslutninger om personer, uanset om det er om deres kreditværdighed, helbred, eller troværdighed. Det vil kræve, at AIen ikke alene giver et svar, men forklarer, hvordan den er nået frem til svaret på en sådan måde, at forklaringen kan verificeres af et menneske eller anden troværdig instans.

F.eks. skal man ikke spørge en AI "is 20996017 a prime?", men "give me a machine checkable proof or disproof of whether 20996017 is a prime". Et svar vil enten være beviseligt korrekt (og derfor brugbart) eller ikke (og derfor ikke brugbart), men man vil vide hvornår det er tilfældet. Hvis AIen bare siger "yes, 20996017 is a prime" eller "no, 20996017 is not a prime" har man ikke nogen chance for at vide om svaret er brugbart. At AIen er trænet på en milliard primtal og ikke-primtal er ikke nogen brugbar garanti for, at den generelt kan adskille primtal og ikke-primtal.

Når vi selv skal sige det:"»Mod konservative ønsker om mere overvågning på den ene side og venstreorienterede fantasier om overregulering på den anden fandt parlamentet et solidt kompromis, der ville regulere kunstig intelligens proportionalt, beskytte borgernes rettigheder samt fremme innovation og sætte gang i økonomien,« siger europaparlamentariker Svenja Hahn fra den liberale gruppe Renew Europe, der indeholder medlemmer fra Venstre, Det Radikale Venstre og Moderaterne."

Det er klart, at den liberale gruppe er glade - de har fået deres vilje. I praksis freder man BigTechs videreudrulning af disse teknologier - dette er ikke andet end et pyntekirsebær på en kæmpemødding. Ikke et ord om advarslerne om AI's snarlige overherredømme.

Det er ikke nok - absolut ikke nok.

"Pausing AI Developments Isn't Enough. We Need to Shut it All Down."

"Many researchers steeped in these issues, including myself, expect that the most likely result of building a superhumanly smart AI, under anything remotely like the current circumstances, is that literally everyone on Earth will die. Not as in “maybe possibly some remote chance,” but as in “that is the obvious thing that would happen.” It’s not that you can’t, in principle, survive creating something much smarter than you; it’s that it would require precision and preparation and new scientific insights, and probably not having AI systems composed of giant inscrutable arrays of fractional numbers."https://time.com/6266923/ai-eliezer-yudkowsky-open-letter-not-enough/