DTU Skylab advarer: Nye AI-regler kan spænde ben for europæiske virksomheder

17. januar kl. 05:003
EU parlamentet
Illustration: DALL·E / Therese Moreau.
AI Act kan komme til at koste dyrt for et utilsigtet stort antal AI-startups, vurderes det i en ny europæisk undersøgelse, som spår at op mod 50 procent af virksomhederne vil blive ramt af strenge dokumentationskrav

Når AI Act engang træder i kraft, forventeligt i løbet af de kommende år, vil der blive stillet høje krav til den dokumentation, som en nogle AI-producenter skal kunne fremlægge for myndigheder og kontrolorganer på ethvert givent tidspunkt.

De leverandører, som udarbejder såkaldte ‘højrisiko-systemer’ skal nemlig kunne dokumentere hvordan machine learning-systemerne fungerer. Og de skal kunne bevise, at de ikke risikerer borgernes sundhed, sikkerhed, muligheder og fundamentale rettigheder.

Få fuld adgang til DataTech

DataTech er til professionelle, der arbejder med data og analytics.

Få 3 uger gratis prøve abonnement til DataTech. Betalingskort er ikke påkrævet, og du vil ikke blive flyttet til et betalt abonnement efterfølgende.

Du kan også få tilsendt et tilbud til dig.

Abonnementsfordele
vpn_key
Fuld adgang til DataTech
Alt indhold på DataTech er åbent for dig, så du kan nyde det fra din computer, tablet eller mobil.
drafts
Kuraterede nyhedsbreve
Nyheder, interviews, tendenshistorier og meget mere, leveret til din indbakke.
Adgang til andre medier
Hver måned får du 6 klip, som kan bruges til permanent at låse op for indhold på vores andre medier.
thumb_up
Adgang til debatten
Deltag i debatten med andre professionelle.
3 kommentarer.  Hop til debatten
Debatten
Log ind eller opret en bruger for at deltage i debatten.
settingsDebatindstillinger
3
17. januar kl. 16:24

IT branchen er jo ikke ligefremt kendt for sin høje troværdighed, så skrappe regler er på sin plads. Alt skal jo ikke nødvendigvis udvikles bare fordi man kan, uden tillid til IT-systemerne, gør de mere skade end gavn. Dokumentation er en del af at skabe tillid.

2
17. januar kl. 13:36

Det er een ting er at dokumentere ens egen kode, men der er et meget større problem - open source frameworks.

En stor del af de AI systemer der udvikles idag er baseret på tredieparts frameworks, som for eksempel Tensorflow.

Uden disse frameworks vil det være umuligt for mange af startups/SMV'erne at komme ind i dette markedsområde.

Jeg har ikke set nogle indikationer på/planer for at den dokumentation der kræves af AI Act vil blive lavet.

Jeg kunne godt frygte at AI Act vil dræbe mange startups/SMV'er i EU, så EU kommer til at halte bagefter resten af verden.

Og EU er godt klar over problemet, se https://www.europarl.europa.eu/RegData/etudes/STUD/2021/662908/IPOL_STU(2021)662908_EN.pdf.

En anden interessant artikel der diskuterer AI politik på verdensplan er: https://www.brookings.edu/research/the-geopolitics-of-ai-and-the-rise-of-digital-sovereignty/.

1
17. januar kl. 12:47

Det er helt fint at der kommer også skrappe regler. Ligesom at indsamling af data i Sundhedsvæsnet også er ødelagt af misbrug og manglende sikkerhed. Så man i dag ikke deltager i undersøgelser eller opgiver forkerte detaljer.

Et system skal måske slet ikke bruges eller udvikles, hvis ikke man kan løfte bevisbyrden på at det virker og hvordan.

Hvis tolder kun standser personer af anden etnisk oprindelse, så kommer de også til at fylde meget i statistiken, et system basere på det vil så kun stoppe dem. Mange steder er der jo liggende fejl. Skal højtuddannet undersøges mere for kraft, da de jo tit bliver udredt tidligere.