Undersøgelse: De færreste har styr på risici fra AI-systemer

risk risiko spil klodsmajor
Illustration: Megaflopp, Bigstock. Se større version
Der mangler modenhed, mener konsulent.
21. december 2021 kl. 03:08
errorÆldre end 30 dage

AI fortsætter med at buldre ind i flere og flere virksomheder og overtage flere og flere opgaver. Men mange selskaber forsømmer at håndtere de risici, der følger med teknologien.

Sådan lyder en af konklusionerne i en undersøgelse, som konsulenthuset McKinsey har gennemført. Her har lidt over 1.000 virksomheder, der har taget AI i brug, svaret på, hvordan teknikken udnyttes og styres. 

»Mens brugen af AI stiger, ser vi et voksende misforhold i brugen af best practice og risiko-principper,« udtaler McKinsey-partner Liz Grennan i forbindelse med undersøgelsen State of AI 2021. 

»Jeg tror, det er fordi, det er komplekse systemer. Og jeg ved ikke om virksomheder har overblikket til at forstå, hvor AI bruges og i hvilke use cases. Hvis ikke du har den gennemsigtighed, kan du ikke regulere risici.«

McKinsey-undersøgelsen opdeler respondenter i to kategorier: High performers og alle andre. High performers er kendetegnet ved, at de tilskriver mindst 20 procent af virksomhedens driftsresultat til deres brug af AI. 

Alligevel er det blandt high performers kun 43 procent, der fortæller, at de gentræner modeller, når problemer detekteres. Og 42 procent, der holder jævnligt øje med data og concept drift - altså om forholdet mellem input og output skrider over tid. 

Få fuld adgang til DataTech

DataTech skriver til dig, der arbejder professionelt med data og analytics. Vi giver dig inspirerende cases, nyheder og debat om alt fra machine learning-modeller til dataetik. Få tilsendt tilbud

Abonnementsfordele
vpn_key
Fuld adgang til DataTech
Alt indhold på DataTech er åbent for dig, så du kan nyde det fra din computer, tablet eller mobil.
drafts
Kuraterede nyhedsbreve
Nyheder, interviews, tendenshistorier og meget mere, leveret til din indbakke.
thumb_up
Adgang til debatten
Deltag i debatten med andre professionelle.
Debatten
Log ind for at deltage i den videnskabelige debat.