Undersøgelse: De færreste har styr på risici fra AI-systemer

AI fortsætter med at buldre ind i flere og flere virksomheder og overtage flere og flere opgaver. Men mange selskaber forsømmer at håndtere de risici, der følger med teknologien.

Sådan lyder en af konklusionerne i en undersøgelse, som konsulenthuset McKinsey har gennemført. Her har lidt over 1.000 virksomheder, der har taget AI i brug, svaret på, hvordan teknikken udnyttes og styres. 

»Mens brugen af AI stiger, ser vi et voksende misforhold i brugen af best practice og risiko-principper,« udtaler McKinsey-partner Liz Grennan i forbindelse med undersøgelsen State of AI 2021. 

»Jeg tror, det er fordi, det er komplekse systemer. Og jeg ved ikke om virksomheder har overblikket til at forstå, hvor AI bruges og i hvilke use cases. Hvis ikke du har den gennemsigtighed, kan du ikke regulere risici.«

McKinsey-undersøgelsen opdeler respondenter i to kategorier: High performers og alle andre. High performers er kendetegnet ved, at de tilskriver mindst 20 procent af virksomhedens driftsresultat til deres brug af AI. 

Alligevel er det blandt high performers kun 43 procent, der fortæller, at de gentræner modeller, når problemer detekteres. Og 42 procent, der holder jævnligt øje med data og concept drift - altså om forholdet mellem input og output skrider over tid.