XAI

Explainable AI - eller blot XAI - er blevet et af det nye årtis vigtigste koncepter for succes med machine learning. Det kommer formentlig ikke til at afgøre om performance stiger med en eller to procent. Men mens AI-systemer bliver mainstream er tilsynsmyndigheder og lovgivere ved at finde ud af, hvilke krav de vil stille til teknologien. Og mens flere kritiske systemer bygges på AI vil topchefer og bestyrelser forvente at få forklaret, hvorfor modellen anbefaler som den gør. 

I begge tilfælde vil det ikke være nok, at trække på skuldrene og pege på den sorte boks. 

ML-udviklere har brug for rammeværk og konkrete værktøjer til at åbne ellers uigennemsigtige modeller. Og branchen har brug for at diskuttere, hvornår en forklaring er god nok.