Professor: Den sorte boks er allerede åben - kausalitet er det næste AI-forklaringsproblem

Foto : VadimGuzhva / Bigstock

Professor: Den sorte boks er allerede åben - kausalitet er det næste AI-forklaringsproblem

Modeller, der kan udpege årsag og virkning, er det nye problem i forklaringen af AI-algoritmer. Det kræver eksperimenter med mennesker af den slags, som kendes fra medicinsk forskning. Sådan fortæller dansk forsker bag ny bog om emnet.
Der er meget snak om sorte bokse i machine learning og kunstig intelligens. Men det problem er faktisk løst i dag.  Det næste problem i forhold til at skabe modeller, hvor resultater bag domme kan forklares til mennesker, er at få kausalitet - årsag-virkningssammenhænge - med i modellen. Men det kræver eksperimenter med mennesker, af den slags, som man eksempelvis bruger i medicinsk forskning.
Vil du have fuld adgang til DataTech?

DataTech skriver til dig, der arbejder professionelt med data og analytics. Vi giver dig inspirerende cases, nyheder og debat om alt fra Machine Learning-modeller til dataetik.

Lars Kai Hansen
Lars Kai Hansen
Illustration: DTU

Lars Kai Hansen er professor ved DTU Compute.