Tre veje at gå for AI i retslig praksis og beslutningstagen

Højere grad af anvendelse af AI i sagsbehandling vil kræve lovændring, skriver jurastuderende Victoria Sobocki og cand.jur. Niels Damgaard.
AI-algoritmer kan redde liv, strømline bureaukratiske processer og give anledning til nye forretningsmodeller, men de kan også påvirke folks liv og deres arbejde negativt og endda manipulere økonomi, samfund og politik. Mellem såkaldt »algokrati« og »overvågningskapitalisme» bliver algoritmernes rolle gradvist vigtigere og koncentrerer den globale magt i hænderne på meget få virksomheder.[1]
Vil du have fuld adgang til DigiTech?

Husk at være logget ind med den e-mail, hvor du har dit abonnement tilknyttet. Oplever du fortsat udfordringer med din adgang, så skriv til support@ing.dk.

Prøv DigiTech

Få 3 ugers gratis og uforpligtende prøveabonnement

Klik her
Henvisninger:
  1. Boldrini, Nicoletta, Medium, Algocracy and surveillance capitalism: we live in a world governed by algorithms (2017) https://medium.com/@NicBoldrini/algocracy-and-surveillance-capitalism-we-live-in-a-world-governed-by-algorithms- abd1f158186a Tilgået d. 09/04/2021 
  2. Mchangama, Jacob and Liu, Hin-Yan, Foreign Policy, Argument, The Welfare State Is Committing Suicide by Artificial Intelligence (2018) https://foreignpolicy.com/2018/12/25/the-welfare-state-is-committing-suicide-by-artificial-intelligence/ Tilgået d. 09/04/2021
  3. Dickson, Ben, TechTalks, The dangers of trusting black-box machine learning (2020) https://bdtechtalks.com/ 2020/07/27/black-box-ai-models/ Tilgået d. 09/04/2021
  4. Peter Hesseldahl | 25 februar 2020 | ‘Nu Bliver Den Offentlige Sektor Kunstigt Intelligent’ (Mandag Morgen, d. 25. februar 2020) <//www.mm.dk/artikel/nu-bliver-den-offentlige-sektor-kunstigt-intelligent> tilgået 23. marts 2021.
  5. Tania Andersen, ‘Gladsaxe-modellen spøger: Nyt AI-projekt skal forudsige mistrivsel hos børn’ (Version2, 29. januar 2020) <https://www.version2.dk/artikel/gladsaxe-modellen-spoeger-nyt-ai-projekt-skal-forudsige-mistrivsel-hos-boern-1089919> tilgået 20. april 2021.
  6. Invitation til at deltage i projekt Underretninger i fokus, Trygfonden, Via University College, Trygfondens Børneforskningscenter.
  7. Tania Andersen, ‘Ny lov: Arbejdsløse skal dataprofileres og samkøres i landsdækkende register’ (Version2, 15. maj 2019) <https://www.version2.dk/artikel/ny-lov-arbejdsloese-skal-dataprofileres-samkoeres-landsdaekkende-register-1088085> tilgået 25. januar 2021.
  8. Tania Andersen, ‘Sådan kommer Horsens’ bedrageri-algoritme til at se ud’ (Version2, 27. february 2019) <https://www.version2.dk/artikel/saadan-kommer-horsens-bedrageri-algoritme-at-se-ud-1087555> tilgået 20. april 2021.
  9. Viden på Tværs, ‘Kunstig intelligens og machine learning finder vej ind på beskæftigelsesområdet’ (VPT) <https://vpt.dk/jobcenter/kunstig-intelligens-og-machine-learning-finder-vej-ind-pa-beskaeftigelsesomradet> tilgået 20. april 2021.
  10. Brundage M and Danaher J, ‘Cognitive Scarcity and Artificial Intelligence: How Assistive AI Could Alleviate Inequality’ (Philosophical Disquisitions, 15 May 2017) <http:// philosophicaldisquisitions.blogspot.com/2017/05/cognitive-scarcity-and-artificial. html> Tilgået 10/06/2019 
  11. Dickson, Ben, TechTalks, The dangers of trusting black-box machine learning (2020) https://bdtechtalks.com/ 2020/07/27/black-box-ai-models/ Tilgået d. 09/04/2021 
  12. Dickson, Ben, TechTalks, The dangers of trusting black-box machine learning (2020) https://bdtechtalks.com/ 2020/07/27/black-box-ai-models/ Tilgået d. 09/04/2021 
  13. ODSC - Open Data Science, Medium, AI Black Box Horror Stories — When Transparency was Needed More Than Ever (2019) https://medium.com/@ODSC/ai-black-box-horror-stories-when-transparency-was-needed-more-than- ever-3d6ac0439242 Tilgået d. 09/04/2021 
  14. https://www.natlawreview.com/article/would-you-trust-artificially-intelligent-expert Tilgået d. 26/04/2021
  15. KMD, DIGITAL TRANSFORMATION, Maskinerne lærer om din adfærd for at forudsige fremtiden, https://www.kmd.dk/indsigter/maskiner-laerer-om-din-adfaerd Tilgået d. 13/04/2021
  16. https://www.propublica.org/article/how-we-analyzed-the-compas-recidivism-algorithm Tilgået d. 26/04/2021
  17. Contagious Magazine. 2019. ‘Issue 60: Shoshana Zuboff on the age of surveillance capitalism’ https://www.contagious.com/news-and-views/shoshana-zuboff-on-the-age-of-surveillance- capitalism Tilgået d. 13/09/2021. 
  18. Susser, Daniel. 2019. Invisible Influence: Artificial Intelligence and the Ethics of Adaptive Choice Architectures. In Proceedings of the 2019 AAAI/ACM Conference on AI, Ethics, and Society (AIES '19). Association for Computing Machinery, New York, NY, USA, 403–408. 
  19. Clarke, Arthur C., Orion Pub Co, Profiles of the Future: An Inquiry into the Limits of the Possible (1962), ch. 2
  20. Karen Yeung, Why Worry about Decision-Making by Machine? (Oxford University Press) 41–45 <https://oxford.universitypressscholarship.com/view/10.1093/oso/9780198838494.001.0001/oso-9780198838494-chapter-2> Tilgået d. 2 Juni 2021.
  21. Jason D Lohr, Winston J Maxwell and Peter Watts, Legal Practitioners’ Approach to Regulating AI Risks (Oxford University Press) 245–246 <https://oxford.universitypressscholarship.com/view/10.1093/oso/9780198838494.001.0001/oso-9780198838494-chapter-10> Tilgået d. 2 Juni 2021.
  22. https://pro.ing.dk/datatech/article/metoder-inden-explainable-ai-xai-8879 og https://pro.ing.dk/datatech/article/xai-forsker-vi-ved-lidt-om-hvad-der-egentlig-kraeves-af-en-god-forklaring-9740 
  23. https://samvirke.dk/artikler/algoritmer-kan-ogsaa-vaere-groenne Tilgået d. 18/04/2021
  24. https://www.abajournal.com/legalrebels
    /article/a_principled_artificial_intelligence
    _could_improve_justice
    Tilgået d. 26/04/2021
Regulering af AI
Europa Nævnet
Illustration: Europa Nævnet

DataTech har fået økonomisk støtte fra Europa-Nævnet til at sætte journalistisk fokus på arbejdet med at regulere AI

EU-Kommissionen har i år fremlagt et forslag til, hvordan AI skal tøjles. Forude venter således en afgørende offentlig debat, som skal være med til at sikre, at den endelige lovtekst rammer den rigtige blanding af sikkerheder og muligheder. Et fejlskud mod den ene af disse poler kan have alvorlige konsekvenser for Europas evne til succesfuldt at udnytte AI i dette årti. 

DataTech vil i en artikelserie gå i dybden med, hvordan EU konkret vil regulere AI, hvor der er behov for regulering, ligesom vi undersøger, hvordan de specifikke regler rammer ned i det praktiske arbejde med AI i europæiske virksomheder.