Beslutningsunderstøttende algoritmer i det offentlige: påvirkningen af sagsbehandlerens skøn og begrundelse
DOI:
https://doi.org/10.7146/politica.v55i3.140267Keywords:
fagprofessionelt skøn, vurderingsskøn, begrundelse, algoritmer, sagsbehandling, automation bias, black box-paradoksetAbstract
Sagsbehandlerne i forvaltningen skal træffe afgørelser på et oplyst og objektivt grundlag og være i stand til at begrunde afgørelserne. De assisteres dog i stigende grad af beslutningsunderstøttende algoritmer, der er skabt til at generere output fremfor at tilvejebringe en forklaring. Denne udvikling kan effektivisere og forbedre arbejdsgange, men kan også udfordre forvaltningsretlige krav til skøn og begrundelse, der hviler på grundlæggende retssikkerhedsmæssige principper om blandt andet en tilstrækkelig sagsoplysning og forudberegnelighed. Ved at bruge ASTA-rapportens data om sagsbehandleres oplevelser af og praksis med brugen af algoritmer i risikovurderingen af nyledige illustreres, hvordan automation bias og black box-paradokset kan påvirke sagsbehandlerens skøn og begrundelse. Så på trods af en måske mere effektiv håndtering af større datamængder via algoritmer kan det udfordre nogle af retsstatens grundlæggende principper.
References
Adya, Monica og Gloria Phillips-Wren (2020). Stressed decision makers and use of decision aids: A literature review and conceptual model. Information Technology and People 33 (2): 710-754.
Alon-Barkat, Saar og Madalina Busuioc (2022). Human-AI interactions in public sector decision making: “Automation bias” and “selective adherence” to algorithmic advice. Journal of Public Administration Research and Theory 33 (1): 153-169.
Andersen, Søren Stig (2019). eForvaltning på miljøområdet. Tidsskrift for miljø 8: 259-269.
Bryman, Alan (2016). Social research methods. Oxford: Oxford University Press.
Bønsing, Sten (2018). Almindelig forvaltningsret, 4 udgave. København: Jurist- og økonomforbundets forlag
Coglianese, Cary og Alicia Lay (2022). Algorithm vs. algorithm. Duke Law Journal 72: 1281.
Cowan, Nelson (2001). The magical number 4 in short-term memory: A reconsideration of mental storage capacity. Behavioral Brain Science 24 (1): 87-114.
Datatilsynet (2022). Udtalelse fra Datatilsynet: Kommuners hjemmel til AI-profileringsværktøjet Asta. https://www.datatilsynet.dk/afgoerelser/afgoerelser/2022/maj/udtalelse-vedroerende-kommuners-hjemmel (4. januar 2023).
Davis, Fred D. (1989). Perceived usefulness, perceived ease of use, and user acceptance of information technology. MIS Quarterly 13 (3): 319-340.
de Boer, Robert J., Wijnand Heems og Karel Hurts (2014). The duration of automation bias in a realistic setting. The International Journal of Aviation Psychology 24 (4): 287-299.
Dietvorst, Berkeley J., Joseph P. Simmons og Cade Massey (2015). Algorithm aversion: People erroneously avoid algorithms after seeing them err. Journal of Experimental Psychology: General 144 (1): 114-126.
Eubanks, Virginia (2018). Automating inequality. New York: St. Martin’s Press.
Fenger, Niels (red.) (2018). Forvaltningsret. København: Jurist- og Økonomforbundets Forlag.
Flügge, Asbjørn Ammitzbøll, Naja Holten Møller, Thomas T. Hildebrandt og Henrik Palmer Olsen (2022). Er du grøn? Algoritmer til beslutningsstøtte i det offentlige. En kvalitativ undersøgelse af sagsbehandleres praksis og brug af ASTA til profilering af nyledige dagpengemodtagere. Københavns Universitet, Det Naturvidenskabelige Fakultet.
Folketingets Ombudsmand (2021). Vurderingsstyrelsens begrundelse og stillingtagen til
partsanbringender i sager om omvurdering efter vurderingsloven. FOB 2021-25. https://www.ombudsmanden.dk/find/udtalelser/beretningssager/alle_bsager/2021-25/ (28. april 2023).
Forslag til AI Forordning (COM(2021) 206 final (2021). https://eur-lex.europa.eu/legal-content/DA/TXT/?uri=COM:2021:206:FIN (4. januar 2023)
Loiborg, Emilie (2020). Om den forvaltningsretlige ramme for overladelse af forvaltningsopgaver til systemer baseret på kunstig intelligens. Ugeskrift for Retsvæsen (U.2020B.64).
Loiborg, Emilie og Jakob Klaris Søgaard (2018). Offentlige myndigheders delegation af myndighedsudøvelse ved digitalisering af den offentlige forvaltning. Ugeskrift for Retsvæsen (U2018B.90).
Lyell, David og Enrico Coiera (2017). Automation bias and verification complexity: A systematic review. Journal of the American Medical Informatics Association 24 (2): 423-431.
Manzey, Dietrich, Juliane Reichenbach og Linda Onnasch (2012). Human performance consequences of automated decision aids: The impact of degree of automation and system experience. Journal of Cognitive Engineering and Decision Making 6 (1): 57-87.
Meilvang, Marie Leth og Anne Marie Dahler (2022). Decision support and algorithmic support: The construction of algorithms and professional discretion in social work. European Journal of Social Work. https://doi.org/10.1080/13691457.2022.2063806
Microsoft Danmark og LEAD agency (2021). Kunstig intelligens i den offentlige sector. https://mst.dk/media/173776/microsoft_rapport_raekkefoelge.pdf (28. april 2023).
Motzfeldt, Hanne Marie (2015). Den danske ombudsmands krav om værdibaseret design af den digitale forvaltning. Nordisk Administrativt Tidsskrift 92 (3): 8-23.
Motzfeldt, Hanne Marie (2017). The Danish principle of administrative law by design. European Public Law 23 (4): 739-754.
Motzfeldt, Hanne Marie (2020). Machine learning og forvaltningens skønsudøvelse. Juristen 4: 140-147.
Motzfeldt, Hanne Marie og Azad Taheri Abkenar (2019). Digital forvaltning: Udvikling af sagsbehandlende løsninger. København: DJØF Forlag.
Motzfeldt, Hanne Marie og Ayo Næsborg-Andersen (2018). Developing administrative law into handling the challenges of digital government in Denmark. Electronic Journal of E-Government 16 (2): 136-146.
Motzfeldt, Hanne Marie, Jøren Ullits og Jens Kjellerup (2020). Fra forvaltningsjurist til udviklingsjurist: Introduktion til offentlig digitalisering (1. udg.). København: DJØF Forlag.
Motzfeldt, Hanne Marie, Jøren Ullits, Emilie Loiborg og Jens Kjellerup (under udg.). Fra forvaltningsjurist til udviklingsjurist: Introduktion til offentlig digitalisering (2. udg.). København: DJØF Forlag.
Mørup, Søren Højgaard, Jens Garde, Jørgen Albæk Jensen, Orla Friis Jensen, Helle Bødker Madsen, Karsten Revsbech og Ole Terkelsen (2022). Forvaltningsret – almindelige emner (7. udg.). København: Jurist- og Økonomforbundets Forlag
Nielsen, Stine Piilgaard Porner og Ole Hammerslev (2022). Velfærdsstatens regulering af ungdomshjemløshed: Retlige handlemuligheder og deres potentielle effekt. Retfærd. Nordic Journal of Law and Justice 172 (2): 11-22.
Næsborg-Andersen, Ayo (2015). Human rights in national administrative law: Dissemination of knowledge of human rights through administrative decisions. København: DJØF Forlag.
Næsborg-Andersen, Ayo og Hanne Marie Motzfeldt (2019). Different aspects of transparency in digital government: The Danish case. European Conference on Digital Government, 81-87, VIII-IX.
Olsen, Henrik Palmer, Jacob Livingstone Slosser, Thomas Troels Hildebrandt og Cornelius Wiesener (2019). What’s in the box? The legal requirement of explainability in computationally aided decision-making in public administration. Social Science Research Network.
Pasquale, Frank (2015). The black box society: The secret algorithms that control money and information. Cambridge: Harvard University Press.
Pound, Roscoe (1910). Law in books and law in action. American Law Review 44 (1): 12-36.
Rønsholdt, Steen (2018). Forvaltningsret – retssikkerhed proces sagsbehandling. København: Karnov Group.
Stausholm, Nick Storm (2015). Skøn under regel. København: Karnov Group.
Wickens, Christopher D., Benjamin A. Clegg, Alex Z. Vieane og Angelia L. Sebok (2015). Complacency and automation bias in the use of imperfect automation. Human Factors 57 (5): 728-739.
Wisborg, Thea Johanne Raugland (2022). Fuldautomatiserede afgørelser i dansk forvaltning – en retlig analyse med udgangspunkt i databeskyttelsesforordningens artikel 22. Aarhus: Aarhus Universitet
Wright, Julia. L., Jessie Y. C. Chen, Michael J. Barnes og P.A. Hancock (2016). The effect of agent reasoning transparency on automation bias: An analysis of response performance, pp. 465-477 i Stephanie Lackey og Randall Shumaker (red.), Virtual, augmented and mixed reality. Cham: Springer.
