Algokratiet #1: Når din sagsbehandler er en kunstig intelligens

Cybernormer

I dette første afsnit af vores nye podcastserie om algoritmernes magt ser vi på, hvad der sker, når den danske velfærdsstat automatiserer. For det er allerede sket, at maskinlæringsalgoritmer har meldt deres ankomst i socialforvaltning og beskæftigelse.
Mød Therese Moreau, journalist på Ingeniøren og Version2 og som har en baggrund i data science. Hun fortæller Cybernauternes Henrik Chulu om sit arbejde med at pille nogle af de algoritmer fra hinanden, som socialforvaltninger og jobcentre ude i de danske kommuner har testet på borgere uden lovligt samtykke.
I Silkeborg og Hjørring Kommuner testede man en kunstig intelligens, som var blevet trænet på knap 400.000 underretninger om potentielt udsatte børn og unge. Den skulle yde beslutningsstøtte til socialrådgiverne og fik dem i flere tilfælde til at ændre på deres risikovurderinger om tvangsanbringelse af børn. Men algoritmen rummede en gevaldig fejlkilde, som Therese opdagede, da hun fik mulighed for at kigge nærmere på den.
Og dengang Telli Karacan fra Cybernauterne lige var blevet færdiguddannet, fandt hun ud af, at jobcenteret brugte hendes etniske herkomst til at vurdere hendes risiko for langtidsledighed. Det brugte de den såkaldte STAR-algoritme til. Therese fortæller i programmet om, hvad hun fandt ud af, da hun skilte STAR-algoritmen ad, og hvordan etnisk herkomst havde indflydelse på dens vurderinger om risiko for langtidsledighed.
Gæst: Therese Moreau
Vært: Henrik Chulu
Programmet er optaget i The Lake Radios studie på Nørrebro i København og er tilrettelagt og redigeret af Henrik Chulu, som også har komponeret musikken.
Tak til Maia Kahlke Lorentzen for speak og Telli Karacan for at fortælle sin historie. Og tak til lyddesigner Sara Nielsen for kyndig råd og vejledning.

• Kan algoritmer se ind i et barns fremtid? I Hjørring og Silkeborg eksperimenterede man på udsatte børn
• Vi har skilt jobcentrenes algoritme ad. Og kan se, hvor anderledes indvandrere og efterkommere bliver behandlet

Algokratiet er en serie i Cybernauternes podcast, hvor vi snakker med folk, som har forstand på, hvordan algoritmer, maskinlæring og kunstig intelligens virker og hvilken indflydelse det har på vores liv. Du kan lytte til dette og andre episoder af vores podcast Cybernormer der, hvor du hører podcasts.