Det var i telefonen med Odenses koncernchef på beskæftigelsesområdet, at jeg luftede mit til lejligheden nye selvopfundne begreb: ‘Netflixificeringen af det offentlige Danmark’. “Det er et fint billede på det,” sagde Gorm Hjelm Andersen, som han hedder. Jeg havde ringet til ham, fordi Odense bygger på en algoritme. Dens opgave er simpel: Få ledige i beskæftigelse. Teknologien bag er dog alt andet end simpel. Det er kunstig intelligens – en computer stopfodret med personoplysninger om danskere fra hele landet, der har været ledige. Ved at lade algoritmen analysere hver enkelt af dem og det forløb, der fik dem i job eller uddannelse, skal algoritmen lave forudsigelser om lediges fremtid. I en intern PowerPoint-præsentation, jeg har fået aktindsigt i, skitserer Odense Kommune det nærmere.

Den ledige, Per Pedersen kaldes han i sliden, møder ind på et jobcenter. Med Per Pedersens samtykke gransker algoritmen alt data, som det offentlige har på ham. I PowerPointen er det: Mand, 41 år, to børn, fraskilt, erhvervsfaglig uddannelse, har været i postvæsenet så og så længe. Med viden om sin nye klient skal den kunstigt intelligente algoritme kunne gøre det, ingen af jobcentrets rådgivere i dag er i stand til: Algoritmen skal sammenligne Per Pedersens data med tidligere ledige, der ligner ham på papiret, og som kom i beskæftigelse, og se på, hvad der gjorde udslaget for dem. Måske, skal den tænke, kan samme indsatser gøre udslaget for Per Pedersen. Det er her, algoritmen kommer med sin forudsigelse: Per Pedersen kan gøre dét, dét eller dét, efteruddanne sig, komme i et praktikforløb, tage et it-kursus, you name it, hvis altså postmand Per her hurtigst muligt vil i arbejde. Det er så op til sagsbehandleren, den af kød og blod, at vurdere, om rådene kan bruges eller ej.

En algoritme-drevet beskæftigelsesindsats lyder Silicon Valley-futuristisk. Men overalt i det offentlige eksperimenteres der med den potente teknologi, der gør computere selvstændigt ‘tænkende’ ved at træne dem på enorme mængder data om os og vores verden. Allerede i dag forsøger kunstig intelligens at forudsige, hvad vi mennesker vil. Det er kunstig intelligens, der afgør, hvad vi præsenteres for på Netflix’ forside. Er du til action eller måske en rom-com? Det kan afgøre, hvad vi bruger vores lørdag aften på. Eller hvad vi sætter på af musik. Kunstig intelligens har udvalgt de playlister, Spotify foreslår. Det samme med søgeresultater på Google, som afgør, hvad vi får af informationer, eller ruten på Google Maps, der udstikker retningen, det er også kunstig intelligens. Og en masse andre ting, hvor kunstig intelligens forsøger at forudsige din næste handling baseret på en datadrevet forståelse af, hvem du er som menneske, og hvad andre, der ligner dig, valgte.

På den måde forsøger kunstigt intelligente algoritmer i løbet af sådan en ganske almindelig dag hele tiden at manipulere udfaldet af valg, vi træffer. Det nye er, at der i det offentliges kulisser bliver arbejdet på, at kunstig intelligens kan få indflydelse på vores levede liv. Kunstig intelligens kan en dag ændre udfaldet af at møde op på et jobcenter. Skubbe os til at foretage afgørende livsvalg som at tage praktik i en helt ny branche, måske i en ny landsdel, fordi det ville være det mest effektive for sådan en som dig. Og nye udfordringer og etiske dilemmaer følger naturligvis med.

Odense har fået særlig tilladelse til at samkøre data om tidligere ledige på tværs af Danmark, to år og 7,2 millioner kroner til at udvikle Jobcenter-algoritmen. Der er meget på spil. Lykkes Odense Kommune, kan algoritmen blive taget i brug på alle landets jobcentre de kommende år. Så skal ledige vænne sig til, at det ikke kun er en sagsbehandler, der rådgiver dem, men også en computer, som algoritmisk kommer med gode råd til, hvordan lige præcis de kommer videre i livet. I sin kerne handler det om, hvordan det offentlige Danmark vil servicere borgere i en fremtid, hvor kunstig intelligens arbejder i kommunens kulisse. I den verden bliver borgere datapunkter. Sagsbehandling skræddersyet som en Netflix-forside.

“Jeg er ikke bare optaget af kunstig intelligens, fordi det er en tendens i samfundet,” siger Gorm Hjelm Andersen. “Jobcenter-verdenen har været klandret for at være en samtale-fabrik med meningsløse proceskrav, og at vi ikke har fokus på den enkeltes behov. Jeg vil gerne have, at når man går ned på sit jobcenter, kommer man bedre stillet ud igen. Så når man taler med sin partner om aftenen om, at man ikke kan finde beskæftigelse, så kan de sige, at de dog ved, hvad de skal gøre.”

Allerede nu kan ledige opleve at blive taget i hånden af intelligente maskiner. Når dagpengemodtagere melder sig ledige på Jobnet.dk, tilbydes de at blive profileret for at finde ud af, om de har forhøjet risiko for at stå uden arbejde efter et halvt år. Igen er det en forudsigelse, en computer foretager. Profileringen er helt frivillig, og på overfladen er det et simpelt spørgeskema, den ledige udfylder. Spørgsmål som ‘hvad er din højeste gennemførte uddannelse’, ‘hvor hurtigt tror du, at du får et arbejde’, ‘hvordan vurderer du dine jobmuligheder’ og ‘er der noget, der gør det svært for dig at få et arbejde’ med svarmuligheder som fysisk eller psykisk helbred, alkohol- eller stofmisbrug, manglende it-kompetencer eller sprogbarrierer.

Bag skærmen går en algoritme i gang med at sammenligne viden om den ledige – alder, køn, herkomst etc. – og den lediges spørgeskemabesvarelser med tidligere ledige og deres besvarelser. Algoritmen er trænet på viden om omkring 152.000 dagpengemodtagere og deres besvarelser af spørgeskemaet. Hvis den lediges svar matcher tidligere ledige, der er endt i langtidsledighed, sættes man i dén bås og får det at vide på skærmen med en håndfuld gode råd. Er der intet match, får man også det at vide. Når profileringen er færdig, sendes besvarelserne samt algoritmens spådom til den lediges sagsbehandler, som bruger det forberedende til den første samtale på jobcentret.

Interessant er det, at over tid har algoritmen studeret, hvilke faktorer der giver størst sandsynlighed for langtidsledighed. I et notat fra Styrelsen for Arbejdsmarked og Rekruttering fra sidste år står der, at ud af 152.000 ledige, der blev profileret, blev 20 procent spået til at ende i langtidsledighed. “Den faktor, der har størst statistisk betydning … er borgerens egen vurdering af, hvor hurtigt han/hun finder et nyt arbejde.” Der er dog undtagelser ifølge notatet. Ledige over 56 år samt indvandrere og efterkommere fra vestlige lande og efterkommere fra ikke-vestlige lande, der selv vurderer, at han eller hun kommer hurtigt i arbejde eller ikke ved det, vil dog “i gennemsnit tilhører risikogruppen” for langtidsledige. Det vil sige, at algoritmen mener at vide bedre end den ledige selv. Men det offentlige har endnu større ambitioner for, hvad kunstig intelligens skal kunne.

Eksempelvis nørder Sygehus Lillebælt med en kunstig intelligens, der skal diagnosticere akutpatienter ud fra blod- og urinprøver og rangordne alvoren af deres sygdom. Forventningen er, at den algoritme vil redde liv. I Københavns Kommune nørder man også med en kunstig intelligens. Den skal matche ledige med jobs. Algoritmen skal løse det paradoks, at virksomheder i stigende grad mangler arbejdskraft, mens der stadig er mange ledige. Algoritmen skal analysere lediges cv for faglige og personlige kompetencer og finde match i jobopslag. Men algoritmen skal også kunne finde jobforslag i brancher og jobfunktioner, som den ledige ikke selv har tænkt over, men som algoritmen mener er et godt match. Ligesom i Odense bliver det op til sagsbehandleren at bruge algoritmens indspark eller ej. Men kommunens langsigtede mål er, at algoritmen skal stilles til rådighed på Jobnet.dk, hvor borgere selv vil kunne spørge den til råds.

Fordelene og faldgruberne er mange ved kunstig intelligens som med al ny teknologi. Fordelene ved Jobcenter-algoritmen, der bygges på i Odense Kommune, mener koncernchefen Gorm Hjelm Andersen er, at den vil kunne hitte hoved og hale i alle de aktiveringstilbud, der findes i velfærdsstaten Danmark og udvælge dem, der er mest relevante for den enkelte ledige. “Vi ved, at nogle redskaber er mere effektfulde end andre,” siger han. “Men hvad er mest relevant for lige præcis dig? Skal du i praktikforløb i detailbranchen? Eller byggebranchen? Eller opkvalificeres? Jeg tror, at kunstig intelligens kan hjælpe ved at sige, at ledige, der ligner dig, profiterede af at gøre det her.”

Man skal ikke mange slides ind i Odense Kommunes PowerPoint-præsentation om Jobcenter-algoritmen, før man fornemmer alvoren og tyngden af arbejdet med kunstig intelligens. “AI i sagsbehandlingen er et politisk følsomt emne,” står der med billeder af avisforsider, hvor en anden kommunes forsøg med at bruge kunstig intelligens bliver sammenlignet med det kommunistiske DDR’s overvågning af østtyskere. Så er stemningen ligesom slået an.

På de næste slides står der, at Odense Byråd har drøftet dataetik ved samkørsel og forudsigelse i algoritmens støttefunktion på jobcentre: Ved samkørsel af data – altså det at tage data fra én kilde, lad os sige den lediges alder, og samkøre det med data fra en anden kilde, lad os sige størrelsen på den lediges børneflok, for at algoritmen kan udlede noget tredje om den ledige – står der: “Mistænkeliggørelse og krænkelse af privatlivets fred skal fuldstændig undgås.” Ved forudsigelser om lediges mest relevante vej i beskæftigelse skal der “hentes samtykke fra borgere for at anvende data til forudsigelse af fremtidig adfærd”, og at data “aldrig må stå alene i beslutningstagning”. Lad mig give et konkret eksempel på hvorfor.

Det danske arbejdsmarked er meget kønsopdelt. Sat på spidsen arbejder flest mænd i det private, mens flest kvinder arbejder i det offentlige. Den opdeling kan kunstig intelligens komme til at forstærke algoritmisk, når den laver sin forudsigelse om en borgers vej ind på arbejdsmarkedet baseret på historiske data om fortidens mønstre, advarer Sarah-Kirstine Bang Holm og Johan Jakobsen Petersen fra Aarhus Universitets Juridiske Institut, der i 2020 skrev speciale om arbejdet med Jobcenter-algoritmen i Odense. “Når mænd historisk set har været ansat i ledende stillinger, kan dette eksempelvis medføre, at en model, der bygger på historiske data, kan komme til at vægte køn, således at der bliver indbygget en bias i KI-modellen, som kan føre til diskrimination eller usaglig forskelsbehandling.” Dette kan ifølge eksperter forhindres ved, at algoritmen tillægger borgerens køn mindre vægt og borgerens kvalifikationer mere vægt, når den kommer med sine karriereanbefalinger.

Det er Odenses koncernchef enig i. Gorm Hjelm Andersen kan ikke se, hvorfor den lediges køn skulle spille den store rolle i vægtningen. “Vi skal ikke have en algoritme, der peger på, at den enkelte vil være bedst tjent med et job i en lavtlønssektor. Her skal vi i stedet sige: Vi kan godt opkvalificere dig, så du kan få et bedre lønnet job.” Eftersom Jobcenter-algoritmen stadig er under udvikling, er det for tidligt at sige noget mere konkret om dens potentielle bias. Men da den skal støtte sagsbehandlere i at rådgive ledige om mulige afgørende job- og karrierevalg, er det vigtigt, at man ved, præcis hvordan den kommer frem til sine forudsigelser. Og her nærmer vi os et af de helt store spørgsmål, der er om, hvordan den danske stat egentlig skal bruge kunstig intelligens.

Når kunstig intelligens’ krystalkugle er kolonorme mængder data, bliver dens forudsigelser meget hurtigt meget uigennemskuelige for den menneskelige hjerne. Man kalder det black box-problemet. I Sarah-Kirstine Bang Holms og Johan Jakobsen Petersens speciale skriver de, at Odense Kommune i den tidlige testfase bad algoritmen finde mønstre i, hvad der mest effektivt får ledige i arbejde. Mønstrene skulle algoritmen selv finde, altså uden menneskelig indblanding – usuperviseret læring kaldes det. Og hvad den fandt, undrede kommunens ansatte.

Det havde en positiv effekt, hvis den ledige skiftede sagsbehandler under sit forløb. Der var ingen forklaring, det var blot facittet af algoritmens beregning. Deal with it-agtigt. Mønstret udfordrer måden, som ikke bare Odense, men hele det kommunale Danmark tænker sagsbehandling: at den ledige helst ikke skifter sagsbehandler, men har den samme. Det opbygger en god relation fra start til slut, er tanken. Nu fortalte denne kunstige intelligens, at det at skifte sagsbehandler var bedre. Men i stedet for at gøre udskiftning til en fast del af lediges forløb mod beskæftigelse, opgav kommunen usuperviseret læring til videre træning af algoritmen. Uden at forstå, hvorfor et skift i sagsbehandler er bedre, kunne den ikke stoles på.

“Eksemplet illustrerer,” skriver Sarah-Kirstine Bang Holm og Johan Jakobsen Petersen, “at hvis KI (kunstig intelligens, red.) skal kunne føre til en ændring af en sådan langvarig praksis, må det kræve, at sagsbehandlerne i det mindste kan forstå logikken bag, og også at sagsbehandlerne kan forklare det over for borgerne, hvis de pludselig skal skifte til en ny sagsbehandler midt under forløbet.”

Black box-problemet spænder også ben for algoritmen på Jobnet.dk, den, der forudsiger lediges risiko for langtidsledighed. I notatet fra Styrelsen for Arbejdsmarked og Rekruttering står der, at algortimen kan spotte 32 procent af de ledige, der rent faktisk ender i langtidsledighed. Da man ved, at 45 procent ender i langtidsledighed, ville man ved at slå plat eller krone, altså helt tilfældigt, i snit ramme rigtigt hver anden gang.

“Dette svarer til,” står der i notatet om møntkastet, “en dækningsgrad på 50 procent. Så værktøjet identificerer i udgangspunktet faktisk færre af de langtidsledige, end man i teorien kan opnå med en mere ‘naiv’ model.” Som et plat eller krone-kast. “Der er således en stor gruppe, som bliver langtidsledige, men for hvem det er noget vanskeligere at forudsige ud fra data. Denne gruppe fanger modellen ikke.” Lige efter står der, at Styrelsen for Arbejdsmarked og Rekruttering “løbende følger, om profileringen bliver mindre præcis, og dermed mere unfair, for eksempelvis kvinder end for mænd.” I notatet giver styrelsen dog udtryk for at være tilfredse med algoritmens præcision. Hellere, lyder det, være sikker med de 30 procent, der korrekt spås at gå ledige i et halvt år eller mere, end at fejlspå for mange. Men, skriver styrelsen videre, algoritmen kan godt blive mere præcis, men det vil kræve mere komplekse beregninger – og så støder man ind i black box-problemet, og forudsigelsen bliver “sværere at fortolke og forklare for den enkelte borger og sagsbehandler”, står der.

Allerede her ser vi, hvordan helt lavpraktiske, men også filosofiske afvejninger og dilemmaer opstår, når fagfolk skal assisteres af algoritmer. Tag lægerne i Region Midtjylland som eksempel. Man arbejder på en kunstig intelligens, der blandt andet skal udregne patienters risiko for at blive genindlagt. Dens anbefalinger kan i yderste konsekvens afgøre liv eller død. I statusrapporten på projektet, som jeg har fået aktindsigt i, skitserer hospitalets ledelse et muligt fremtidigt dilemma:

“En læge vurderer, at en patient kan udskrives, men prognosen indikerer, at der er en vis procents risiko for genindlæggelse. Hvis patienten ender med at blive genindlagt, kan man så blive stillet juridisk til regnskab, fordi man ikke fulgte prognosen?” Med andre ord: Hvad er konsekvensen for mig som læge ved at modsige den kunstige intelligens’ prognose? “Kan patienten kræve at forblive indlagt, til prognosen ser bedre ud?” spørger hospitalets ledelse. Ubesvarede svære spørgsmål som disse bliver der formentlig kun flere af, som projekterne skrider frem og en dag skal betjene os.

I et større perspektiv handler det her også om, hvad man som borger har ret til at vide om den behandling, man får, når en kunstig intelligens sidder med bag skranken. Lad os sige, at Jobcenter-algoritmen faktisk har ret – et skift i sagsbehandler er bedre – så står vores manglende evne til at begribe den snørklede beregning bag i vejen for at kunne forklare det over for borgeren. Et ‘jamen, det siger computeren’-svar duer ikke. Og det hæmmer hele den videre udvikling mod potentielt banebrydende opdagelser, der kommer af at lade algoritmer finde mønstre dér, hvor mennesker må opgive.

Det gør dog ikke det offentlige Danmarks iver efter at teste kunstig intelligens af på befolkningen mindre. For nogle måneder siden kom der yderligere 13 nye kunstig intelligens-projekter til i kommunerne og regionerne. Går alt efter planen, skal algoritmer diagnosticere alt fra slidgigt til skizofreni, varsle oversvømmelser, risikovurdere underretninger til kommunen og opspore begyndende sygdomme blandt ældre. 200 millioner kroner er allerede afsat på finansloven. Udviklingen pisker af sted. Kunstig intelligens skal gøre det offentlige smartere, hurtigere som det nyeste nye tech fra Silicon Valley. Men inden da skal kunstig intelligens lære, hvad det vil sige at være serviceminded.

Borgere, mener eksperter‚ skal vide, hvad de giver samtykke til, når computere støtter det offentliges arbejde med at betjene dem, og borgere skal vide, hvilke data om dem der er i spil, når deres fremtid spås.For algoritmens beregninger kan få stor betydning for deres liv. Både offentligt ansatte og borgere skal også vide, hvorfor en algoritme er nået frem til ét svar blandt mange. Forudsigelserne skal kunne forklares. Ligesom eksperter mener, at algoritmer løbende skal efterspændes, så de historiske data, de træner deres forudsigelser på, ikke fastholder kvinder og mænd, ældre og unge, indvandrere og efterkommere, langt-, kort- og ikkeuddannede, i gamle mønstre.

Og på jobcentrene i Odense hilser jobrådgiverne algoritmen velkommen, siger Gorm Hjelm Andersen. Håbet er, at den bliver en stor hjælp i deres arbejde. Jeg spurgte ham, om jobrådgiverne ikke nærer en frygt for i sidste ende at blive overflødiggjort af teknologien (forestil dig en opsagt sagsbehandler, der en dag møder op på et jobcenter for at sidde over for algoritmen). “Det hører jeg ikke.” Da jeg i 2017 spurgte den verdenskendte israelske historiker Yuval Harari til vores plads på et arbejdsmarked, hvor kunstig intelligens udkonkurrerer mennesket i hele tiden flere discipliner, var han mere ængstelig: “Mennesket har kun to færdigheder: fysisk og kognitivt. Hvis computeren kan udkonkurrere os i begge discipliner, vil computeren nok også kunne udkonkurrere os i de nye jobs, der bliver skabt. Spørgsmålet er derfor, hvad mennesker kan bruges til i sådan en verden. Hvad skal vi bruge milliarder af, set med økonomiske briller, ubrugelige mennesker til?”

Det er ikke kun i Odense Kommune, men overalt i verden, der drømmes stort om, hvordan kunstig intelligens’ potentiale skal forløses. Ruslands præsident Putin har famøst proklameret, at den nation, der først mestrer kunstig intelligens, vil blive “verdenshersker”. Lige nu er det dog USA og Kina, der skiftevis er i front i våbenkapløbet om, hvem der kan overgå hinanden i nye måder at bruge kunstig intelligens på. Militært, videnskabeligt, kommercielt. Og i en verden, hvor der hver dag indsamles store mængder data om os, vores handlemønstre og tilbøjeligheder, både af det offentlige og private virksomheder, skaber vi lige nu det bedst tænkelige afsæt for algoritmer, der vil forandre verdenen på måder, vi i dag ikke evner at forestille os.