Børnedirektørens idé om at samkøre data om udsatte børnefamilier mødte massiv kritik. Men han er først lige begyndt

DATAAlle borgere i Gladsaxe Kommune kan analyseres som data på computerservere. Alle fotos: Rune Pedersen for Zetland

Vores medlemmer foretrækker at lytte

Zetlands medlemmer kan høre alle vores artikler som lyd - oplæst af skribenterne selv. De fleste foretrækker at lytte i vores app, hvor man får den bedste oplevelse. Men du er velkommen til at lytte med her.

Derfor skal du læse denne artikel

I foråret skrev Politiken “Regeringen vil overvåge alle landets børnefamilier og uddele point”. Historien vakte stor og meget følelsesladet debat. Pointene er siden skrottet, men børnedirektør i Gladsaxe Kommune, hvor regeringen har idéen fra, taler for første gang ud om, hvorfor samkøring af data i det offentlige kan være fremtiden. Velkommen til velfærdsstaten 2.0.

For halvandet år siden ansatte Gladsaxe Kommune en håndfuld dataanalytikere.

De var de første i kommunen i det nordvestlige Storkøbenhavn med en uddannelse i at bygge kraftfulde computeralgoritmer, der kan analysere og finde mening i store mængder data i et tempo, menneskeheden stadig er ved at forstå potentialet af.

Analytikerne kom med kompetencer, ingen i kommunen tidligere har haft,” fortæller Thomas Berlin Hovmand, der er børne- og kulturdirektør i Gladsaxe Kommune, og som tidligere har haft lederstillinger i Københavns Kommune. De er ikke dine typiske kommunalt ansatte.”

Det er første gang, 43-årige Hovmand taler ud om, hvad han har brugt analytikerne til. I foråret fik projektet stor national opmærksomhed og flyttede debatten om, hvad et stadig mere digitaliseret offentligt Danmark kan tillade sig at vide om sine borgere, ind midt i dagsordenen.

Det giver mig associationer til Tyskland i 1930’erne og hetz og forfølgelse af særligt udvalgte grupper. Så stop det dog!” lød en kommentar på Facebook, som fik 300 likes, da Politiken afslørede, hvad dataanalytikerne i Gladsaxe Kommune havde bygget.

Årets eftertanker

Hvad skete der egentlig med de dagsordener, der optog os i løbet af året? Når nyhedsmøllen kværner, er det nemt at glemme de historier, der optager os det ene øjeblik, til fordel for dem, der dukker op det næste. I år handler Zetlands juleserie derfor om historier fra 2018, som der er god grund til at vende tilbage til med eftertanke. Enten fordi de ikke fik det rampelys, som de fortjente. Eller fordi der siden er sket en udvikling, som vi kan lære noget af.

Egentlig havde de bare” bygget det, de er uddannet til – men på kommunal skala:

En algoritme i stand til at analysere data om kommunens 70.000 borgere med det formål at finde børn i Gladsaxe, som er udsatte eller i risikozonen for at blive det. Udsathed kan komme af, at forældrene er enlige uden arbejde eller er syge, fysisk eller mentalt, eller hjemløse, ufaglærte, misbrugere eller ikke kan tale dansk. De familier skal kommunen tilbyde hjælp – og gerne så tidligt som muligt.

Sidste år fik Gladsaxe Kommune 1.800 underretninger om, at et barn eller en ung under 18 år kunne være udsat.

Det er en to-tredobling på nogle få år,” fortæller Thomas Hovmand og forklarer det med en skærpet underretningspligt. Problemet er, at vi typisk først opdager udsatte børn, når de er 10-11 år og opefter. Med algoritmen vil vi gerne finde dem, når de er mellem nul og seks år, da en tidlig indsats er afgørende.”

Det skulle algoritmen efter sigende kunne, fordi den har lært, hvordan et udsat barn ser ud” – lidt på samme måde, som et barn lærer, hvordan en bil eller en hest ser ud: Ved at analysere kendte udsatte børn i hundredvis, ja, tusindvis, med data fra Danmarks Statistik lærer algoritmen, hvem forældrene er, hvad tegnene er på, den er gal i hjemmet, og hvordan det adskiller sig fra normalen”.

Vi er ganske sikre på, vi kan opspore udsatte børn hurtigere ved hjælp af kunstig intelligens og samkøring af data, end en almindelig fagperson kan,” siger Thomas Hovmand.

KINAThomas Berlin Hovmand ved godt, hvordan systematisk samkøring af data om borgere lyder. “Ens tanker kan hurtigt føres over mod Kina."

Algoritmen kigger efter såkaldte risikoindikatorer. Dem er der 44 af i alt. Hvis et barn for eksempel udebliver fra tandlægebesøg, registreres det i et kommunalt system i Gladsaxe, som algoritmen har adgang til. Underretninger fra skolen, politiet og sundhedsplejen registreres også, men i et andet system. Hvis forældrene er i misbrugsbehandling, registreres det – det samme, hvis forældrene er skilt, samt deres aktivitet (eller mangel på samme) på jobcentret. Og så videre.

Uden menneskelig indblanding udregner algoritmen selv, hvilke familier kommunen bør kontakte. Men da Gladsaxe Kommune sidste år bad regeringen om lov til at teste algoritmen af i en forsøgsperiode, fik man afslag. Men ikke af grunde, man kunne tro.

Regeringen var så begejstret for algoritmens potentiale, at algoritmen til tidlig opsporing af udsatte børn blev skrevet ind i ghettoudspillet fra foråret. Det betyder, at ikke kun Gladsaxe, men alle landets kommuner kan komme til at tage algoritmen i brug. Også din.

Engang blev al berøring med det offentlige registreret på papir og lagret i arkivskuffer et sted. I dag registreres det som data og lagres i datacentre større end fodboldstadioner.

Data er viden. Enkeltvis fortæller data ikke det store om en borger, medmindre man samkører store mængder af disse. Så kan man til gengæld få dyb indsigt i en persons liv, især i Danmark, hvor hver borger har et cpr-nummer, som trækker et spor af data efter os, fra vi fødes, til vi dør. Begynder man først at sætte computere til at analysere de data, vil man kunne finde mønstre, som indtil for nylig har været usynlige for det offentlige Danmark.

I det private er data allerede brændstoffet bag store teknologiske landvindinger – og nogle af klodens mest værdifulde virksomheder består i dag af meget lidt andet end data: Google, Facebook, Microsoft, Alibaba og lignende har formået at omsætte data, eller viden, om deres brugeres behov til en milliardomsætning.

Men tech-giganterne ved intet sammenlignet med, hvad staten, kommunerne og regionerne ved om hver enkelt af os. Et påtrængende spørgsmål er derfor, hvad vi ønsker, det offentlige stiller op med alle disse data: Slipper vi dataene løs og samkører dem til nye formål, som eksemplificeret med Gladsaxes børneopsporingsalgoritme, eller gør vi intet og lader dataene være?

I Gladsaxe har data givet os et meget, meget bedre grundlag for at handle,” siger Thomas Hovmand. Data er blevet et middel til at nå mål, vi sætter som kommune.”

"Tidligere har vi set på børnenes negative adfærd, og hvad de gør galt. Nu har vi fået et ekstra værktøj, der også giver os mulighed for at se på forældrenes risikoadfærd og vurdere om denne adfærd kan påvirke børnene negativt." Anja Høpfner, politikommissær i Københavns Vestegn, om 'Socialsøg' en lignende algoritme, som politiet tog i brug i efteråret til tidlig opsporing af udsatte børn. Kilde: dansk-politi.dk

Hovmand forstår godt kritikerne. Systematisk samkøring af data om borgere lyder ikke rart (“ens tanker kan hurtigt føres over mod Kina”). Men en af Hovmands pointer er, det allerede sker i en kommune hele tiden. Det sker bare analogt.

Ansatte i en kommune udveksler hele tiden oplysninger om borgerne, de gør det bare mundtligt, måske ved kaffeautomaten.”

Det sker dog sjældent, at det er forskellige fagfolk, som taler sammen. Hvorfor der ifølge Hovmand kan gå lang tid, før man opdager, den er gal i en børnefamilie. Det er det, en algoritme kan assistere med, mener Hovmand. Han forklarer det med et cafébesøg:

Problemet i dag er, at når en tandlæge oplever, at et barn er udeblevet to gange for tandtjek, er det en lille bekymring, men ikke nok til en underretning.”

Sundhedsplejen, der besøger barnets hjem, ser samtidig, at tingene ikke er helt i orden, fortsætter han. Men det er heller ikke nok til underretning.”

Jobkonsulenten oplever samtidig, at barnets forældre ikke kommer i arbejde, men det er ikke galt nok til en underretning.

Men lad os så sige, de tre fagfolk mødtes på en café og talte om barnets familie, så vil summen af de tre bekymringer være nok til en underretning. Algoritmen tager en række små bekymringer og sammenkæder dem til én.”

Det vil altid være en socialrådgiver, og ikke algoritmen, der afgør, om kommunen skal kontakte de børnefamilier, som algoritmen finder frem til, og tilbyde dem hjælp, eller om der skal oprettes en formel sag, forklarer Hovmand.

Der bliver altså ikke automatisk oprettet en social sag, bare fordi algoritmen har fundet noget.”

Digitalisering i Gladsaxe stopper ikke ved algoritmerne. Thomas Hovmand hev e PowerPoint-præsentation frem, han få dage forinden havde præsenteret ved en konference for digitalisering i kommunerne.

Det her,” sagde han, er vores ledelsescockpit, som er et halvt til helt år gammelt.”

COCKPITSkærmbilledet her er taget på min computer og viser Hovmands PowerPoint-præsentation, hvor han har taget et skærmbillede af platformen, som normalt ville tilgås af kommunens ansatte fra nettet – og ikke i pdf-dokument som her. Kortet til højre viser, hvordan ungeledigheden er i forskellige områder i Gladsaxe Kommune. Mørkeblå er lav ledighed, og postkasserød er høj ledighed. Til venstre kan man se ungeledighedens udvikling et år tilbage i de forskellige områder. Skærmbillede

Her ser vi, hvordan det går med ledighed blandt unge med de seneste data (august). Vi kunne eksempelvis se, at ledigheden er højest i Værebro Park (9,1 procent). Derfor valgte vi at sende vejledere ud, som bankede på dørene og spurgte: Hvordan kan vi hjælpe dig?”

Men hov, hvad er nu det.”

Han pegede på den runde cirkel over Søborg Hovedgade, der var tegnet på kortet. Han scrollede videre til næste slide.

Søborg Hovedgade ser fin ud, ikke? Men zoomer vi ind, kan vi se, at ledigheden på Søborg Torv, et almennyttigt boligbyggeri midt på hovedgaden, er 11 procent. Den blok har den højeste ledighed i hele kommunen. Der sender vi også folk ud. Det er datadrevet viden, vi kan handle på.”

ZOOMDet er samme kort over Gladsaxe Kommune, men nu har Hovmand klikket på området ‘Søborg Hovedgade’. Her kan man se, at ungeledigheden er lav i begge ender af hovedgaden, men høj omkring torvet midt på hovedgaden. Skærmbillede

Hvad sagde folk til konferencen til det dér, spurgte jeg og pegede på kortet.

Der var ret stor … ikke begejstring, men interesse. Flere har også efterspurgt PowerPoint-præsentationen.”

Planen, fortæller Hovmand, er, at kommunalpolitikerne på et tidspunkt også skal have adgang til ledelsescockpit’-platformen, så også de kan følge med i, hvordan det står til.

Næste skridt er så, hvornår Gladsaxes borgere får adgang.”

Så vil man kunne gå ind og se, at genanvendelse af affald i Gladsaxe er på 18,8 procent, men kommunens mål er, det skal være 30. Det går jo ikke. Når borgerne betaler penge til renovation og sorterer affald, har de så ikke også ret til den her indsigt?”

I arbejdet med digitalisering har man i Gladsaxe formuleret tre ting, der skal være opfyldt. Thomas Hovmand læste op fra PowerPoint-præsentationen: Gennemsigtighed, proportionalitet og datasikkerhed.”

Gennemsigtighed er, vi lægger frem, hvad det er, algoritmen kigger på”. Det kan Hovmand dog ikke lige nu, for algoritmen til udsatte børn er ikke færdigudviklet. Men risikoindikatorerne er ikke bare en tjekliste, man krydser af”. Algoritmen kigger på kombinationen af indikationer.

Hvorfor en kombination så er udslagsgivende for, at et barn har en statistisk forhøjet sandsynlighed for udsathed, kan vi ikke umiddelbart svare på. Men det er det, algoritmen er kommet frem til.”

I kommunen kalder man det, det statistiske sorte hul”: Algoritmen finder selv mønstre i risikoindikatorer – eller variabler, hvis vi skal blive tekniske – som ikke er synlige for det menneskelige øje.

SORTDatamodellen i Hovmands PowerPoint-præsentation viser, at data om kommunens børn kommer ind, så analyserer algoritmen dataene, og ud kommer resultatet: “X antal børn med statistisk forhøjet sandsynlighed for udsathed,” står der. Skærmbillede

Proportionalitet’ er, at man ikke bruger så meget data som muligt. Men kun det, der skal til,” siger Thomas Hovmand. Spørgsmål er så, hvor meget det er – og det er vi ved at finde ud af.”

Når vi taler om at opspore børn, tror jeg først, algoritmen er rigtig god om 10-12 år. Så har vi data, der går så langt tilbage, at vi kan se, hvad der skete for 18-årige, da de var mellem nul og seks år, der gjorde dem udsatte, og som er endt med, de måske er blevet anbragt.”

Datasikkerhed’ er, at man overholder GDPR, EUs databeskyttelseslov. Blandt andet skal kommunen have borgeres samtykke, før man indsamler og behandler data om dem. Gør kommunen ikke det, kan Datatilsynet udskrive en bøde på op mod 150 millioner kroner.

Tilsynet kan også udskrive bøde, hvis kommunen bliver hacket, og borgeres persondata lækket, eller – som det skulle ske sammen uge, jeg interviewede Hovmand – hvis en computer proppet med persondata bliver stjålet fra kommunen.

Fire bærbare computere, én med oplysninger om 20.000 borgere (hovedparten Gladsaxe-borgere), blev weekenden mellem 30. november og 3. december stjålet under et indbrud i Gladsaxe Kommune. Oplysningerne have en medarbejder i strid med GDPR gemt i et regneark på computeren. Der er tale om cpr-nummer, alder, køn, adresse, familiære forhold, eventuelle kommunale ydelser, oplysninger om botilbud samt medlemskab af folkekirken.

Tyveriet har ikke fået børne- og socialminister, Mai Mercado, til at afskrive en national model inspireret af Gladsaxe-algoritmen. Til Politiken sagde hun:

Regeringen er meget optaget af at finde en model, som balancerer de forskelligrettede hensyn bedst muligt, så kommunerne kan sætte tidligere ind med hjælp til udsatte børn og unge – samtidig med, at vi sikrer klare og trygge rammer, hvor borgernes retssikkerhed vægtes højt.”

Gennemsigtighed, proportionalitet og datasikkerhed. Det er grundlaget for den datadrevne kommune. Spoler vi så 20 år frem, er der to fremtidsscenarier, ifølge Thomas Hovmand: Det, han håber, der sker – og så skrækscenariet. Vi begynder med det første.

På det tidspunkt tror jeg, vil vi have så meget data om borgerne, at vi kan individualisere vores servicer. Vi vil have viden om, hvordan vi bedst kan hjælpe lige præcis dig i den situation, du står i.”

Allerede nu er dataanalytikerne i gang med at skrue på en ny algoritme. Den skal finde ud af, hvad der bedst får forskellige typer af arbejdsløse – kontanthjælpsmodtagere, dagpengemodtagere, nyuddannede eller langtidsledige – i arbejde.

Borgere er jo vidt forskellige, men vi tilbyder alle de samme tre-fire kurser groft sagt. Men vi lever i en individualiseret verden, hvor folk forventer, at alt er målrettet én. Det gør Facebook, Google, Netflix. Kan kommunen også gøre det i højere grad fremadrettet? Det er da et spændende perspektiv.”

Regeringen ser også perspektiverne.

I ghettoudspillet fra foråret står der, at man – inspireret af Gladsaxes algoritme – vil opspore børn, der har risiko for at opleve vold og mistrivsel i hjemmet”.

Det er muligt, fordi algoritmen kan få adgang til data om borgeres etnicitet, indkomst og bopæl (den ser efter, om man bor i et udsat boligområde) og samkøre disse. Hvordan det skal ske på nationalt plan, vil Mai Mercado, børne- og socialminister, drøfte med Folketinget, lyder det i en mail fra ministeriet.

Men staten skal passe på”, mener man hos interesseorganisationen Dansk IT, fordi vi i Danmark har høj tillid til det offentliges behandling af persondata.

Jeg frygter, at denne tillid vil blive gevaldig udfordret, hvis vi oplever, at myndigheder begynder at bruge vores data på en måde, som vi ikke selv kan gennemskue, og til formål, som giver os indtrykket af at blive monitoreret i en grad, der vil blive oplevet som krænkende,” skrev Rikke Hvilshøj, direktør i Dansk IT, i Ræson som reaktion på regeringens planer for Gladsaxe-algoritmen, som hun på Twitter kaldte DDRs drømmesamfund”.

Thomas Hovmand fortæller, at embedsfolk ringede, to dage inden ghettoudspillet blev præsenteret. De fortalte, de ville inkludere algoritmen i ghettoudspillet, som man kunne kalde skyld-og-straf-pakken og var meget kontroversiel.”

Jeg følte, vi blev spændt for en vogn, og var sådan nå okay’.”

Det har Børne- og Socialministeriet ikke ønsket at kommentere.

Algoritmen, som dataudviklerne har bygget i Gladsaxe, kan i princippet” tages i brug af alle kommuner, fordi dataene kommer fra Danmarks Statistik. Men, advarer Hovmand.

De etiske overvejelser, vi ofte støder på, når vi udvikler det her, vil de kommuner gå glip af, hvis de bare overtager algoritmen uden at forholde sig til etikken i det.”

En af de etiske overvejelser er, at algoritmen kan finde ud af ting, du muligvis ikke har lyst til at vide”.

Når du gennem datasamkøring får viden, du ellers ikke ville have fået, forpligter den viden dig til at handle. Derfor skal vi som offentlig myndighed overveje meget nøje, om den viden, vi får om borgerne, står mål med de positive forandringer, vi forhåbentlig kan skabe for dem.”

Det kan eksempelvis være viden om, at det bedre kan svare sig at hjælpe fire højtuddannede i arbejde end én langtidsledighed, giver Hovmand som eksempel.

Hvem ville du vælge at hjælpe, og skal man have lov til at have den viden, og er det rimeligt at pålægge en medarbejder at skulle træffe den afgørelse? Det er spørgsmål, jeg ikke kan svare på. Det her er så nyt, og der er ingen fælles enighed om, hvordan vi går til det, at alle er lidt søgende.”

Han ler.

Det er også derfor, vi får nogle slag over fingrene, når vi taler om det.”

Men Thomas Hovmand ved godt, hvor han vil hen.

I fremtiden skal vi kunne sige til et barn: Du har brug for lige præcis det her for at nå op på niveau med dine kammerater’, og så kan vi målrette et forløb, vi ved virker for lige præcis det barn. Hvis borgere skal have lige muligheder for at lykkes i livet, men har forskellige udgangspunkter, så er vi nødt til at give nogen noget mere end andre. Det vil vi også i fremtiden – men på en ny måde. Vi vil have stor viden om, hvad der virker. For den enkelte.”

Ved du, hvorfor Zetland findes?

Vi følger otte enkle principper, der hjælper med at skabe plads til fordybelse og omtanke i en verden, der mangler præcis dét.

– Lea Korsgaard, medstifter og chefredaktør

Vis mig Zetlands principper

I dag læser vores medlemmer: