Findes der en europæisk måde at bruge kunstig intelligens på? Det mener Margrethe Vestager

Det er ikke til at se, men kunstig intelligens er alle vegne. Nu vil EU lave regler.

Collage: Julie Ravn Hansen

Vores medlemmer foretrækker at lytte

Zetlands medlemmer kan høre alle vores artikler som lyd - oplæst af skribenterne selv. De fleste foretrækker at lytte i vores app, hvor man får den bedste oplevelse. Men du er velkommen til at lytte med her.

Det er sjældent, man bemærker det sådan helt direkte, men kunstig intelligens spiller en kæmpe rolle i vores liv. Når jeg ser reklamer for gummisko i højre side af min skærm lige nu, så er det ikke, fordi et menneske har tænkt, at jeg var tilbøjelig til at anskaffe mig nyt fodtøj, men fordi en computer har tænkt netop det.

Det har den (nok) tænkt, fordi jeg har søgt efter eller måske dvælet lidt ved et par smarte sneaks på Instagram. Kunstig intelligens, med andre ord.

Men de måder, både virksomheder og i stigende grad offentlige myndigheder bruger kunstig intelligens på, har hidtil ikke været underlagt ret mange regler.

Det har Europa-Kommissionen i årevis haft en ambition om at lave om, og onsdag kom så den foreløbige kulmination. Denne pakke viser vores europæiske tilgang til kunstig intelligens,” sagde Margrethe Vestager, der er EUs kommissær for konkurrence, da hun fremlagde pakken, der er den første af sin slags i verden.

Derfor var onsdag en ret spændende dag for Malthe Munkøe. Han udtaler sig her som privatperson, men han er til daglig seniorrådgiver for BusinessEurope, den største interesseorganisation for erhvervslivet i Europa. Kunstig intelligens er nemlig udset til rollen som en af de allervigtigste teknologier, når det handler om at effektivisere både virksomheder og stater i Europa. Og er altså allerede i vores liv i stor stil. Det spiller en større rolle, end jeg tror, de fleste er bevidste om,” siger Malthe Munkøe.

Hvad er det, EU vil gøre ved kunstig intelligens?

Kunstig intelligens er mange ting, og derfor er det heller ikke så ligetil at lovgive om det. Men Europa-Kommissionen har forsøgt at inddele forskellige anvendelsesformer for kunstig intelligens i kategorier, alt efter hvor indgribende de er i vores liv. Og jo mere indgribende, jo mere voldsom lovgivning vil Europa-Kommissionen indføre for at kontrollere området.

De anlægger en risikobaseret tilgang, hvor man siger, at vi ikke vil gøre noget ved langt de fleste måder at bruge kunstig intelligens på, men vi vil til gengæld bruge ret mange kræfter på at lave krav og regler for kunstig intelligens med høj risiko,” siger Malthe Munkøe.

Og hvad er høj risiko så?

Lad os begynde i den helt tunge ende – den form for kunstig intelligens, som Europa-Kommissionen vil forbyde pronto:

Det, man har set i Kina – som på mange måder er blevet skræmmebilledet – er, at man laver en social score, hvor alle borgere løbende bliver vurderet ud fra alle mulige ting. Betaler de deres regninger til tiden, går de over for rødt, er de nogle gode borgere, der har de rigtige værdier, og så videre,” siger Malthe Munkøe.

Det er altså den ultimative frygt – at kunstig intelligens skal kunne bruges som et redskab til at undertrykke borgerne. Men er det noget, vi ser i Europa i dag, kunne man jo spørge.

Nej, det tror jeg ikke. Det er meget noget, der skal foregribe begivenhedernes gang. Men når det er sagt, så er jeg ikke helt sikker på, at vi har overblikket over, hvor mange tjenester der er rundtomkring, som på den ene eller den anden måde manipulerer og eksempelvis får vores børn til at købe alle mulige ting med nogle teknikker, der er rettet mod dem,” siger Malthe Munkøe.

Lige præcis brugen af kunstig intelligens i forhold til børn vil Europa-Kommissionen sætte særligt ind over for og forbyde at udnytte svagheder”.

Men hvor vil det så faktisk betyde noget?

Mange steder! I hvert fald potentielt.

I den modsatte ende af Europa-Kommissionens risiko-skala for kunstig intelligens finder man sådan noget som spamfilteret, der sikrer, at jeg ikke får alt for mange Nigeria-breve i min indbakke. Her vil Europa-Kommissionen sikre, at den form for kunstig intelligens stadig er nem at bruge, ved ikke at lovgive ret meget.

Men på de mest interessante trin på risikostigen for kunstig intelligens finder vi det, som har en høj risiko for at skade samfundet eller individet”, men som altså samtidig er noget, Europa-Kommissionen også forudser VIL blive brugt. Her er tanken at indføre stramme regler og krav om en gennemsigtighed i de algoritmer, der ligger bag.

Det kunne for eksempel være kunstig intelligens, der kan hjælpe en virksomhed med at ansætte eller fyre folk.

Noget af det, man er bange for, er, at den kunstige intelligens får en masse informationer om, hvem virksomheden tidligere har ansat, og så er man ikke bevidst om, at den kunstige intelligens for eksempel udleder, at vi har kun ansat hvide, så ansætter vi kun hvide. Den kan skabe eller reproducere en bias, og det er altså en type diskrimination, som man betragter som højrisiko,” nævner Malthe Munkøe som eksempel.

Et andet eksempel kunne være det at give karakterer på en uddannelsesinstitution. Det er en opgave, der ville være meget billigere at sætte en computer til end et menneske. Men det rummer altså også en risiko, vurderer Europa-Kommissionen, for diskrimination.

På samme måde ønsker Europa-Kommissionen at begrænse brugen af ansigtsgodkendelse fra overvågningskameraer til helt bestemte områder som for eksempel terrorbekæmpelse.

Bliver det så en stopklods for brugen af kunstig intelligens?

Ja og nej.

Når det europæiske erhvervsliv (og mange med dem) er så optaget af de kommende regler, er det, fordi kunstig intelligens er blandt de vigtigste videnskabelige gennembrud i vores tid. Et gennembrud, som erhvervslivet håber vil skabe nye muligheder inden for nærmest alle brancher.

Det gælder også alle de steder, vi som borgere ikke lige kan kigge ind: Kunstig intelligens kan måske gøre landbruget mere grønt ved at styre vanding og gødning bedre, og det kan måske revolutionere logistikken ved bedre at kunne forudsige, hvilke varer der præcis bliver brug for hvorhenne og hvornår.

Derfor er balancen for EU at finde et sted, hvor man faktisk kan bruge kunstig intelligens uden at sakke bagefter USA og Kina. Her kan regler både være en fordel og en ulempe, mener Malthe Munkøe. Lige umiddelbart er nye regler altid en ulempe, fordi man skal bruge tid til at sætte sig ind i det og finde ud af, hvordan man efterlever de nye regler,” siger han.

Men på længere sigt kan det modsatte også være tilfældet.

Der kan være nogle gevinster ved at være de første med regler, hvis man kan få andre til at følge med. Det så vi med GDPR, altså de her dataregler, som kom for et par år siden, hvor alle de store techvirksomheder blev nødt til at efterleve de europæiske regler, og det var nemmest for dem, hvis de så bare indførte dem over hele kloden,” siger Malthe Munkøe.

Udspillet til regler for kunstig intelligens er stadig kun netop det, et udspil, og i de næste måneder, måske flere år, vil der blive kæmpet en kamp i Bruxelles om, præcis hvordan de endelige regler skal se ud.

Hvorfor er det her vigtigt?

Fordi det er fremtiden!

Det kan lyde som en art dystopisk fremtidsmusik, når vi taler om at undgå total overvågning og pointsystemer som dem, der findes i Kina. For … er der reelt grund til at frygte det i Europa? Men teknologiens udvikling bare over de sidste fem år har vist os, at vi ikke kan forudse mulighederne. Reglerne er altså et forsøg på at være på forkant på noget af det, vi kan gå hen og møde meget snart.

Jeg tror, vi kan komme til at opleve rigtig meget i mødet med offentlige myndigheder og virksomheder, som vil køre med kunstig intelligens. Og vi kommer ikke til at se præcis, hvordan det finder sted, siger Malthe Munkøe.

For mens det faktum, at firmaer som Facebook og Google bruger kunstig intelligens intenst, efterhånden er almen viden, så er det, som om den kunstige intelligens’ entré i det offentlige er gået mere under radaren.

Regioner og kommuner i Danmark arbejder på højtryk med kunstig intelligens, der skal lette arbejdet med alt fra at diagnosticere skizofreni til at risikovurdere underretninger om børn (begge virkelige projekter i øvrigt). Teknologien kan blive os til kæmpe gavn, men hvis vi ikke skal lade os overvælde af mulighederne og kaste de etiske normer over bord, kræver det, at vi hele tiden er opmærksomme på ikke bare, hvad vi kan gøre, men hvad vi vil gøre.

Demokratiet prøver altså at underlægge sig et nyt, kraftfuldt værktøj, ligesom det har gjort så mange gange før.

Ligesom med så mange andre ting i samfundet er vi nødt til at gå ud fra, at der er nogle myndigheder, der har hånd i hanke med tingene. Hvis vi bruger en barbermaskine, går vi ud fra, at vi ikke får stød, fordi der er nogle standarder og nogle regler, sådan at det elektriske er i orden. På samme måde går vi ud fra, at når vi møder en virksomhed eller en offentlig myndighed, der bruger kunstig intelligens, så er der nogle regler og myndighedskontrol, så det er i orden,” siger Malthe Munkøe.