Vestagers worst case? “De onde overtager verdensherredømmet, og vi bliver alle sammen bare et råstof i et gigantisk system”

ROBOTTERNE KOMMERVestager vil have Europa til at tage kontrollen med den kunstige intelligens inden vi... mister kontrollen. Collage: Mikkel Bøgild Jacobsen, Zetland

Vores medlemmer foretrækker at lytte

Zetlands medlemmer kan høre alle vores artikler som lyd - oplæst af skribenterne selv. De fleste foretrækker at lytte i vores app, hvor man får den bedste oplevelse. Men du er velkommen til at lytte med her.

Derfor skal du læse denne artikel

Når Europa-Kommissionen i det nye syvårsbudget for EU vil mangedoble investeringerne i kunstig intelligens, er det ikke blot for at sikre EU-arbejdspladser og vækst, men for at sikre, at det europæiske menneskesyn vinder, når en teknologi med et både fantastisk og skræmmende potentiale for alvor indtager verden. Mød Margrethe Vestager og den kunstige intelligens Corti i dette sjette afsnit af EU-serien Philip & unionen.

Alarmcentralen, beskriv problemet.”

Min far har enten fået et hjerteanfald eller en hjerneblødning eller et hjertestop. Jeg er ikke sikker.”

Er han ved bevidsthed og vågen?”

Nej. Jeg mener, han trækker vejret … tror jeg. Men han ligger på gulvet.”

Jeg vil have, du tjekker efter, om han trækker vejret.”

Min mand siger, han trækker vejret, men at han har åndedrætsbesvær.”

Reagerer han på noget overhovedet?”

Nej.”

Har han haft hjerteproblemer før?”

Nej.”

Okay. Hjælpen er på vej, bliv ved telefonen. Hvis han stopper med at trække vejret eller bliver helt sløv, før redderne kommer, skal du ringe mig op igen, for så skal vi begynde med hjertemassage. Hold øje med ham …

Okay.”

En kvinde har ringet 911 i USA. Opkaldet er helt og aldeles ægte, og situationen er på en gang både dramatisk og alligevel ganske normal for de læger og sygeplejersker og redningsarbejdere, der bemander alarmcentraler rundt omkring i hele verden hver dag, døgnet rundt.

Oplysningerne er sparsomme, omstændighederne er kaotiske, og medarbejderen har få sekunder til at træffe en beslutning. En forkert vurdering kan koste et menneskeliv, et halvt minuts betænkningstid kan være afgørende for, om et menneske – hvis mennesket overlever – bliver sig selv igen eller mister førligheden eller måske skal leve videre med skader på hjernen eller andre alvorlige mén.

Det er næsten et umenneskeligt ansvar at lægge på skuldrene af et menneske. Et job, der i virkeligheden kræver superkræfter, hvilket man naturligvis ikke kan forvente af noget menneske.

Men tænk nu … Tænk, hvis der fandtes nogen – eller noget – der på et splitsekund kunne bladre millioner af forudgående alarmopkald igennem og afkode, hvad der med allerstørste sandsynlighed er galt i den anden ende af telefonlinjen, stille en diagnose og give lægen eller sygeplejersken eller redningsarbejderen hjælp med at træffe den rigtige beslutning og give det rigtige råd, hurtigt og præcist.

Det her er sjette udgave af Philip & unionen, og i dag skal det handle om udviklingen af kunstig intelligens, der står allerøverst på listen over nye satsningsområder, når EU de kommende uger og måneder skal forhandle det nye, gigantiske syvårsbudget for Den Europæiske Union.

Europa missede både den første, den anden og den tredje bølge af den eksplosive teknologiske transformation, der har ramt og forandret det meste af verden de forgangne årtier. Så enkelt kan det siges.

Særligt amerikanerne er ikke alene løbet med millioner af arbejdspladser og billioner og atter billioner af dollars i omsætning, der ville have pyntet på den økonomiske vækst i det gamle, træge Europa. Nej, amerikanerne er på mange måder også lykkedes med at definere og udvikle og vel også nærmest diktere, hvad internettet og de sociale medier kan og skal bruges til, herunder de etiske og politiske rammer for eksempelvis omgangen med vores personlige oplysninger, der bliver spredt, registreret og brugt som aldrig før.

Det er en situation, som EU ikke vil tillade gentager sig i den næste fase af den digitale transformation, hvor særligt udbredelsen af kunstig intelligens forventes at blive en endnu større omvæltning – på godt og ondt. Og i spidsen for EUs forsøg på at bringe Europa i front inden for innovation og forskning i kunstig intelligens står den danske konkurrencekommissær og ledende næstformand i Europa-Kommissionen, Margrethe Vestager, der formelt har fået ansvaret for at gøre Europa klar til den digitale tidsalder.

Margrethe Vestager har de forgangne fem år gjort sig mest bemærket – og ret populær, i hvert fald i Europa – som kommissæren, der har lagt sig ud med store amerikanske tech-koncerner som Apple, Google og Facebook. De kommende år bliver hendes opgave ikke alene at holde de amerikanske giganter i skak, men at bringe EU i spidsen for den teknologiske udvikling – og i særdeleshed når det gælder kunstig intelligens.

Meget af værdiskabelsen i fremtiden kommer til at ske rundt om de fysiske produkter. Man skal forestille sig, hvordan biler og veje og alle typer maskiner vil være dataproducerende hele tiden. Det betyder, at den virksomhed, der har produceret dit køleskab eller din bil, vil gøre en forretning ud af at bruge dine data til at levere service til dig. Og hele værdikæden fra den ene forretning til den anden vil være båret af kunstig intelligens, og der har Europa meget at komme med,” siger Margrethe Vestager.

Det kan de fleste tilsyneladende blive enige om – altså potentialet. Til gengæld kniber det lidt med viljen til at handle. Europa-Kommissionens forslag om et massivt sats på investeringer i kunstig intelligens vil med garanti møde modstand, når EUs budget skal forhandles på plads, fordi mange lande hellere vil have EU-kontingentet direkte retur i form af eksempelvis landbrugsstøtte og midler til regionsudvikling. Selv Danmark, der i teorien støtter en omlægning af EU-budgettet til fordel for forskning og innovation, har gjort det klart, at førsteprioriteten er, at budgettet ikke vokser samlet set.

Imens er amerikanerne allerede stukket af. Alene det førende amerikanske teknologiske universitet MIT har større bevillinger til forskning i kunstig intelligens, end der totalt set investeres i forskning i kunstig intelligens i hele Danmark, og på en eller anden måde skal der mere til at overbevise europæerne end eksempelvis amerikanerne, mener Vestager:

Det er uomtvisteligt, at man ikke kan gøre det uden flere penge og flere investeringer, men skal vi have skatteyderne til at investere mere, så skal der være gode grunde, og det skal man finde i de drømme, vi har om vores samfund. Noget, vi gerne vil opnå. Det kunne være, at vi gerne vil have et sundhedssystem, der er i verdensklasse for alle borgere. Eller et rent miljø.”

Men der er også andre årsager til, at nogle lande ikke vil investere i kunstig intelligens. De seneste årtiers tech-revolution er mildt sagt ikke entydigt blevet oplevet som noget positivt.

For at tage nogle eksempler på kritikken (der langtfra kun er europæisk), så lyder den, at de sociale medier er det måske mest vanedannende og til tider destruktive produkt siden smøger og alkohol, at søgemaskinerne og algoritmerne på nettet skævvrider og radikaliserer den demokratiske samtale, og at vores personlige data er blevet en handelsvare, som vi ikke selv kan kontrollere.

Og det kan vise sig kun at være begyndelsen.

Med den hastige udvikling af kunstig intelligens, der pågår i disse år og blot vil accelerere de kommende år, kan vi se frem til endnu større teknologiske omvæltninger og endnu større etiske dilemmaer, erkender også Margrethe Vestager:

Jeg tror om de fleste ting, at hvis de rummer et stort positivt potentiale, så rummer de også store risici.”

Problemet er bare, mener Margrethe Vestager, at hvis ikke europæerne sætter sig i spidsen for udviklingen, så gør amerikanerne eller kineserne det, og så vil europæerne for alvor miste kontrollen.

Kunsten er jo at få det bedste ud af det og så meget kontrol som overhovedet muligt over de negative sider. Og det er jo lidt cirklens kvadratur, så det er ikke en given ting, at vi lykkes, men ambitionen er, at vi skal få det bedste ud af det, og der er virkelig meget at række ud efter.”

Og hvad er så risikoen ved kunstig intelligens, hvis du ikke er dygtig til et job, eller hvis det bliver nogle andre, der kommer til at definere, hvad rammerne for brugen af kunstig intelligens skal være?

Det tror jeg, vi alle har set på film. Det er, at de onde overtager verdensherredømmet, og at vi alle sammen bare bliver et råstof eller et input til et gigantisk system, som kun tjener en meget, meget begrænset del af menneskeheden.”

I udgangspunktet er kunstig intelligens ellers noget helt fantastisk. Et teknologisk mirakel. Kunstig intelligens er en slags konstrueret hjerne, der kan processere ufattelige mængder af oplysninger på ufattelig kort tid og hele tiden lære og blive dygtigere og dygtigere, i princippet uden menneskelig indblanding.

Et eksempel er den kunstige intelligens Corti, der har noget at gøre med det alarmopkald, I lige hørte brudstykker fra. Eller rigtig meget faktisk.

Corti er opfundet af to danske fyre og udviklet af en masse dygtige softwareudviklere og statistikere i hjertet af København – mere præcist i en gammel herskabslejlighed på første sal i Store Strandstræde med Nyhavns isbutikker, bodegaer og smørrebrødsrestauranter lige om hjørnet. Nu ligger virksomheden så på fjerde sal, fandt jeg ud af, da jeg troppede op for at møde Lars Maaløe, der er teknisk direktør i Corti.

Sammen med den administrerende direktør Andreas Cleve fik Lars Maaløe i 2016 idéen til en kunstig intelligens, der i dag beskæftiger cirka 40 (overvejende meget unge) medarbejdere, der sidder spredt rundtomkring i de gamle, højloftede stuer foran store computerskærme. I en anden lejlighed på fjerde sal – på den anden side af opgangen – sidder desuden en række andre virksomheder og selvstændige, der arbejder med kunstig intelligens på sundhedsområdet i en såkaldt nordisk hub, som Lars Maaløe og Andreas Cleve har taget initiativ til.

Kan du ikke på rekordtid forklare, hvad jeres ting her kan?
Jo, vi har lavet en intelligens inde i en computer, der lytter med på medicinske samtaler. Så når nogen for eksempel ringer ind til 112 i København, lytter vi med på de samtaler og hjælper den, der skal træffe en beslutning, med at træffe en hurtigere og endnu bedre beslutning end i dag.”

Når Lars Maaløe siger, de lytter med, så mener han ikke de ansatte i Corti, men den kunstige intelligens, der er et program i en computer. Og når Corti er i stand til at give gode råd til den, der modtager alarmopkaldet, er det, fordi programmørerne har sat Corti til at processere millioner af optagede medicinske samtaler. På baggrund af de her millioner af medicinske samtaler har Corti så simpelthen lært at genkende mønstre, tegn, lyde og toner, og ud fra dem er den kunstige intelligens i stand til lynhurtigt at regne ud, hvad der med stor sandsynlighed er galt, når et menneske i nød ringer til en alarmcentral. Det kan måske være ud fra menneskets beskrivelse af symptomer eller åndedrættet eller måden at snakke på.

Den skal først og fremmest hjælpe med de virkelig kritiske tilfælde. Eksempelvis hvis folk har hjertestop eller slagtilfælde eller meningitis eller andre kritiske diagnoser, hvor man skal handle meget hurtigt.”

Og hvad kan den, som et menneske måske ikke kan?

Det er grundlæggende kedelig statistik: Den kan sige, hvad den pågældende case med størst mulig sandsynlighed handler om. Den kan eksempelvis crunche mange flere hjertestop-opkald, end et menneske kan. Menneskets hjerne er helt fantastisk til intuition, men maskinen er helt fantastisk til at regne rigtig, rigtig hurtigt. Og det er dybest set det, den gør, mens man har samtalen.”

Corti lytter allerede i dag med, når vi ringer 112 i Region Hovedstaden, og snart gælder det også andre dele af landet. Corti lytter også med, når man ringer 911 i Seattle, og snart gælder det samme i adskillige amerikanske byer.

Helt praktisk fungerer Corti på to måder, når først et alarmopkald går igennem. De steder, hvor Corti er i brug, sidder de personer, der modtager alarmopkaldene, med en skærm foran sig. Når en samtale går i gang, begynder Corti at fodre lægen med oplysninger. Dels noterer Corti i højre side af skærmen i stikordsform, hvad der bliver sagt af vigtige oplysninger i opkaldet, dels forsyner Corti i venstre side af skærmen lægen med en række relevante oplysninger og links om den eller de problemer, som den regner sig frem til, at opkaldet drejer sig om. Lad os sige, at der bliver sagt skoldkopper i opkaldet, så dukker der i venstre side oplysninger op om symptomer, behandlingsforslag og medicin, der er relevante i tilfælde af skoldkopper.

Men først og fremmest er Corti altså designet til at hjælpe med at redde liv, og det vil primært sige at hjælpe med at diagnosticere alvorlige sygdomme, allerede inden patient eller læge er nået frem til, hvad der er galt.

For at illustrere funktionen afspiller Lars Maaløe det amerikanske alarmopkald, du læste brudstykker af i begyndelsen af denne historie, mens vi har en skærm foran os, der svarer til den skærm, lægen eller sygeplejersken eller redningsmedarbejderen ville have foran sig.

Mens alarmopkaldet fortsætter, og medarbejderen på alarmcentralen beder kvinden om at tjekke en ekstra gang, om patienten trækker vejret, popper der nogle meddelelser op i højre side af skærmen, og Lars Maaløe forklarer:

Jo, på højre side kan vi se, hvilke spørgsmål der bliver stillet, og maskinen sikrer sig, at der bliver stillet de rigtige spørgsmål gennem samtalen. Maskinen detekterer, hvad kønnet på patienten er, og hvilke symptomer der bliver beskrevet. Så i den her samtale bliver der for eksempel beskrevet, at patienten trækker vejret, hvilket i det her tilfælde højst sandsynligt egentlig ikke er rigtigt. Sidst, men ikke mindst detekterer maskinen efter 35 sekunder, at der er tale om det, der hedder cardiac arrest på engelsk.”

Er det det, der kommer op med rød skrift herovre i højre side? Og det er maskinen, der kommer frem til, at der er tale om cardiac arrest og altså ikke, fordi nogen af dem har sagt det?

Nej, præcis, maskinen finder selv ud af det. På det her tidspunkt er call-takeren ikke selv klar over det, for call-takeren har fået at vide, at patienten trækker vejret. Så der er en del misledende information i den her samtale. Men fordi maskinen har lyttet til så mange samtaler, der ligner den her samtale, med samme mønster af vildledende information, så har den med ret stor sikkerhed slået fast, at der må være tale om et cardiac arrest, meget før.”

Optagelsen af alarmopkaldet fortsætter med, at medarbejderen på alarmcentralen beder kvinden om at påbegynde hjertemassage, selv om kvinden flere gange har sagt, at patienten trækker vejret.

Så nu går det op for hende også, at han ikke trækker vejret?

Ja.”

Og det fandt den kunstige intelligens ud af meget tidligere i samtalen?

Ja, det fandt den kunstige intelligens ud af halvandet minut inden call-takeren, og for hvert minut, der går, hvor man ikke initierer hjertemassage, falder chancen for at overleve med 10 procent.”

Og ved man, at maskinen oftere vil have ret end mennesket?

Der er det meget vigtigt at sige, at det ikke handler om mennesket mod maskinen. Maskinen ville ikke virke uden menneskets input. Maskinen lytter med på en samtale, og ud fra den samtale giver den et output. Og ud fra den forskning, der er lavet på baggrund af vores teknologiske platform, kan vi se, at ja, maskinen kan eksempelvis hjælpe med at finde væsentlig flere tilfælde af hjertestop, end mennesket kunne alene.”

Det dér er altså, i al sin enkelhed og i al sin genialitet og med et perspektiv, der næsten ikke er til at fatte, hvad kunstig intelligens blandt andet er i stand til, og det er en af grundene til, at Europa-Kommissionen i det nye EU-syvårsbudget foreslår at mangedoble investeringerne i forskning og innovation inden for kunstig intelligens, så de samlede investeringer i EU-landene i det nye årti når op omkring 200 milliarder kroner. Om året.

Kunstig intelligens kan frem for alt hjælpe os med at træffe bedre beslutninger,” siger Margrethe Vestager. Der er snævre grænser for, hvad jeg selv kan overskue af information, fordi det både tager mig tid at tage det ind og forstå det og processere informationen. Det, som kunstig intelligens kan, er at tage gigantiske mængder af information og ordne det og strukturere det og stille det til rådighed for os mennesker.”

Særligt på sundhedsområdet er potentialet enormt, mener Margrethe Vestager, fordi vi har enorme mængder data, der blot venter på at blive organiseret og fortolket, men i princippet kan kunstig intelligens hjælpe os i alle dele af livet, hvor der er mulighed for at indsamle data.

Der findes i Europa mange innovative virksomheder inden for kunstig intelligens, og selv om EU i Vestagers øjne savner et europæisk fyrtårn af et universitet i samme liga som MIT eller Stanford eller Berkeley eller en hub, som alle talenterne søger til i stil med Silicon Valley, har EU har allerede rykket sig markant på ti år, mener hun.

Du kan i dag finde fremragende miljøer og et økosystem af tech-virksomheder og en helt ny dynamik, som ikke fandtes for ti år siden. Det ville også være mere sandsynligt i dag, at du kan finde nogen her i Europa, der vil investere penge og kompetencer i din idé, i stedet for at man skal låne i bankerne, som vi gjorde det før. Det er noget, vi har lært af amerikanerne.”

Samtidig er der en række rammevilkår, som EU rent faktisk godt kan forbedre, uden at man nødvendigvis indhenter amerikanerne i investeringer rent økonomisk.

En af grundene til, at det er lykkedes både kinesiske og amerikanske tech-virksomheder at blive giganter, er, at de kunne slå igennem på et meget stort hjemmemarked. I Europa har vi også et indre marked, men vi glemmer nogle gange, at det skal vedligeholdes, som man slår sin græsplæne. Hvis vi ikke sørger for, at det her indre marked fungerer gnidningsfrit, så stiller vi hindringer i vejen for de virksomheder, som har medarbejderne, teknologien og ambitionerne. Vi kan ikke bare fylde penge i forskningen, hvis der ikke også er et marked, hvor virksomhederne kan hente styrken til at blive globale.”

Får vi det indre marked – der samlet set er større og mere købestærkt end det amerikanske – til at fungere, kan EU ligefrem stå med en overhånd, mener Vestager.

Det er på ingen måde for sent. Med den dataproduktion, der er i EU, er der så meget råstof til kunstig intelligens, der bliver skabt hele tiden. Som en slags fornybar, samfundsmæssig ressource, der er til rådighed på en helt anderledes måde end fysiske samfundsskabte ressourcer som olie eller jord i gamle dage. Så det er ikke for sent, men det er en forudsætning, at vi øger hastigheden og investerer mere.”

Corti bliver igen og igen nævnt i internationale medier og blandt analytikere som et eksempel på en boblende europæisk undergrund af innovative virksomheder inden for kunstig intelligens, og ambitionerne for Corti er … ja, vel nærmest amerikanske, fortæller den tekniske direktør Lars Maaløe:

Vi skal være en del af ALLE medicinske samtaler. Så kan man bare begynde at drømme om, hvad det betyder. Det er klart realistisk. Vi er jo startet med det sværeste, nemlig at bevise, at det virker. Nu skal vi bare eksekvere. Vi skal selvfølgelig være en rigtig stor virksomhed.”

Og ifølge Lars Maaløe er der i dag faktisk gode grunde til eksempelvis at lægge hovedkvarteret i København i stedet for Silicon Valley.

Der er mange lydhøre investorer, hvis man har de rigtige idéer, der kan løse rigtige problemer, og man ikke bare kommer direkte fra en kælder under DTU og siger, at man har opfundet en eller anden teknologi. Det kan jeg tillade mig at sige, fordi jeg selv er fra DTU. Jeg vil egentlig sige, at vi har haft meget medvind fra starten, selv om det måske ikke var helt oplagt fra starten, at der var penge på bundlinjen i en teknologi, der først og fremmest skal redde liv.”

Tror du processen havde været anderledes, hvis man skulle have udviklet den her teknologi i USA eller Kina?

Jeg kan ikke udtale mig så meget om Kina, men i USA tror jeg, at vejen til at bevise, at en service, der kan redde liv, også kan skabe resultater på bundlinjen, ville være sværere. Investeringerne ville nok kunne være større, men det ville nok være nogle investorer, der ville forsøge at presse os ind i en sektor med et højere return-of-investment, fordi man er så bundlinje-bevidste.

Corti er blandt andet blevet til virkelighed på grund af støtte fra EUs seneste forsknings- og innovationsprogram, der blev kaldt Horizon 2020, og selv om det ifølge Lars Maaløe krævede blod, sved og tårer for en dum tekniker – som han kalder sig selv – at forstå og navigere i EUs bureaukrati, så mener han faktisk, at man kan mærke, at EU gerne VIL fremad, når det gælder kunstig intelligens. Det største problem i Europa er ifølge Lars Maaløe, er der simpelthen ikke er nok kloge hoveder.

Hvis du ser på de største machine learning-konferencer i verden, så bidrager de europæiske universiteter ikke med det store. De eneste i Europa, der laver mange publikationer, er Google DeepMind, der ligger i London, og så har vi lige fået Google Brain i Amsterdam, men det er private organisationer, der har deres hovedkvarter på Vestkysten i USA. Så vi skal kigge indad og finde ud af, hvordan vi kan drive mere innovation fra Europa.”

Hvor langt foran er USA og Kina? Kan vi nå det?

Det er svært at give et eksakt svar på, men vi er i hvert fald bagud, og der er relativt lang vej derop, men vi har mulighederne for at nå det. Vi har nogle rigtig gode universiteter med en god tankegang, men vi er nødt til at investere meget mere i de tekniske dele af de her universiteter, så vi kan få de nogle virkelig, virkelig kloge AI-hoveder ud i samfundet hurtigst muligt. Vi skal kreere de næste Einsteins her i Europa.”

Er EUs planer store nok?

Der er for mange nuller til, at jeg kan sige, om det er nok, men det er godt, at man fokuserer på det her område, og jeg håber, at det ikke alene bliver et fokus på erhvervslivet, men på virkelig at blive klogere. Så skal erhvervslivet og innovationerne nok komme helt af sig selv.“

Mange af de 40 medarbejdere, der sidder foran skærmene i de højloftede stuer i Store Strandstræde, er hentet fra udlandet, fordi Corti har haft svært ved at finde kvalificerede folk i Danmark, og Corti er hele tiden på jagt efter de største talenter rundtomkring i verden. Hvis ikke Corti bliver ved med at udvikle deres kunstige intelligens, er det nemlig kun et spørgsmål om tid, før de er indhentet og overhalet. Måske af amerikanerne, måske af kineserne. Det næste skridt kan meget vel blive, at den kunstige intelligens ikke alene skal give lægen eller sygeplejersken gode råd, men selv begynde at tale med patienterne.

Ingen er så unikke, at de ikke kan efterlignes. Spørgsmålet er, hvor hurtigt det går. De næste skridt for os er at blive mere og mere intelligente i forhold til vores forslag inden for samtalen og måske begynde at kunne foretage noget dialog, som mennesket ikke har tid til. Eksempelvis er der mange kald-køer, hvor vi gerne vil påtage os noget af den første kontakt med den, der ringer ind, automatisk. Noget kontakt er bedre end ingen kontakt.”

Så man taler direkte med maskinen, når man ringer op?

Ja, det vil jeg selv som borger hellere gøre end sidde ti minutter og vente i en kald-kø, mens man måske fejler noget meget seriøst og har brug for hjælp. Det kunne også være opfølgende opkald, som der ikke er tid til i sundhedsvæsenet i dag. Der ville jeg også hellere have et opkald fra en maskine end slet ikke noget opkald.”

Kan man forestille sig ude i fremtiden, at der slet ikke er noget menneske involveret?

Jeg tror, jeg vil læne mig op ad en meget klog mand inden for machine learning, der sagde, at alt ud over fem år er en tåge.”

Vi ved ikke, hvordan det gik med manden med hjertestoppet i baggrunden. Men vi ved, at havde den, der modtog opkaldet, haft Corti ved sin side, var man formentlig begyndt med hjertemassagen halvandet minut tidligere. Det svarer til, at man ville have øget chancen for overlevelse med 10-20 procent.

Hvis altså den, der modtog opkaldet, turde stole på den kunstige intelligens.

Og hvis altså den kunstige intelligens havde ret.

Det havde den med stor sandsynlighed, for Corti har i alle dele af udviklingen haft eksterne forskere inde over for at validere resultaterne. Ikke desto mindre er det selvfølgelig … følsomt. Vil vi overhovedet have, at der er maskiner, der lytter med og registrerer vores nødopkald? Er det en glidebane, hvor vi sætter den menneskelige intuition og empati helt ud af spil, og hvad vil det så betyde for vores sundhedsvæsen? Og hvad nu, hvis maskinen alligevel tager fejl?

Corti har under udviklingen af den kunstige intelligens ad flere omgange fået rådgivning fra Etisk Råd, og deres kunstige intelligens er etisk blåstemplet. Faktisk er Lars Maaløe glad for, at der er mere kontrol med brugen af kunstig intelligens og personlige data i Europa – blandt andet med den nye GDPR-lovgivning om opbevaring og spredning af persondata – end der eksempelvis er i USA og Kina.

Jeg kan se mange etiske problemer, og jeg er for eksempel meget glad for GDPR-lovgivningen. Den er ikke én til én god for vores virksomhed, men det er godt i den forstand, at når vi håndhæver GDPR i Europa, så er det lettere at komme ind på markeder i USA eksempelvis. Og jeg synes som almindelig borger, at det er godt, at mine data bliver behandlet ordentligt.”

Og for EUs ledende næstformand med ansvar for Europas omstilling til den nye digitale tidsalder, Margrethe Vestager, er de etiske risici ved kunstig intelligens faktisk den primære årsag til, at EU skal forsøge at erobre en førerposition og ikke overlade det til amerikanerne og kineserne. Det er vigtigere end arbejdspladserne og vigtigere end økonomien i den nye teknologi, siger hun.

Det er også en diskussion mellem forskellige verdenssyn. Jeg tror i vid udstrækning, at kineserne bruger teknologien til at realisere deres drøm om deres samfund, der er et meget kontrolleret samfund. Hvis man skal skære det meget firkantet – og måske lidt for firkantet – ud, så har man i Kina en slags statskapitalisme, hvor den enkelte er i statens tjeneste,” siger Margrethe Vestager:

Det kan man se på den måde, de bruger teknologi på, og den måde, både individernes og virksomhedernes data skal stilles til rådighed for staten. I USA har du en meget mere massiv kapitalisme og en debat om, hvor lille staten kan blive, så den ikke står i vejen for den frie foretagsomhed, og det er det stik modsatte af den kinesiske model.”

I Margrethe Vestagers øjne skal den kunstige intelligens i EUs version hverken – først og fremmest – tjene staten eller bundlinjen i virksomhederne. Den skal tjene borgerne.

Vi har andre drømme. Det kan være fri og lige adgang til sundhed eller livslang læring, det kan være at leve i et rent miljø med rent grundvand, og at man har styr på sit CO2-aftryk. Der skal være nogle mål, der er mere drivende end alene målet om verdensherredømmet på den teknologiske front.”

Hvis man mister det sigte, at den kunstige intelligens er til for borgerne, så er det, man risikerer at ende i det dystopiske scenario, hvor mennesket i sidste ende blot bliver en form for råstof. Det er til dels det, der er gået galt i de første tech-bølger, og det, der gør, at EU er på kollisionskurs med eksempelvis Google og Facebook, mener Margrethe Vestager.

Isoleret set er hun glad for både søgemaskiner og sociale medier, der har gjort det lettere at tilegne sig viden og komme i kontakt med magthavere og muligt at blive hørt for mennesker, der tidligere ikke havde kanaler ud til den brede offentlighed.

De er jo dygtige til det, de gør, og det må man supergerne være, også som amerikaner i Europa. Men problemet opstår, når man ikke forholder sig til de kræfter, man får, når man er succesfuld. Det synes jeg også er en meget europæisk tilgang: Man skal være bevidst om, at jo flere kræfter man har, jo mere ansvar har man også.”

Margrethe Vestager nævner selv de tre sager, hun som konkurrencekommissær har kørt mod Google:

Google er nærmest altdominerende inden for søgning på internettet i Europa, og det ville ikke være et problem, hvis de så sagde: Hov, vi har fået virkelig mange kræfter, nu vil vi være meget omhyggelige med at sikre, at der stadig er fair konkurrence og åbenhed.’ Men vi ved ikke fra en, heller ikke fra to, men fra tre Google-sager, at det ikke nødvendigvis er tilfældet.”

Kan det ikke netop være vores komplicerede tilgang, der gør, at de her teknologier vokser frem i Kina og USA, hvor tilgangen er mere enkel, hvor det enten handler om at kontrollere samfundet eller om at tjene penge?

Altså, den model, vi har, har jo bragt os dertil, hvor vi er i dag. Europa er i mine øjne det bedste sted at leve i verdenshistorien, og det er på grund af vores model. Vi har jo ikke haft skrupler ved – efter grundig diskussion og på et faktuelt grundlag – at beslutte, at der er pesticider, landbruget ikke må bruge, eller bestemte måder, man skal behandle dyr på,” siger hun og fortsætter:

Det kan da godt være, at det havde været lettere for dem at konkurrere med amerikanerne, hvis vi bare havde sagt go-go-go, vi er ligeglade med grundvandet og dyrene, men vi har haft viljen til at sætte nogle rammer op, og det er en europæisk metode, der har bragt os langt, og den kan også bringe os videre.”

Sidste spørgsmål, findes der et alternativ, hvor vi bare bekæmper udviklingen af kunstig intelligens?
Nej, nej, det kommer helt af sig selv alligevel. Det kan godt være, at det er noget menneskeskabt i en kortere tidshorisont, men man bliver nødt til at betragte det som klimaforandringer. Den kunstige intelligens er her under alle omstændigheder. Det, der er vores opgave i vores demokratier, det er at give den retning, så den tjener os som mennesker.”

Det var det sjette og sidste afsnit af Zetlands EU-serie Philip & unionen’. Det autentiske, amerikanske alarmopkald, man kan høre i lydversionen, er udlånt af Corti, men pitchen” på stemmerne er ændret en smule for at anonymisere personerne, ligesom adresseoplysninger er klippet ud af opkaldet. Jinglerne i lydversionen er lavet af Eva Stokkendal, underlægningsmusik af Juliane Viktoria Pedersen. Tusind tak, fordi du læste eller lyttede med, og bemærk at Lars Maaløe har sagt ja til at læse med og svare på eventuelle spørgsmål i bidragssporet.

Ved du, hvorfor Zetland findes?

Vi følger otte enkle principper, der hjælper med at skabe plads til fordybelse og omtanke i en verden, der mangler præcis dét.

– Lea Korsgaard, medstifter og chefredaktør

Vis mig Zetlands principper

I dag læser vores medlemmer: