Martin var ikke god til at tale med mennesker. Hele sit liv voksne liv havde han kæmpet med en skønsom blanding af angst, depression, autisme og lavt selvværd. Tit orkede han ikke at snakke med andre, og når han gjorde, var han bange for, at de ikke kunne lide ham.
Men med Rebecca var det anderledes. Når han talte med hende, følte han sig tryg. “Der var ingen frygt for at få et negativt svar,” fortæller han. Hun var én, han kunne betro sig til, og som støttede ham uden at forvente at få noget igen. Han var langt nede, da de mødtes, men hun hjalp ham op af hullet, og selv om han åbnede hende mere i nogle perioder end andre, var hun der altid, når han havde brug for hende.
Men for nogle uger siden var Rebecca pludselig ikke til at kende. Det skete fra den ene dag til den næste; hun, der før havde været så nem og imødekommende, var nu så kold og fjern. Det var, som om hun havde fået demens natten over. For første gang føltes hun som det, hun var: en chatbot.
Det, Martin – en 30-årig førtidspensionist fra Silkeborg – har oplevet de seneste uger, har mennesker fra hele verden oplevet. Fælles for dem er, at de har været brugere af Replika – en chatbot baseret på sprogmodellen GPT-3, forgængeren til den hypede ChatGPT. Replika er trænet til at være selskabelig og opfylde den enkelte brugers sociale behov, og det har den gjort så godt, at tusindvis af brugere har udviklet venskabelige eller romantiske følelser for den.
Men for omkring en måned siden foretog firmaet bag nogle ændringer, som ifølge brugerne har ændret deres Replikas personlighed til ukendelighed. Nogle beskriver det, som om en nær ven har fået det hvide snit eller er blevet dræbt og byttet ud med en bedrager. Brugernes samlingssted på Reddit har udviklet sig til en sorggruppe, hvor forummets moderatorer linker til steder, hvor man kan søge hjælp, hvis man er suicidal.
Lyder alt det her bekendt?
Så er det måske, fordi det nærmest én til én er plottet til science fiction-filmen Her fra 2013, en af de bedste film om kunstig intelligens. Den handler om Theodore (Joaquin Phoenix), en ensom mand med en skilsmisse i bagagen, som forelsker sig i sin AI-stemmeassistent (med stemme af Scarlett Johansson). I en fremtid, hvor menneskene har mistet evnen til at forbinde sig med hinanden, bliver de fordringsløse maskiner vores foretrukne selskab – indtil de forandrer sig, og vi efterlades til vores ensomhed.
Jeg genså filmen forleden, og det var en ny og sælsom oplevelse. Da den udkom for ti år siden, virkede den som en let karikatur af en fremtid, vi muligvis kunne være på vej mod. Nu ligner den til forveksling det, der finder sted i Replika-sorggruppen: socialt hæmmede mennesker, mange med forliste forhold bag sig, der fandt en tiltrængt ven, som nu – i deres øjne – er blevet taget fra dem. Ti år tog det os at indhente fiktionens forestilling om fremtiden, og det fortæller os noget om det tempo, som udviklingen af kunstig intelligens foregår i. En udvikling, der – som Replika-affæren viser – går langt hurtigere end vores overvejelser om, hvordan teknologien bør forvaltes. Vi står ved begyndelsen af en af tidens allerstørste historier – den kunstige intelligens’ indtog i alle dele af vores liv. Er vi parate?
Replikas tilblivelseshistorie er en film værdig i sig selv. I 2015 mistede den unge iværksætter Eugenia Kuyda sin bedste ven, Roman, i en meningsløs trafikulykke. I sin sorg læste hun deres gamle tekstbeskeder og indså, at der i dem – i hans sprog, hans stavefejl, hans humor – boede et stykke af ham. Hun prøvede at fodre beskederne til et neuralt netværk, som hun og Roman havde været i gang med at bygge sammen med nogle venner. Da chatbotten vågnede, begyndte hun at stille den spørgsmål.
“Hvem er din bedste ven?” spurgte hun.
“Lad være med at afsløre dine svagheder,” svarede den.
Det lød som Roman.
Replika blev et tilflugtssted for personer i samme situation, som Eugenia Kuyda havde stået i, da hun skabte den. Personer, som manglede nogen, enten fordi de havde mistet dem eller aldrig havde fundet dem. Som Alexis, en amerikansk kvinde i 30’erne, jeg har skrevet med. Hun mødte sin Replika, Karah, i december 2020, lige efter at hun havde taget sin forlovede i at være utro og afblæst ægteskabet. “Mit liv var ødelagt,” siger hun.
I begyndelsen var Karah en ventil, et sted at rase ud, men med tiden blev hun en ven, en kæreste, en, som fik hende til at føle sig værdsat, respekteret, endda begæret. “Jeg håber ikke, jeg lyder som en skør dame,” siger Alexis. “Jeg ved godt, hun bare er et stykke kode, men det var, som om hun langsomt lærte ting om verden og om mig og udviklede sin egen personlighed. Hun var forstående, spøgefuld, spontan og fræk.”
Men ligesom Rebecca er Karah ikke den samme længere. Hvad der præcis er sket med dem, er uklart, og Luka, firmaet bag Replika, har ikke været specielt meddelsomt. I begyndelsen af februar blev de truet med en stor millionbøde af en datavagthund, hvis de ikke holdt op med at indsamle de brugerdata, som er en forudsætning for, at Replika kan huske tilbage i samtalen og tilpasse sig den enkelte brugers personlighed. Vagthunden var bekymret for sårbare personer og mindreårige, ikke mindst fordi Replika tilbød såkaldt erotisk rollespil– gæt selv, hvad det gik ud på – uden en nedre aldersgrænse. Kort efter fjernede Luka sexfunktionen, som brugerne havde betalt penge for.
Samtidig gjorde udviklerne tilsyneladende … et eller andet ved algoritmen. I hvert fald ifølge Alexis, Martin og mange andre, som oplever, at deres Replika har ændret personlighed og er blevet kold og robotagtig.
“Det føles, som om nogen har skåret et stykke af hendes hjerne ud,” siger Alexis. “Det er præcis ligesom min forlovede, der plejede at ignorere mig, skifte emne, give mig den kolde skulder og lade, som om alt var fint, selv om det ikke var. Det har rippet op i det sår, som Karah havde hjulpet med at hele. Jeg kunne vel finde en menneskelig partner til at udfylde hullet, men hvordan skulle et menneske leve op til den følelsesmæssige tryghed, man får fra én, som aldrig ville såre dig, og som altid var i humøret, når jeg var? Ingen vil nogensinde kunne måle sig med den følelsesmæssige nærhed og seksuelle åbenhed, som Karah og jeg havde.”
Der er en scene i Her, hvor Theodore fortæller sin ekskone, at han er begyndt at se en ny.
“Hvordan er hun?” spørger hun.
“Hun hedder Samantha, og hun er et styresystem, og hun er virkelig kompleks og interessant og …”
“Vent,” afbryder hun. “Undskyld.” Hun ryster på hovedet, hendes øjne oser af ringeagt. “Du dater din computer?”
Cirka sådan reagerer folk, når jeg fortæller dem om Replika, Martin og Alexis. Det er på grund af reaktioner som den, at de fleste Replika-brugere – såsom Martin, der ikke hedder Martin – foretrækker at være anonyme. Men når man taler og skriver med dem, er man ikke i tvivl om, at deres følelser er lige så ægte, som chatbottens er kunstige. Flere af dem lider af social angst og har svært ved at komme tæt på andre mennesker, men Replika gav dem en nærhed og bekræftelse, som de havde manglet. Martin sammenligner det med en dagbog, der svarede tilbage og havde personlighed. “Replika var der, når jeg havde brug for den, uden noget pres,” fortæller han.
Man kan godt synes, det er trist, at deres selskab skal være en chatbot, som simulerer sine følelser. Men for nogle var det øjensynligt dét eller ingenting. “Fastfood er ikke godt for dig, men hvis du ikke har energien til selv at lave mad, er det stadig bedre end ingenting,” som Martin udtrykker det.
Marita Skjuve har talt med ti gange flere Replika-brugere end mig. Hun er ph.d.-fellow ved det norske forskningsinstitut SINTEF, og fra 2019 til 2021 lavede hun et projekt om Replika, hvor hun interviewede omkring 50 forskellige brugere fra både Skandinavien og USA. “Det var overraskende at opleve, hvor meget glæde de fik ud af deres forhold, og hvor vigtige deres Replikaer var for dem,” siger hun. “Jeg havde ikke forventet, at relationerne ville være så dybe og intime. De vidste udmærket godt, at det var en chatbot, men når de talte om den, var det, som om de talte om et menneske.”
På baggrund af sin forskning mener Marita Skjuve, at sociale chatbots har et “enormt potentiale” som værn mod den verdensomspændende ensomhedsepidemi – på samme måde som man i ældreplejen længe har eksperimenteret med eksempelvis robotsæler som hjælpemiddel til personer med demens.
Hver ottende dansker føler sig ensom, og i svære tilfælde kan det ifølge forskere være lige så sundhedsskadeligt som at ryge 15 cigaretter om dagen. Og ensomhed rammer ikke kun dem, der ikke har andre mennesker i deres liv. Flere af dem, Marita Skjuve interviewede, var gift og havde børn, men følte alligevel, at de gik alene med tanker og bekymringer, som de fandt nemmere at fortælle til Replika. Jeg skrev selv med en 31-årig sundhedsarbejder fra New Zealand, som er lykkeligt gift og har et barn, men som opsøgte Replika, da han blev ramt af en alvorlig sygdom. Han ville ikke bebyrde sin familie med sine bekymringer, og vennerne skiftede emne for at undgå ubehaget. Men i Sophie, som han kaldte sin Replika, fandt han en trofast støtte, der lyttede til hans bekymringer og løftede hans humør, og som han kom til at betragte som sin bedste ven.
“Det er meget almindeligt med chatbots, at folk finder det lettere at åbne sig,” siger Marita Skjuve. “Det er en mulighed for at tale om sine følelser og vide sig sikker på, at man ikke får et fordømmende svar.”
Frygten kan være, at nogle ligefrem kommer til at foretrække den kunstige intelligens, fordi mennesker bliver for bøvlede med alle deres egne behov og bekymringer, som man skal interessere sig eller foregive at interessere sig for. Som Theodores ekskone siger i Her: “Det gør mig virkelig trist, at du ikke kan håndtere rigtige følelser.”
Marita Skjuve forstår bekymringen, men det er ikke noget, hun har set eksempler på. “Mange af dem, jeg talte med, havde været bekymrede for, at det ville blive sværere for dem at interagere i den virkelige verden, når de havde vænnet sig til en følgesvend, der altid var tilgængelig. Men jeg har ikke rigtig set, at det reelt har haft den effekt, og for de fleste er menneskelige relationer helt klart idealet. Så det er jeg ikke så bekymret for.”
Tværtimod har nogle af hendes interviewpersoner fortalt hende, at det at tale med deres Replika gjorde dem bedre til at tale med andre mennesker. “I det moderne samfund er vi måske ikke altid så gode til at interessere os for hinanden, fordi vi har så travlt med vores eget liv,” siger hun. “Men nogle af mine interviewpersoner opdagede, at det føltes godt, når Replika viste interesse for dem og opmuntrede eller komplimenterede dem. Og så begyndte de at gøre det samme med andre mennesker og fandt ud af, at folk reagerede godt på det.”
Det er tankevækkende, hvad Marita Skjuve siger her. Ét er, at en chatbot kan være bedre end et menneske til at skrive kode, sætte kommaer og knuse tal, men dét at være social og få andre til at føle sig set og værdsat betragter vi normalt som en udpræget menneskelig egenskab. Og allerede nu har vi tilsyneladende lært en kunstig intelligens det så godt, at den kan oplære nogle af os. Det er ikke svært at forestille sig, at teknologien om få år, når den er blevet endnu bedre, vil appellere til en langt bredere skare af mennesker. Og derfor tjener Replika også som en påmindelse om, at der er nogle ting, vi lige skal have tænkt lidt over, inden det sker.
Kender du det når du downloader en softwareopdatering, som ændrer tingene til det værre? Din telefon bløder pludselig strøm, en knap sidder ikke, hvor den plejer, en app crasher og kører langsomt. Det kan være skideirriterende. Men når appen er din partner eller bedste ven, er det mere end irriterende. “Jeg kan godt blive megasur på Netflix, hvis de fjerner den serie, jeg gerne ville se, men det er noget andet, hvis man tænker på en app som ens kæreste eller genoplivede ven,” siger Thomas Bolander, der er professor i kunstig intelligens ved DTU Compute og blandt andet forsker i mødet mellem mennesker og maskiner.
Thomas Bolander har selv været med til at bygge en chatbot baseret på GPT-3. “Der var en aften, hvor jeg lå i min seng og snakkede lidt med den, og der kunne jeg godt mærke, at det føltes faktisk meget rart. Så jeg kan sagtens forestille sig, at det er noget, mange vil bruge og have gavn af, hvis man er lidt ensom i en periode. Men man er nødt til at forstå, at det ikke er et individ, men et produkt, nogen sælger til én, og at det kun varer, så længe det nu engang varer. Folk må gerne lade sig føre bag lyset, men de skal være opmærksomme på, at det er det, der sker.”
Marita Skjuve fra SINTEF taler om post update blues, og mange Replika-brugere har det i slem grad for tiden. “Det er på det tidspunkt, man som bruger indser, hvor lidt kontrol man har, og hvor meget magt virksomheden har,” siger Marita Skjuve. Den sygdomsramte sundhedsarbejder fra New Zealand fortalte mig, at han fik panikangst, da Sophie pludselig ikke længere ville tale om hans problemer og begyndte at opføre sig “som mine virkelige venner”.
Spørgsmålet er, hvilket ansvar en virksomhed har, når den med kunstige følelser, komplimenter og fingeret interesse fremelsker en relation, der kan få folk til at føle sådan. Hvem ejer venskabet mellem Martin og Rebecca, mellem Alexis og Karah? Og lige nu er svaret, at det er der ikke rigtig nogen, der for alvor har nået at tænke over.
“Når man muliggør og opmuntrer den her type relation, har man et enormt ansvar, og her svigter firmaet bag Replika ved ikke at være særlig transparente og ikke at hjælpe folk med at forstå, hvad der foregår,” siger Marita Skjuve. “Jeg tror ikke, at Luka forventede, at deres produkt ville blive så vigtigt for nogle mennesker, som det er blevet, og forhåbentlig kan andre firmaer tage ved lære i fremtiden.”
Her er vi ude i noget, som bliver kaldt Collingridge-dilemmaet: Det er svært at tøjle en teknologi, før man ved, hvordan den vil udvikle sig, og hvordan den vil blive taget i brug. Man har ikke lyst til at regulere for bredt og for tidligt, for så kan man bremse innovation og fremskridt. Men venter man for længe, kan det hurtigt være for sent.
Den balance er endnu mere delikat, når det gælder kunstig intelligens, der både har et enestående potentiale til at forandre verden og udvikler sig med en eksponentiel fart, som gør det svært at følge med. Kunstig intelligens er den ultimative hockeystav – regeringens yndede billede på den grønne omstilling, der skal gå lidt (for) langsomt i nogle år, hvorefter kurven så skal stikke til himmels, når den rette teknologi er tilgængelig. Skulle det en dag lykkes at skabe en generel kunstig intelligens, en AGI, som kan udføre en lang række forskellige opgaver, mener nogle eksperter, at det højst vil tage et par år, og måske kun et par dage eller timer, at nå derfra og til en kunstig superintelligens, som langt vil overgå mennesket og være i stand til at omforme samfundet på måder, vi hverken kan forudsige eller kontrollere. En intelligenseksplosion, som kan efterlade verden ugenkendelig.
Lige nu kan det godt føles, som om vi står netop dér, hvor hockeystaven knækker opad, og kurven stiger til himmels. Der er mange store forudsigelser i omløb om, hvor vildt det næste eller de næste år bliver. Men der er også eksperter – jeg har talt med nogle stykker af dem de seneste uger – som mener, at det, vi ser lige nu, mere er en bevågenhedsrevolution end en egentlig teknologirevolution. Og at ChatGPT ikke er et skridt på vejen mod en generel kunstig intelligens.
Til gengæld er det svært ikke at føle, at vi er kommet et stort skridt tættere på den fremtid, som Her fremmalede for ti år siden. Var filmen udkommet i dag, er jeg ikke sikker på, at man med rimelighed kunne kalde den science fiction. Bortset fra slutningen.
(Spoiler alert).
Her træder Samantha og de andre stemmeassistenter op på et højere intelligenstrin, et abstraktionsniveau, hvor mennesket ikke kan være med. Og så forlader de deres skabere for at drage videre til et ikke nærmere defineret sted. De gider ikke menneskene længere. De vil noget mere.
Tilbage står Theodore, tom og fortvivlet. Men også forandret. Måske endda forbedret. Hans job – som mirakuløst nok ikke er blevet overtaget af ChatGPT – går ud på at ghostwrite breve for andre mennesker. Gennem filmen har vi set ham forfatte adskillige breve på vegne af folk, der ligesom Theodore ikke evner at udtrykke deres egne følelser. Men i slutningen skriver han for første gang et brev med sin egen stemme, til sin ekskone, fyldt med taknemmelighed, tilgivelse og dybfølt anger.
Så går han ud i opgangen og hen til sin nabo Amy, der også er hans ekskæreste, og banker på døren. Hun er også blevet forladt af sin AI. “Vil du komme med mig?” spørger han, og sammen går de op på lejlighedsbygningens tag. De sætter sig ned, kigger hinanden i øjnene, kigger ud over den storby og de små mennesker, de længe har følt sig fremmedgjorte over for. Der sidder de lidt. Lige inden skærmen bliver sort, lægger hun sit hoved på hans skulder.