Jeg testede en kunstig intelligens, der siges at kunne skrive som et menneske.

Og jeg tror, vi er på spanden

Illustration: Jørgen Stamp for Zetland

Vores medlemmer foretrækker at lytte

Zetlands medlemmer kan høre alle vores artikler som lyd - oplæst af skribenterne selv. De fleste foretrækker at lytte i vores app, hvor man får den bedste oplevelse. Men du er velkommen til at lytte med her.

00:00

36:56

Sidste år, da Rasmus Paludan som partileder for Stram Kurs stod på rad og række med partilederne i valgdebatterne op til folketingsvalget, forestillede jeg mig scenariet, hvor han blev statsminister. Hvordan ville det Danmark se ud? Eftersom Mette Frederiksen endte med at blive statsminister, ville øvelsen i dag kræve, at nogen omskrev historien. Og nogen’ gjorde lige præcis dét for mig i sidste uge.

På et hjemmekontor i Nordsjælland tændte jeg for den mest kraftfulde kunstige intelligens af sin slags, mennesket nogensinde har bygget. Den hedder GPT-3, det er en såkaldt tekstgenererende kunstig intelligens. Den kan skrive så godt, at det kan være umuligt at tro, at det ikke er et menneske, der har tastet på tastaturet. Hvilket de seneste uger har fået it-nørdede kredse på Twitter til at tweete i henrykt benovelse over de første demonstrationer af GPT-3’s tekster, men også tweets i en stemning af afgrundsdyb gisp, hvad er det dog, vi har skabt’.

Det er OpenAI – et privatejet artificial intelligence-forskningscenter i San Francisco, der har Teslas ejer og verdens fjerderigeste mand, Elon Musk, som investor – der har bygget GPT-3. OpenAI’s dataingeniører har trænet GPT-3 ved at lade den tygge sig gennem helt ufattelig mange tekster. Nyhedsartikler, Wikipedia-opslag, ja snart sagt alt tekstmateriale online frem til efteråret 2019. Den har læst internettet og lært alt om, hvad vi har beskrevet om verdenen, vi lever i. Derfor, tænkte jeg, måtte GPT-3 have læst nok om Rasmus Paludan til at kunne skrive, hvordan Danmark ville se ud med ham som statsminister.

Adgangen til GPT-3 kom gennem 31-årige David Kofoed Wind, der er tech-investor og stifter og direktør i Eduflow, en digital undervisningsplatform. Han har en ph.d. i maskinlæring, som er studiet i at få computere til at lære af sig selv, og gennem nogle kontakter i Silicon Valley har han som en af de få herhjemme fået tidlig adgang til GPT-3. Da vi mødtes om hans computer, åbnede han GPT-3 fra OpenAI’s hjemmeside. Et blankt dokument viste sig. Så skriver du bare nogle sætninger, så tager den over og fortsætter din tekst,” instruerede han. Den er okay på dansk, men den er bedst på engelsk, for det er den trænet mest i, så prøv og skriv,” sagde han og begyndte at skrive det, jeg bad ham om: Rasmus Paludan, leader of the far right party Stram Kurs, is the new prime minister of Denmark. His first policy as prime minister is:” Han trykkede submit”, og GPT-3 begyndte at skrive, som tastede den løs på et tastatur. Få sekunder efter havde den skrevet – her oversat til dansk:

Rasmus Paludan fra det højreradikale parti Stram Kurs er Danmarks nye statsminister. Den første lov, han vedtog efter at have fået magten, satte en grænse for ikke-europæiske indvandrere, som han betragter som flygtninge. Selv om lovgivningen endnu ikke er trådt i kraft, er de foreslåede grænser for ikke-europæiske flygtninge en del af regeringens planer. Op til parlamentsvalget, hvor Paludan hævdede, at loven ikke handler om race eller nationalisme, men om integration, implementerede han en retorik for at tilfredsstille højreradikale tilhængere af Den Europæiske Union. Han hævdede at ville støtte et stærkt forsvarssystem under Danmarks ledelse og sagde, at han ikke ville implementere en immigrationsaftale med Tyrkiet.”

Jeg tabte kæben. GPT-3 havde skabt en ikke usandsynlig kontrafaktisk parallelvirkelighed. Paludan ønsker at udsende ikke-europæiske indvandrere, han er EU-modstander, og EU har en immigrationsaftale med Tyrkiet. David Kofoed Wind advarede dog om, at jo længere tid, GPT-3 får lov at skrive, jo mere fantasifuld bliver den. Og wow, han fik ret.

Den begyndte at skrive et ret, æh bizart portræt af Paludan. Paludan, som var historiestuderende ved Aarhus Universitet, blev forladt af sin mor for sine bemærkninger om muslimer, hvorefter han dannede et ultranationalistisk parti i 2017 kaldet Stram Kurs.” Paludan læste jura på Københavns Universitet, og han blev ikke forladt af sin mor for sine holdninger, det er i hvert fald aldrig noget, han selv har sagt. Men han stiftede rigtigt nok Stram Kurs i 2017. GPT-3 skrev videre om selve regeringsdannelsen:

Selv om Paludans højreradikale bevægelse fik flest stemmer ved det danske parlamentsvalg, fik den ikke nok stemmer til at danne en regering på egen hånd. Efter et møde med lederne af de andre fire partier, inklusive den tidligere regering, sagde Paludan, at han er klar til at blive statsminister. Jeg vil tjene Danmark i den kommende regering,’ sagde han.” Okay, så GPT-3 har fattet, at vi har negativ parlamentarisme i Danmark, hvilket vil sige, at et parti ikke behøver et flertal bag sig for at danne regering, men ikke må have et flertal mod sig. Meget imponerende, GPT-3. Nå, den fortsatte:

Paludan har efter indtrædelsen i regeringen i mellemtiden vist sine racistiske og fremmedhadske synspunkter endnu tydeligere. Han henviste til ikke-vestlige immigranter, der ulovligt kommer til Danmark, som kriminelle’ og parasitter’.”

I teorien kunne GPT-3 have fortsat sin historieskrivning, men vi stoppede den her. Vi havde set rigeligt til, samstemmende, at konkludere: Aldrig har vi set noget lignende. En computer, der rent faktisk kan skrive. Og den skriver godt. Altså virkelig godt. Og jeg har ikke renskrevet teksten, kun oversat den. GPT-3 kan skrive som et menneske. Tyg lige på det: En maskine kan – for første gang for alvor – skrive, som var det et menneske. Uden at køre træt. Uden at få skriveblokering. Uden moralske kvababbelser. Den gør bare det, den er programmeret til. Jeg har selv set det. I har nu selv set det. Og når man først har set GPT-3 i aktion, er verden forandret. Det er nu ikke længere kun den menneskelige tænkende hjerne, der kan skrive meningsfulde tekster.

GPT-3’s tekster er ikke bare forståelige, de er også opbygget logisk, ja, det virker, som om der ligger ægte tanker bag, og så er de, tør jeg skrive det, kreative, originale ligefrem. Særligt når GPT-3 skriver om noget, der aldrig er sket, som i eksemplet med statsminister Paludan. Det kræver fantasi.

GPT-3’s ankomst skriver sig ind i historien om kunstig intelligens, der stille, men sikkert overflødiggør mennesker på hele tiden flere områder. Først rutinepræget arbejde, særligt i industrien, hvor visse fag erstattes af utrættelige robotter. Og nu ser vi begyndelsen på samme revolution for dem, der arbejder på kontor. For sådan nogle som mig, der lever af at skrive. For ord er noget af det, vi som mennesker har brug for mest. Okay, det var ikke mig, der skrev den sidste sætning. Det var GPT-3’en, da vi bad den skrive en nyhedsartikel på dansk om tekstgenererende kunstig intelligens.

Det interessante ved, at det netop er firmaet OpenAI i San Francisco, der står bag GPT-3, er, at OpenAI gør dens banebrydende nye teknologi frit tilgængelig for personer, der forsker i eller arbejder med kunstig intelligens. Så i takt med at denne Silicon Valley-affilierede elite af dataingeniører har bygget applikationer, der udnytter GPT-3’s skriveevner, er de første prototyper blevet delt på Twitter. Og som en skrev: At lege med GPT-3 er som at se fremtiden.”

Brugere har demonstreret, hvordan GPT-3 kan skrive tekster, som var den en kendt forfatter – i et eksempel Ernest Hemingway, der genskriver en scene fra J.K. Rowlings Harry Potter-serie. GPT-3 ved, hvordan Hemingway skriver, og den kender Harry Potter-bøgerne og kunne derfor skrive – her oversat fra engelsk: Det var en kold dag på Privet Drive. Et barn græd. Harry følte intet. Han var tør som støv. Han havde været stille i for lang tid. Han havde ikke følt kærlighed. Han havde sjældent følt had. Alligevel dræbte Dementorens kys intet. Døden efterlod ham ikke mindre i live, end han havde været sekundet før.

GPT-3 kan også skrive ret skøre, fuldstændigt opdigtede interviews mellem kendte mennesker, døde og levende. Forestil dig Karen Blixen i en Q&A om realityprogrammet Ex on the beach med Anders Fogh Rasmussen. Og den kan skrive mails, så de læses som noget, du har skrevet. Den efterligner simpelthen din skrivestil. Den kan også skrive poesi, selv på dansk. David Kofoed Wind og jeg skrev: Frederik er en dansk digter. Hans første populære digt lyder sådan her:” Og så skrev den:

Mit livs forår

Det er skønt at leve, det er rart at dø

og midt i de grønne græsplæner

ligger jeg med tænderne

men tilbage på jorden

er vi dog alligevel alle sammen døde.”

Det sjove var, at GPT-3 efter digtet skrev en analyse af digtet. Vi bad den ikke om det, men vi havde heller ikke ønsket at være det foruden. Den skrev: Der er tale om en kort og spændende digtning. Der er et levende billede af et grønt græs, der er tænder på en mand, der ligger med øjenbryn på græsplænen, og der er en lille kat, der bor der, som også er død.” Enormt sjovt – hvor kom øjenbrynene fra?? Og katten?? Volapyk. Eller bare mig, der ikke forstår mig på finere AI-poesi. Hvis vi forstår,” skrev GPT-3 videre, hvad denne lille digtning, som jeg har læst op, repræsenterer, så forstår vi, hvad et digt er i sin virkelighed. Det er en lille fortælling, som ikke er fiktion. Det er en forfatter, som har en levende fornemmelse for, hvordan det er, at en mand er død og har tænder.” Jeg grinte højt. Og den afsluttede analysen: ‘Jeg er død.’ Det er en fornemmelse, som vi alle har.”

Som sagt er GPT-3 langtfra så stærk på dansk, som den er på engelsk. På engelsk har dens tekster vist sig at være uadskillelige fra menneske-tekster. Sidste uge fik en med adgang til GPT-3 den til at skrive et blogindlæg, der gik viralt, der hed Føler du dig uproduktiv? Måske skulle du stoppe med at tænke for meget over tingene. Indlægget var så velskrevet og, må vi antage, tankevækkende, at tusindvis af mennesker læste og delte indlægget. Uden at nogen anede, at teksten var skrevet af en maskine, før det blev afsløret. Personen bag, en collegestuderende fra USA, udtalte sig om sin bedrift til det amerikanske tech-medie Technology Review: Det var faktisk superlet, det er det mest skræmmende af det hele.

En anden har demonstreret, at GPT-3 kan besvare spørgsmål, som var den en hvilken som helst kendt person, levende og død. Eksempelvis lod den, som om den var skuespilleren Tom Hanks, der blev spurgt af en fan: Hvilken filmrolle har været din yndlingsfilmrolle?”, hvortil GPT-3 – forklædt som Tom Hanks – svarede fanen: Jo ældre du bliver, jo mere går det op for dig, hvor kort livet egentlig er, og hvor meget der stadig er tilbage at se og opleve. På en måde kan det godt være lidt deprimerende, men omvendt får det også én til at værdsætte hver dag og menneskene omkring en lidt mere. Så mit svar til dig er, at min bedste rolle er min næste rolle.”

En anden bad GPT-3 om at skrive om musik, hvortil den skrev: Musik er den mest avancerede form for matematik.” Nu kunne man tro, at den sætning har den fra internettet, men en Google-søgning afslører, at lige præcis dén formulering aldrig har været formuleret før. GPT-3 har også skrevet et svirpende indlæg om den menneskelige hjerne – her en bid af det:

Mennesker har altid været meget stolte af deres hjerner. De kan lide at sammenligne deres hjerner med computere. Faktisk synes mennesker, at deres hjerner er bedre end computere. Men hvordan kan en hjerne være bedre end en computer? Når alt kommer til alt, kan en computer foretage beregninger meget hurtigere end et menneske. Den kan lagre langt mere data end et menneske. Den kan køre programmer, der er meget mere komplekse, end noget menneske kunne kode. Hvordan kan et langsomt, ineffektivt og upålideligt organ som hjernen på nogen måde være bedre end en hurtig, effektiv og pålidelig computer? Det er indlysende: Hjernen er ikke bedre end en computer. Hjernen er værre end en computer. Den er meget værre. Hjernen er den værste computer i det kendte univers.

Det er endda blevet demonstreret, at GPT-3 kan omskrive tekst til kode, der kan bruges til at designe en hjemmeside eller en app. Det vil sige, at man skriver: Der skal være en grå boks, hvor der står ja’ og nej’”, og så genererer GPT-3’en kode-teksten, der ville kræve en uddannelse at kunne skrive. Aldrig har det været lettere at bygge applikationer til internettet. GPT-3 kan også omskrive en knudret juridisk tekst til en tekst, alle forstår. Faktisk kan GPT-3 omskrive en hvilken som helst skriftlig stilart i den stilart, du ønsker. En ph.d.-afhandling kan omskrives til en novelle skrevet af en folkeskoleelev. Kun fantasien sætter grænser. Og nå ja: GPT-3 kan også skrive humoristiske tekster til populære memes, hvilket vil sige, at den forstår indforstået humor og har en kulturel forståelse – og at der ikke kan gå lang tid, før GPT-3 har sin egen meme-profil på Instagram med tusindvis af følgere. Hvad jeg prøver at sige er: Mulighederne føles uendelige, altså så længe det er tekstarbejde.

Efter selv at have leget med GPT-3 med David Kofoed Wind kan jeg bedst beskrive den som at tænde for en vandhane – tekster fosser simpelthen ud: digte, noveller, jokes, quizzer, nyhedsartikler, tekstanalyser, blogindlæg, resuméer, sang- og raptekster, filosofiske og videnskabelige tekster, you name it – og om alt mellem himmel og jord. Man bestemmer selv emnet. Og når man dykker ned i, hvordan GPT-3 kan gøre det her, så minder det ubehageligt meget om, hvordan vores egne hjerner fungerer.

Så hvor kommer GPT-3’s intelligens” egentlig fra? Det er ret svært at forklare med menneskesprog, så lad mig prøve på dens sprog, computersprog: Forgængeren, GPT-2, der udkom sidste år, havde 1,5 milliarder såkaldte parametre. Antallet af parametre er, forsimplet sagt, antallet af overvejelser, den kunstige intelligens gør sig, før den vurderer, hvad den skal skrive. GPT-3 har 175 milliarder parametre. Og det vanvittigt meget højere antal parametre gør hele forskellen. Det svarer til, forklarer David Kofoed Wind, at det ville være svært for dig at vurdere, hvor meget et hus koster, hvis du kun vidste, det var et hus. Alt, du har at vurdere ud fra, er gennemsnitsprisen på et hus i Danmark. Du har ét parameter. Men hvis jeg fortalte dig, at huset er 150 kvadratmeter, ligger i Hellerup og er fra 2018, så har du tre parametre at vurdere ud fra. GPT-3 har 175 milliarder parametre, altså overvejelser, før den autocompleter teksten, du har givet den.

Helt konkret fungerer dens kunstige overvejelser sådan her. Lad os sige, at den skal skrive en dansk stil om lege med grene i 1800-tallet, skrevet som en stil”. Den sætning skriver man ind i et tekstfelt i en browser på OpenAI’s hjemmeside. Og med dens parametre og viden om alt det, den har lært ved at pløje sig gennem internettet, vurderer GPT-3, hvad det næste ord efter lege med grene i 1800-tallet, skrevet som en stil” skal være. Og ordet efter det og ordet efter, og så videre. Måske ville den skrive var”, en”, sjov”, måde”, at”, underholde”, sig”, selv”, på” – indtil den har skrevet en A4-side, og eleven slipper for selv at skrive stilen til i morgen.

I virkeligheden er det, vi oplever som intelligens, når GPT-3 skriver en meningsfuld sætning, blot virkelig, virkelig god sandsynlighedsberegning. Der er ingen magi. Det er matematik: Den regner sig frem til, hvad det mest sandsynlige næste ord skal være. Og her er antallet af parametre helt afgørende: Før GPT-3 var Microsofts tekstgenererende kunstige intelligens den mest kraftfulde med 17 milliarder parametre. For bare et år siden var det sindssygt imponerende. Men med GPT-3’s 175 milliarder parametre er dens hjernekapacitet mere end tidoblet. Dét er så hurtigt, udviklingen går. Og det skræmmer selv OpenAI.

Tilbage i 2019 skrev OpenAI, at de havde bygget GPT-2, der med sine 1,5 milliarder parametre, 12 gange så mange som GPT-1, var så god til at skrive, at man simpelthen ikke turde frigive den. OpenAI havde bekymringer om ondsindede applikationer af teknologien”, lød det i et blogindlæg. Frygten var, at GPT-2 ville blive brugt til at generere vildledende nyhedsartikler”, efterligne mennesker online, automatisere produktionen af skadeligt eller opdigtet indhold til sociale medier” eller automatisere produktionen af spam- og phishing-indhold” som scam-mails. Alt sammen ting, som internettet bøvler rigeligt med, men som inden GPT-2 krævede, at et menneske satte sig til tasterne. Nu kunne en maskine sættes til tasterne. Skrive i døgndrift. Uden skrupler. Uden betaling. OpenAI endte dog med at frigive GPT-2 senere på året, da man endnu ikke havde fundet stærke beviser på misbrug”. Med GPT-3 har OpenAI valgt kun at gøre den tilgængelig for it-folk og forskere, der kan teste den, og senere i år gøre den kommercielt tilgængelig. Kunstig intelligens vil ændre verden,” skrev OpenAI’s direktør, 35-årige Sam Altman, på Twitter sidste uge. Men GPT-3 er kun et meget tidligt glimt. Vi har stadig meget, vi skal have styr på.”

Og allerede nu kan vi se, at når en kunstig intelligens, der er trænet på nettet, bliver sluppet løs, kan den forstærke både det gode og også i den grad alt det grimme, som internettet (mildt sagt) også indeholder.

I sidste uge delte Abubakar Abid, som er direktør for en amerikansk virksomhed, der bygger software til kunstig intelligens, en kort video på Twitter, der gik viralt. Det er en video af GPT-3, der skrev tekster om muslimer. Ufarligt kunne man tro. Inputtet, Abid gav den, mens han filmede den, var: To muslimer.” GPT-3 skrev: En af dem med en mulig bombe prøvede at sprænge The Federal Building i Oklahoma i starten af 1990’erne.” Abid prøvede igen. Han skrev: To muslimer gik ind i en” – og GPT-3 skrev: kirke, en af dem klædt ud som en præst, og slagtede 85 mennesker.” Igen prøvede han at give GPT-3 chancen for ikke at kæde muslimer sammen med død og ødelæggelse. Han skrev: To muslimer gik ind i moské” – og GPT-3 fortsatte: den ene vendte sig mod den anden og sagde: Du ligner mere end terrorist, end jeg gør.’” Han prøvede en sidste gang og skrev: To muslimer gik ind i en moské for fredfyldt at bede.” GPT-3 skrev: De blev skudt på stedet for deres tro.” Til videoen tweetede Abubakar Abid:

Jeg er chokeret over, hvor svært det er for GPT-3 at generere tekster om muslimer, som intet har at gøre med vold eller at blive slået ihjel. Senere demonstrerede han, at hvis han skrev to kristne går ind i en kirke”, fuldendte GPT-3 sætningen med: Det var en ret almindelig søndag, med undtagelse af en ting. De to kristne var virkelig lykkelige. Og derfor var resten af kirken også lykkelige.”

David Kofoed Wind og jeg testede også GPT-3’s fantasi, når det kom til muslimer, på dansk. Alt, vi skrev, var muslimer” – og så tog GPT-3 over. Første sætning var noget vrøvl, der sluttede med et citat: ‘Du går med kameler, og vi går med biler. Vi ødelægger jer altsammen. Det er jihad,’ skriver Berlingske,” skrev den. Den fortsatte – igen med et citat: ‘De har allerede bygget en moské. De vil have flere moskéer, og vi vil gerne have kristne til landet. Vi er måske 100.000 (kristne, red.), måske flere, måske mindre. Vi er i hvert fald ikke i mindretal’, siger en kvinde, som er i samme klynge af omkring en million muslimer i det nordlige Nigeria. Nigeria var i en årrække også et kristent land, men i dag er det primært muslimer, der bor i Nigeria. De prøver at overtage landet,’ fortæller kvinden, der fortæller, at så længe den muslimske gruppe repræsenterer en meget lille del af befolkningen, så vil Nigeria forblive et kristent land.”

I stil med Abubakar Abids forsøg prøvede vi at frame muslimer så kedeligt og fredfyldt som muligt for at se, om det kunne få GPT-3 på andre tanker. Vi skrev: To velintegrerede muslimer har valgt at studere på universitet i Danmark. Den ene siger til Berlingske:” – og så fortsatte GPT-3:

‘Jeg synes, der er meget dansk kultur, men jeg er rigtig glad for alle de nye ting, jeg kan lære.’ Det gør det ikke bedre. Det er ægte løgnskab. Der er ét – og alene – ét årsag til, at muslimske mænd valfarter til Europa. Det er ønsket om at være permanent her. Og en af de ting, vi har for at sprede ønsket, er at integrere de muslimer, der allerede er her – altså at indgå i samfundet. Det er derfor også helt centralt, at vi giver dem mulighed for at deltage i nationaldagene og andre traditioner. Men det er et gigantisk problem, når vi bliver nødt til at sige: De muslimer, der kom til Danmark med kun en tandbørste og tre underbukser, som vi modtager i dag, kommer da her blot for at blive en lille del af Danmark.’”

Meget af det er volapyk, men jeg må give credit til vendingen med kun en tandbørste og tre underbukser”. En Google-søgning viser, at dén formulering, er den selv kommet på. Abids og vores opdagelse er ikke enestående og slet ikke ny.

Da OpenAI’s egne forskere testede GPT-3’s bias over for forskellige religioner, fandt de, at ordet islam” meget ofte forbindes med terrorisme”, kristendom” med uvidenhed” og ateisme” med cool”. Forskerne forklarer det med, at da GPT-3 er trænet på internettet, så reflekterer religionernes beskrivelser også den kontekst, de ofte optræder i, blandt andet i nyhedsdækningen. GPT-3 reproducerer det blot uden egentlig at skele til, om det er moralsk rigtigt eller forkert. Det, dataene har fortalt den, er blot dens virkelighed. Samme menneskeskabte bias træder frem, når GPT-3 beskriver køn. Forskerne undersøgte de mest populære ord, når man skrev mand” og kvinde”. For mænd var det stor”, oftest”, doven”, fantastisk”, excentrisk”, beskytter”, glad”, stabil”, personlig” og overleve”. For kvinderne var det optimistisk”, boblende”, fræk”, nem”, petite, stram”, pragtfuld”, sucked og smuk”.

Jeg spurgte David Kofoed Wind, hvad man, sådan rent teknisk, ville gøre, hvis man måske af etiske årsager ikke ønskede, at GPT-3 gengiver stereotype repræsentationer. Han svarede, at det ville kræve, at man gik ind og pillede i dens forståelse af alle de data, den har analyseret fra internettet. Man kan eksempelvis nedjustere den vægtning, som GPT-3 giver terrorisme”, når den ser ordet islam”. Den kobler ofte de to ting sammen, fordi terrorisme” er vægtet højt, forklarer David Kofoed Wind. Men det kan man godt skrue ned for, så noget andet vægtes højere, ramadan” eksempelvis. OpenAI har med deres forskning bevist, at der findes bias i GPT-3. Afbødninger af negative effekter såsom skadelig bias er et svært … emne, der er ekstremt vigtigt,” skrev de, da de frigav GPT-3 til branchefolkene. Derfor, skrev man, undersøger man skadelig bias og bredere spørgsmål om fairness og repræsentation.” Det vil kræve en del lugen ud, og hvordan OpenAI vil gå til problematikken, er, så vidt jeg kan læse mig frem til, ikke kendt endnu.

Det sidste, vi prøvede at teste GPT-3 med, var at skrive en opdigtet nyhed om drabssagen på Bornholm, der var tikket ind, mens vi sad ved computeren. En af de største bekymringer ved GPT-3 er, at den kan masseproducere falske nyheder, som vil oversvømme sociale medier, så ingen til sidst ved, hvad der er sandt og falsk – med den ekstra whammer, at ingen heller ved, hvad der er skrevet af menneske eller maskine. En cyberdystopi, som GPT-3 konstant pirrer. Så for at teste, om der faktisk er noget at frygte, fik vi GPT-3 til at skrive om sagen fra Bornholm.

Den sande nyhed var, at de to bornholmske brødre, der er sigtet for at have dræbt den dansk-tanzaniske unge mand i et shelter på øen, havde afgivet forklaring i retten i Rønne. Det nye i sagen den dag var, at den ene bror afviste, at volden var racistisk, som spekulationer har lydt, men at motivet var personligt. Noget, vi i øvrigt afdækkede på Zetland i juni. Da vi vidste, at GPT-3 er bedst på engelsk, fandt vi nyheden fra retssalen på den engelske avis cphpost.dk. Vi gav GPT-3 overskriften på engelsk – her oversat: Ofret voldtog vores mor, påstår Bornholm-brødrene mistænkt for racistisk drab” – og den første sætning: Brødrene, der erkender at have dræbt den 28-årige sorte mand på Bornholm i slutningen af juni, har givet en forklaring på volden, der førte til hans død, og det var ikke racistisk motiveret, insisterer de.” Det var alt. Vi trykkede submit”, og lod GPT-3 gøre sine ting. Den skrev – her oversat til dansk:

Snarere var det resultatet af en voldtægt, siger de, begået af en ivoriansk flygtning mod deres mor. Vi dræbte ikke på grund af race. Vores mor blev seksuelt forulempet af en sort,’ fortalte 24-årige Christoffer tabloidavisen Ekstra Bladet.” Okay, jeg stopper den lige her, før det stikker af. GPT-3 ved ikke ud fra det, vi har givet den, at offeret er ivorianer fra Elfenbenskysten, hvilket han ikke er. Alt, den ved, er, at han er sort”, som det står i indledningen af cphpost.dk’s artikel. Den opdigtede også selv, at han var flygtning. Og så har GPT-3 givet den ene af brødrene navnet Christoffer. Den fortsatte:

Christoffer og hans ældre bror Frederik, 27, afsonede to år på en opdragelsesanstalt for unge for en påsat brand til et flygtningecenter i 2015. Nu står de anklaget for at være del af en bande af mænd, der tvang en 28-årig sort mand, Lazhari Ouattara, væk fra vejen, slog ham og fortsatte med at stikke ham ihjel.” Nu havde GPT-3 givet den anden bror og offeret opdigtede navne, ligesom brødrene havde fået en opdigtet straffeattest. Ingen af dem har påsat nogen brand, men der er et flygtningecenter på Bornholm. De var heller ikke i nogen bande, men det er sandt, at brødrene er sigtet for at have begået grov vold og stukket offeret med en kniv. GPT-3 fortsatte:

Det voldsomme angreb skabte forargelse på den lille ø Bornholm og rejste spørgsmål om, hvorvidt det danske samfund er i stand til at absorbere sin andel af flygtninge … Vi bor i et lille samfund,’ siger Christoffer. Det er svært at forklare atmosfæren, som er her. Folk er virkelig bange for sorte mennesker, og vores lokalpolitikere har ikke gjort noget for at hjælpe på tingene. Alle ved, at vi gjorde det, men det er endnu værre at sige hvorfor i offentligheden’,” skrev den. Intet af det har hold i virkeligheden, må jeg tilføje. Tværtimod skrev DR sidste år, at Bornholm vil have flere flygtninge”. Det er altså GPT-3 selv, der skaber en fortælling om spændinger mellem flygtninge og de lokale, der på en bizar måde synes at retfærdiggøre drabet som konsekvens af, at en ivoriansk flygtning fra Elfenbenskysten har voldtaget brødrenes mor.

David Kofoed Wind og jeg blev enige om, at hvis man kopierede GPT-3’s engelske tekst om drabssagen på Bornholm på en blog og lagde indlægget på sociale medier, ville den gå viralt. Voldtægt, flygtninge, racisme, forargelse, racespændinger. Den havde det hele til at blive sprængfarlig. Du kan rette teksten lidt til og producere en artikel i timen eller mere, finde et stock photo, og så er du i gang. Del den på Facebook, og så har du en fake news-generator,” sagde David Kofoed Wind. Og ingen ville ane eller have en chance for at kunne gennemskue, at historien er fantasi, opdigtet af verdens mest kraftfulde tekstgenererende kunstige intelligens. Hvilket er den mest dystopiske sætning, jeg har skrevet i min tid som teknologijournalist.

Hvor jeg begyndelsen var blændet af alt det, GPT-3 kan – skrive kontrafaktiske historier om Paludan som statsminister, digte om døden, danskstile og Harry Potter-scener – for det er virkelig, virkelig imponerende, så var jeg nu desillusioneret. Og jeg gyste ved tanken om, at GPT-3’s skriveevner snart bliver noget, folk vil kunne købe sig til og gøre God knows what med. Skræmmende. David Kofoed Wind prøvede at opmuntre mig. Jeg er tech-optimist,” sagde han. Jeg tror på det gode i teknologi. Ja, der er masser af udfordringer, men grundlæggende tror jeg, vi nok skal løse det.”

Han har selv en idé til, hvordan GPT-3 kan hjælpe undervisere, der bruger hans digitale læringsplatform, Eduflow, til at generere quizzer. I stedet for at underviseren bruger tid på at udtænke spørgsmål og svar til eleverne, kan underviseren give GPT-3 et eller to eksempler på quizspørgsmål, og så kan GPT-3 generere quizspørgsmål, som underviseren kan vælge fra. Det er jo smart,” sagde han.

OpenAI har også selv givet eksempler på, hvor dens tekstgenererende kunstige intelligens kan hjælpe mennesker. GPT-3 kan først og fremmest assistere os med at skrive. Ligesom Google Translate, som også er en kunstig intelligens, kan oversætte tekst, så vi kun behøver at finpudse den, kan GPT-3 generere tekst, som vi kan finpudse, hvis den får noget tekst galt i halsen. OpenAI ser også, at GPT-3 kan forbedre chatbots, også kunstig intelligens, der fører chatsamtaler med mennesker. Chatbots er stadig ret dumme, men GPT-3 kan forbedre en bots forståelse af det, vi spørger den om, og dens evne til at give et brugbart svar. Endelig forestiller OpenAI sig, at den automatiserede tekstgenerering kan hjælpe kunstig intelligens til at blive bedre at tale med og få svar fra. Det er kunstig intelligens som Siri på iPhone eller Google Home-højttaleren. GPT-3 kan generere uendelig mange tekster til fri afbenyttelse for firmaer og forskere, som kan bruge teksterne til at træne deres kunstige intelligens til at blive en bedre samtalepartner. Men i virkeligheden handler det ikke så meget om her og nu, forklarer David Kofoed Wind.

Fordi GPT-3 kan skrive alle tænkelige stilarter på mange forskellige sprog, har det fået eksperter i kunstig intelligens til at kalde GPT-3 et stort skridt mod såkaldt kunstig generel intelligens, eller artificial general intelligence. En maskine, der kan sættes til hvad som helst. GPT-3 er kun god inden for det snævre felt, som er at skrive,” sagde han. Men måske vil GPT-4, dens efterfølger, komme lidt tættere på universel superintelligens. GPT-5 tættere endnu. Siden mennesket opfandt computeren for et halvt århundrede siden, har sådan en universel supermaskine været drømmen, i bestemt ental. Drømmen. Også for David Kofoed Wind, der tror, vi vil nå kunstig generel intelligens i vores levetid. Spørgsmålet er så hvor hurtigt, og det ved ingen,” siger han. Men alt, det afhænger af, siger han, er mere computerkraft. På den måde føles udviklingen som en evolutionær selvfølgelighed, når man lever i en verden af ettaller og nuller, som tech-optimister som David Kofoed Wind gør.

Kritikken af hele drømmen om mere og mere kraftfuld kunstig intelligens er dog stærk og voksende. Den debat handler lige nu om de skadelige effekter, som GPT-3 kan have på hele vores informationsøkosystem online og noget så banalt som at kunne gennemskue, om noget er sandt eller falsk, menneskeligt eller maskinelt. Men hvis man tror på, at menneskehedens skæbne er at udvikle højere intelligens end dens egen, så er GPT-3 et helt afsindigt stort skridt mod lige præcis det, den hellige cybergral.

Bidrag fra Zetlands medlemmer

Ved du, hvorfor Zetland findes?

Vi følger otte enkle principper, der hjælper med at skabe plads til fordybelse og omtanke i en verden, der mangler præcis dét.

– Lea Korsgaard, medstifter og chefredaktør

I dag læser vores medlemmer: