Glem evolutionen, siger denne superstjerne-historiker. Nu afgør maskinen vores udvikling

HOMO DEUS?Kan denne mand blive et gudemenneske? Ja, siger han selv. Illustration: Jørgen Stamp, Zetland

Vores medlemmer foretrækker at lytte

Zetlands medlemmer kan høre alle vores artikler som lyd - oplæst af skribenterne selv. De fleste foretrækker at lytte i vores app, hvor man får den bedste oplevelse. Men du er velkommen til at lytte med her.

Derfor skal du læse denne artikel

I fremtiden behøver vi ikke vente på, at evolutionen videreudvikler menneskearten. Det vil vi selv kunne gøre. Det betyder, at vi vil opgradere vores krop og sind på en måde, der giver os gudeagtige superevner. Mød den verdenskendte israelske historiker Yuval Harari, der er aktuel med sin nye bog Homo Deus.

Historikeren Yuval Noah Harari ser mennesket som en algoritme. En algoritme, der er blevet smurt, skruet og drejet på gennem fire milliarder års naturlig selektion – fra amøbe til krybdyr til pattedyr til det moderne menneske, vi er i dag: homo sapiens. Men, mener Harari, der er ikke længere grund til at tro, at dette er menneskets sidste udviklingstrin.

Mennesket vil kunne pille ved den naturlige algoritme ved at omskrive sin genetiske kode, manipulere hormonsystemet, omstrukturere hjernens kredsløb – ja, endda anlægge helt nye lemmer på den 500.000 år gamle sapiens-krop. Det vil betyde, at menneskeheden i fremtiden ikke vil være underlagt evolutionen, men være i stand til at blive den højeste skabning, vi kan forestille os: homo deus. Gudemennesket.

Når mennesker kan blive opgraderet til guder,” skriver Harari i en mail til mig, vil vi begynde at skabe livsformer efter eget ønske og redesigne vores egen krop og hjerne, hvilket vil give os superevner.”

Husk på, skriver Harari, at det kun krævede ganske få ændringer i hjernen på vores abelignende forfædre homo erectus – hvis største bedrift var flintekniven – før homo erectus blev til homo sapiens. Arten, der senere skulle dominere naturen og alle andre arter og fjernstyre en bil på Mars.

Tænk så, hvad udfaldet vil blive af et par ændringer i vore dna, hormonsystem og hjerne,” spørger Yuval Harari retorisk.

For han mener selv at have fundet svaret.

I sin nye bog Homo Deus begynder den 41-årige israelske historiker og professor ved det hebraiske universitet i Jerusalem, Yuval Noah Harari, hvor hans internationale bestseller fra 2011, Sapiens, slap.

Sapiens var et to hundrede og nogle sider dristigt forsøg på at forklare, hvorfor det lige blev os – et nøgent abelignende væsen på den afrikanske savanne – der endte med at blive den altdominerende art på kloden. Den forklaring lykkedes Harari ret godt med, og bogen blev rost af anmeldere, historikere og videnskabsfolk verden over samt Barack Obama, Mark Zuckerberg og Bill Gates.

Men hvor Sapiens handlede om fortiden og nutiden, handler opfølgeren, Homo Deus, om fremtiden.

I bogen beskriver Harari, hvordan mennesket har bevæget sig fra at tilbede guder til at tilbede sig selv til i fremtiden at tilbede big data. Det er data i gigantiske mængder om vores verden, der allerede i dag bliver skrevet ind i allerede ufattelig lange og komplicerede algoritmer, der eksempelvis udgør den kunstige intelligens i en robots hjerne’. En intelligens, som i dag er os langt overlegent på flere og flere områder – selv områder som intuition, som vi troede var unikke for mennesket.

Næste skridt bliver så at skrive algoritmerne ind i biologiske skabningers dna – et menneskes dna måske – og dermed give mennesket en langt højere intelligens, end evolutionen nogensinde ville skænke os. Når det sker, skriver Harari, vil menneskeheden have opnået noget fundamentalt revolutionerende: at smelte teknologiens og biologiens informationsdata – bytes og gener – sammen i én suveræn skabning: homo deus.

Homo deus vil være homo sapiens langt overlegen, skriver Harari. Akkurat som vi var homo erectus’ flinteknive overlegne. Homo deus vil derfor overtage dit job, infiltrere dit liv, løse universets gåder, elske, grine og græde, skabe kunst, se, tale og føle, ja, opføre sig som dig – bare bedre. Men, siger Harari så:

Det betyder ikke, at vi nærmer os en standoff mellem mennesket og menneskemaskinen.

Vi nærmer os i stedet et bryllup.

Mennesket har allerede sagt ja til maskinen, skriver Yuva Harari i mailen til mig. Det ser historikeren i måden, vi er ved at smelte sammen med vores smartphones, laptops og vores konti på sociale medier, som er blevet en forlængelse af os selv. Eksempelvis når vi ukritisk følger rute-anvisninger fra Google Maps på vores smartphone.

Smartphonen er ikke et dumt værktøj som en hammer eller en kniv. Det er – ligesom Facebook, Google osv. – en intelligent maskine, der konstant studerer vores adfærd, tilpasser sig vores unikke personlighed og aktivt former vores verdensbillede og vores inderste behov,” skriver han.

I de kommende årtier ser Harari denne cyborg-agtige udvikling tage fart inden for indopererede smart devices, der gennem kunstig intelligens og såkaldte biometriske sensorer, der bliver indopereret i kroppen, kan analysere og forstå vores ønsker, sympatier og antipatier bedre end dig selv”.

Eksempelvis ved at måle vores hjertebanken:

Ser du en fremmed på gaden, vil den kunstige intelligens straks opdage, hvis du finder personen seksuelt attraktiv, fordi den kan opfange bittesmå ændringer i din puls og dit blodtryk. Den kunstige intelligens kan så kontakte den smukke fremmedes kunstige intelligens og høre, om tiltrækningen er gensidig, og, i så fald, om en date vil være muligt,” skriver han i mailen.

Det lyder som sci-fi. Men grundtanken har opbakning fra flere it-guruer som eksempelvis Elon Musk, der står bag elbilproducenten Tesla Motors, solcelleproducenten SolarCity og rumfartsvirksomheden SpaceX.

Musk annoncerede mandag sin nye virksomhed Neuralink, der skal udvikle implantater, der om godt fire eller fem år” skal gøre mennesket i stand til at betjene en computer med tankens kraft. Det er, mener Musk, den eneste måde, hvorpå mennesket kan holde trit med den kunstige intelligens.

I den forlængelse vurderer Yuval Harari, at mennesket i 2100 vil være så fusioneret med maskinen, at mennesket ikke vil kunne overleve uden at være koblet på netværket, skriver han.

Men om det er en god eller dårlig ting, er et andet spørgsmål … Farerne er lige så store som mulighederne.”

Apropos farer opridser Yuval Noah Harari i Homo Deus tre fremtidsscenarier:

1) Robotter med kunstig intelligens sejrer, og mennesket bliver, sagt pænt, undværligt. 2) En lille elite, dem, der ejer algoritmerne i den kunstige intelligens, opgraderer sig selv til cyborgs – homo deus – og ser menneskemasserne som undværlige. 3) Alle tilslutter sig et samlet netværk og tilbeder alvidende algoritmer, der kender os bedre, end vi selv (eller Gud) gør, og som derfor dikterer, hvordan vi lever.

Disse (skræk)scenarier går igen, hvis man spørger flere topchefer i Silicon Valley og topforskere på universiteter verden over. Alligevel udvikler vi fortsat i kunstig intelligens, robotter og bioteknologi. Men hvorfor egentlig, hvis vi dermed risikerer at overflødiggøre store dele af jordens befolkning?

Mennesket gør ofte ting, der går imod deres egne interesser, fordi det er vanskeligt at forudsige de langsigtede konsekvenser af vores handlinger,” siger han.

Det er Landbrugsrevolutionen et eksempel på, mener Harari. Her troede mennesket, at landbruget ville gøre deres liv bedre. Men det var kun tilfældet for konger, kejsere og faraoer, der blev enormt magtfulde.

For den gennemsnitlige bonde i det gamle Egypten eller middelalderens Europa blev livet faktisk værre: Bønderne arbejdede hårdere end nogensinde, fik dårligere kost, var langt mere udsatte for hungersnød og pest, led under politisk ulighed og udnyttelse af deres arbejdskraft.”

Bonusinfo. World Economic Forum vurderer, at kunstig intelligens er den teknologi af alle teknologier, der potentielt kan have de bedste konsekvenser for vores verden. Men også de allerværste konsekvenser. Kilde: Global Risk Report 2017


Selv i dag lever hundredvis af millioner af mennesker i udviklingslande et liv, som er både hårdere og mere usselt end jæger-samlernes liv, mener Harari:

Det kan godt være, at syersker på en sweatshop i Bangladesh bor i huse og kan se tv. Men de arbejder i 12-timers vagter syv dage om ugen i støjende og forurenende fabrikker. De levevilkår tror jeg ikke, at deres jæger-samler-forfædre ville bytte til.”

Harari ser derfor Landbrugsrevolutionen som et klassisk eksempel på en række teknologiske gennembrud, som skulle gøre vores liv bedre, men som i stedet ender med at gøre os til slaver af teknologien.

Det samme risikerer at ske med kunstig intelligens’ voksende dominans de næste 100 år, hvis ikke vi er meget forsigtige.”

Et af de områder, hvor vi lige nu skal være særlig omhyggelige, skriver Harari, er selvkørende køretøjer, som forventes at eksplodere i antal efter 2021. En førerløs bil bliver betjent af kunstig intelligens – derfor er det bilproducenterne, ikke bilisten, der skal afgøre, hvordan bilen skal handle, hvis bremserne skulle fejle.

Men stoler vi på, at bilproducenterne kan afgøre det?

Nej, mener Harari, ikke på et frit marked uden etiske retningslinjer. Han opstiller et eksempel: Toyota producerer to selvkørende bilmodeller, en Toyota Altruist og en Toyota Egoist. I en uheldssituation vil Altruisten ofre sin ejer og skåne personerne i fodgængerfeltet, mens Egoisten vil redde sin ejer – også selv om det betyder, at personerne i fodgængerfeltet dør.

Så kan kunden købe den bil, der passer bedst til hans filosofiske synspunkter. Hvis flere mennesker så dør, fordi de fleste vælger Egoisten, ville Toyota kunne sige: I skal ikke bebrejde os. Det er, hvad kunderne vil have, og kunden har altid ret.’”

Det er ikke kun personbiler, der bliver automatiseret.

Det gælder også taxier, busser, lastbiler – ja, selv skibe er ved at blive førerløse. En undersøgelse fra Oxford University anslår, at godt halvdelen af den nuværende arbejdsstyrke i USA er i fare for at stå uden job de næste 10-20 år som konsekvens af denne fuldautomatisering. Ja, så vil der i mellemtiden komme nye jobs til. Men, skriver Harari:

Mennesket har kun to færdigheder: fysisk og kognitivt. Hvis computeren kan udkonkurrere os i begge discipliner, vil computeren nok også kunne udkonkurrere os i de nye jobs, der bliver skabt. Spørgsmålet er derfor, hvad mennesker kan bruges til i sådan en verden. Hvad skal vi bruge milliarder af, set med økonomiske briller, ubrugelige mennesker?”

Allerede i dag ser Harari denne menneskelige overflødighed i militæret.

I det 20. århundrede var en stat afhængig af at kunne rekruttere millioner af soldater blandt befolkningen, men i dag afhænger man af professionelle soldater, der bliver støttet af droner, robotter, cyberkrigsførelse og andre sofistikerede våben,” skriver han i mailen.

Det vil sige, at masserne har mistet deres militære værdi. Hvis masserne så også mister deres økonomiske værdi, mister staten og eliten også incitamentet til at investere i befolkningens sundhed, uddannelse og velfærd. Konsekvensen kan blive, at masserne til sidst står helt uden for systemet. Arbejdsløse og uden politisk indflydelse.

Vi er nødt til at huske på, at demokratiske og autoritære ledere i det 20. århundrede investerede voldsomt i sundhed, uddannelse og velfærd for masserne, fordi de var altafgørende for landets militær og økonomi.”

Tag som eksempel Adolf Hitler.

Han byggede, skriver Harari, hospitaler, skoler og kloakker til de fattige. Ikke fordi han var en godhjertet person, som historikeren skriver, men fordi Hitler vidste, at et stærkt Tyskland afhang af en stærk økonomi med en stærk hær, hvor millioner af fattige tyskere tjente som soldater og arbejdede på fabrikker og kontorer.

Derfor vil det modsatte scenarie – hvor befolkningen ingen værdi har – være en rigtig dårlig nyhed for milliarder af mennesker,” skriver han.

Men der er også en god nyhed.

Der findes nemlig en nøgle til ikke at blive slave af algoritmer, der allerede i dag gerne vil diktere, hvor ofte du tjekker din telefon, hvad din flyrejse skal koste, hvilke nyheder du læser, hvem du bliver venner med, hvad du ser på Netflix, hvilken rute du tager på arbejde.

Det er, i al sin kompleksitet, at kigge indad, mener Harari.

For så længe du har en større viden og selvindsigt end algoritmerne, vil dine valg stadig være suveræne, mener Harari. Men hvis algoritmerne alligevel tager styringen over dit liv, skriver Harari, skyldes det, at det er de færreste mennesker, som kender sig selv.

Han er selv oplært i den ældgamle buddhistiske meditationsteknik vipassana, der ifølge Harari handler om at skelne virkelighed fra fiktion: Hvad sker der lige nu i min krop? Hvad sker der lige nu i mit sind?

Jeg mediterer hver dag i to timer, hvor jeg observerer virkeligheden, som den er, og de andre 22 timer bliver jeg overvældet af e-mails, tweets og sjove kattevideoer,” skriver han.

Derudover er Harari veganer, bor på et kollektivt landbrug, en moshav, lidt uden for Jerusalem, hvor han lever med sin mand, og hvert år går Harari i isolation i 30, 45 eller 60 dage, hvor han mediterer i stilhed. Det er ikke en flugt fra virkeligheden, det er at komme i kontakt med virkeligheden,” skriver han.

Det er fra sin meditation, at historikeren får sine klarsyns-agtige betragtninger om fortiden og fremtiden, som har gjort ham til den verdensstjerne, han er. Det sværeste er dog at gennemskue, hvad der sker lige mellem vores ører:

Den største fare ved at lade teknologi diktere, hvad der er bedst for os, er, at vi er langt fra at forstå kompleksiteten af vores eget sind. Vi ved noget om, hvordan hjernen fungerer, men vi ved intet om sindet. Det er det største hul i vores forståelse af livet. Men det er også et meget farligt hul,” skriver Harari til mig.

Det skyldes, at han ikke har tillid til, at den teknologi, der siger, den kan lukke hullet og fortælle os, hvordan vores sind fungerer, vil gøre os gladere. Ligesom, skriver han, vi troede, at ville blive gladere, hvis vi kontrollerede og modellerede planeten efter vores behov. Men:

Det gjorde os ikke gladere. Faktisk er vi utilsigtet kommet til at forværre planetens klima, fordi vi ikke forstod kompleksiteten af det globale økosystem.”

På samme måde vil mennesket, skriver Harari, de næste 100 år måske få kontrol over verden inden i os og modellere vores krop, hjerne og sind som en gudeagtig skaber. En homo deus. Men heller ikke det vil nødvendigvis gøre mennesket meget gladere, fordi vores manglende forståelse for sindets kompleksitet risikerer at skade alt det, vi er.

Måske kan vi godt blive til guder …” skriver Harari i mailen, men vi vil være nogle utilfredse guder.”