Zuckerberg og Musk vil lede menneskeheden ind i en science fiction-fremtid. Her er, hvorfor vi roligt kan sige nej tak

Illustration: Rick Guidice / NASA
  • 4. juli 2020
  • 13 min.

Vores medlemmer foretrækker at lytte

Ved indgangen til festen måtte alle besøgende tage skoene af, inden de gik ind på det bløde tæppegulv. Teknologivirksomheden Unacast var allerede stor i USA og havde lokaler i New York og San Francisco. Nu var nordmændene bag selskabet glade for at have sikret sig et loftslokale i Oslos centrum i en bygning med et lille tårn. De kaldte kontoret for deres lokale UnaCastle’.

Unacast samler information om, hvor folk bevæger sig, og bruger den til at forudsige alt fra, hvad de vil købe i supermarkedet, til hvorhen de bør evakueres i tilfælde af en skovbrand, og festen i det nyåbnede Unacast-kontor er sandsynligvis det nærmeste, jeg er kommet den berømte start-up-kultur i Silicon Valley. En stor glaskube i midten af lokalet var fyldt med gyldne, hvide og sorte balloner, og smedejerns-glasvægge sendte tankerne mod industribygninger – i kontrast til de autentiske, sortmalede træbjælker i taget. Prominent udstillet på en hylde stod en pris for lokationsteknologi, en quizpræmie og to ridderhjelme, som så ud, som om de kom fra et middelalderslot. Eller måske en kostumeforretning.

Gratis mad og drikke var sat frem på et stort bord, og arrangementet blev åbnet ved, at investor Christian Ringnes og grundlægger Thomas Walle drak øl af en Tom Dixon-sko i aluminium dækket af skinnende kobber, hvorefter Ringnes pralede med, hvor meget han var gået over budgettet for at renovere lokalerne. Derefter fulgte flere tekniske foredrag af tilrejsende notabiliteter, introduceret med opfordringen Applause for the Googlers!” En Google-softwareudvikler fortalte om, hvordan Spotify havde migreret sine data til skyen”. Han benyttede også lejligheden til at vise billeder af sin flammelakerede elguitar og efterspørge Pantera-fans i salen.

Aftenens sidste taler var en Unacast-chef, som snakkede om de store udfordringer med GDPR-reglerne, som skulle iværksættes dagen efter. Hun forsikrede, at Unacast virkelig kunne lide GDPR og transparens”, selv om de nye privacy-regler var en udfordring for dem. Hun nævnte også, at der var politisk korrekt med en gravid dame efter alle disse mænd”, og at det kunne være en udfordring for Google næste gang. Ikke graviditeten, men diversiteten.” Jeg så mig omkring og forstod, hvad hun mente. Forsamlingen så ud til at bestå af 80-90 procent mænd.

Teknologibranchen som fagområde består af transistorer, LCD-skærme, skylagring og data. Men den består også af mennesker, og limen, som holder mennesker sammen, består i høj grad af historier. Historierne handler på et abstrakt niveau om innovation og stadig forbedring. Mere konkret dukker de op i form af referencer til teknologisektorens egne ikoner som Steve Jobs, men også til NASA og månelandinger, og endda længere tilbage til opdagelsesrejsende som Christoffer Columbus. En teknologivirksomhed som Unacast fremstiller sig selv som fremtidsorienteret og viser samtidig en begejstring for tårne, slotte og gamle rustninger. Google kalder sin udviklingsafdeling for The Moonshot Factory’, og chefen kalder sig Captain of Moonshots’. Mark Zuckerburg snakker ofte om sin fascination for den romerske kejser Augustus og har opkaldt et af sine børn efter ham.

I bogen Uncanny Valley fortæller Anna Wiener om sine år i teknologibranchen i Silicon Valley, et miljø fuld af elektronisk musik, gadgets og futuristiske fantasier. Samtidig er et af start-up-kontorerne udformet som en eksakt kopi af den amerikanske præsidents ovale værelse, komplet med egetræsskrivebordet og dets indgraveringer af den amerikanske ørn. Et andet lokale er udformet som en rygesalon fra 1800-tallet, et tredje er udstyret med guitarer plugget ind i forstærkere.

Teknologibranchen er en ung sektor, hvor alt forandrer sig hurtigt, og den er befolket af unge mennesker. Måske er det derfor, de har skabt en fortælling om sig selv, som strækker langt ind i både fortid og fremtid på teatralsk vis. De ser mod andre planeter, samtidig med at de trækker linjer tilbage til tidligere tiders krigere og korsfarere, indhyller sig selv i mystik og en fornemmelse af at være blandt kongens udvalgte. Det er en eventyrfortælling, hvor du kan starte livet med at spille Pantera-sange på drengeværelset og derefter blive indviet i formlerne, som styrer verden, som en digital Harry Potter i et Hogwarts-inspireret kontorlandskab.

I bogen Artificial Unintelligence skriver Meredith Broussard om det lille miljø af amerikanske forskere, som stod for mange af gennembruddene i kunstig intelligens i efterkrigstiden. Midt i kredsen befandt Marvin Minsky sig. Han elskede science fiction og var venner med mange af tidens sci-fi-forfattere, deriblandt Isaac Asimov og Arthur C. Clarke, som af og til boede hjemme hos Minsky. De elskede store, skøre idéer om teknologiske vidundere, for eksempel tanken om en rumelevator’. Clarke forestillede sig, at det var muligt at lave en elevator, der gik fra Jorden op til en satellit i kredsløb om Jorden, hvis bare man kunne lave en stærk nok wire. Minsky blev begejstret for idéen og fik et hold forskere til at arbejde med at undersøge den i seks måneder.

Det var nemlig en tid, hvor pengene sad løst. Minsky har fortalt om, hvordan han bare kunne bede universitetsledere om ressourcer og penge uden at skrive så meget som en ansøgning. Disse miljøer tiltrak en speciel type unge mænd, som var fantastisk gode til matematik og ikke brød som om sociale konventioner. De byggede mellemdistanceraketter i haven og drømte om kolonier på Mars.

Broussard trækker historien frem til nutidens teknologichefer og softwareudviklere og viser, hvordan mange af disse mænd er tidligere elever hos hinanden, har skrevet bøger om hinanden og har støttet hinanden på forskellig vis. Undervejs har en række fortællinger sat sig fast i kulturen. Nogle af dem kommer fra hippiekulturen på USAs vestkyst og handler om, at enkeltpersoner skal kunne leve frit og danne egne samfund uden at være undertrykt af samfundet’. Mange kommer fra science fiction-bøger og -film.

Facebook-chef Mark Zuckerberg annoncerede i 2015 sin egen liste over 23 vigtige bøger’. Der indgik kun to romaner, sci-fi-bøgerne The Player of Games af Iain M. Banks og Liu Cixins The Three-Body Problem. Jeff Bezos og Elon Musk er chefer for Amazon og Tesla, og de er begge flasket op med lignende sci-fi-bøger. Derfor har du i dag teknologimilliardærer og futurister, som planlægger at fryse deres krop ned for at vågne op i fremtiden engang, som Ray Kurzweil (tidligere elev af Minsky), eller at uploade deres bevidsthed på en computer. Eller også er de allerede i gang med at bygge raketter, som de sender ud i rummet, ligesom Elon Musk. De vil håndtere kriminalitet ved at forudsige forbrydelser, før de finder sted, som i sci-fi-klassikeren Minority Report. Den bedste måde at interagere med computere er at snakke med dem, ligesom i Star Trek. Og den bedste måde at bekæmpe fattigdom og nød er at lave et netværk af droner, som flyver medicin og andre ressourcer til dem, som behøver det i Afrika, cirka ligesom i sci-fi-filmen Elysium.

Fællesnævneren er, at løsningen på problemerne altid er at finde på noget nyt og teknologisk. Folk, som tror på en anden type historier, ville sige, at både kriminalitet i USA og nød i Afrika bedst lader sig løse ved at fjerne sociale uligheder, måske ved hjælp af så gamle og kedelige teknologier som skat, regulering og bureaukrati. Men det er selvfølgelig mere spændende at lave droner og datasystemer. Særligt for dem, som kan lide den slags historier.

En lang række kronikører af teknologibranchen såsom Anna Wiener, Meredith Broussard og Ellen Ullman har påpeget, at de, som kan lide lige præcis disse historier, i høj grad er mænd. Kvinder i teknologibranchen føler sig ofte udelukket, både på grund af interne referencer til sci-fi-universer og den type tech-løsnings-tænkning, de repræsenterer. Det skal siges, at der findes meget science fiction, som udforsker sociale, psykologiske og antropologiske problemstillinger på nuanceret vis, som Ursula Le Guin med sine fortællinger fra planeter med radikalt forskellige samfundsformer. Men de bliver sjældent nævnt på teknologimændenes boglister.

For omkring et årti siden var verdens mest magtfulde virksomheder olieselskaber. I dag er teknologiselskaber ikke bare mere magtfulde økonomisk, de former også hele verdens infrastruktur og offentlighed. Deres fortællinger former verden. De ser deres arbejde i lyset af de sci-fi-universer, de er vokset op med. Og de ser næppe for sig, at de selv er anonyme dele af økosystemet. De identificerer sig ikke med den anonyme arbejder Winston Smith i 1984 eller et af de hjernekontrollerede mennesker i kokoner, som fodrer maskinerne med energi i The Matrix. Jeg er ganske sikker på, at disse topledere ser sig selv i kaptajn-stolen på rumskibet Voyager, hvor de planlægger kursen for hele vores civilisation i de kommende år. Som moderne inkarnationer af de store opdagelsesrejsende og opfindere fra Europas storhedstid, dem, som stadig opdagede nye verdener og løste hidtil uløste problemer.

Med store øjne så mennesker verden rundt i 2007 en video af Steve Jobs, som præsenterede den første iPhone på en scene i Californien. Han gav os fortællingen om et nyt produkt, som ville forandre verden. Det var en supercomputer i lommeformat, som kombinerede egenskaberne fra utallige andre produkter, det var en musikafspiller, et lille tv, en gps. Ti år senere var verden virkelig forandret. Internettet var med os overalt i form af apps, som løste vores problemer og knyttede os sammen. Musikindustrien, transportsektoren, banksektoren, alt blev omformet af smartphonen.

Teknologisektoren er bygget på fortællinger. Enten handler det om entreprenører, som fortæller investorer om, hvordan deres planlagte produkt vil overtage en hel sektor og skaffe dem ekstreme mængder penge, eller chefer, som sælger fortællinger om de færdige produkter til medierne. Eller selve fortællingen om at undfange en idé, skaffe finansiering, lancere produktet, sælge det verden rundt og blive rig.

Alle teknologientreprenører vil være som Steve Jobs i 2007. De vil stå på en scene og præsentere et nyt elegant produkt, som forandrer verden. De vil være helten i fortællingen. Og når alle deler et sådant begær og sætter sig selv ind i sådan en historie, får det følger for hele kulturen. Fundamentet i alle teknologisektorens historier handler om fremskridt. At stadig nye løsninger kommer, og at de er bedre end det, som var før.

Teknologiske fremskridt, som vi kender det i vores verden, handler i høj grad om effektivisering, som igen giver muligheder for vækst. At få større effekt ud af mindre. At lave en supercomputer, du kan have i lommen. I dag er siliciumprocessorer ufattelig meget hurtigere end i 1990’erne, og derfor behøver vi ikke bruge så meget silicium. I teknologibranchen regnes det også for at være et eksempel på, hvordan teknologiske forbedringer kan lette presset på planetens ressourcer.

I hvert fald har mange tænkt det. Og matematisk set virker det jo logisk. Mere effektiv ressourceudnyttelse burde betyde mindre ressourceforbrug. I 2017 publicerede en forskergruppe ledet af MIT-professor Christopher Magee et studie, som undersøgte sagen. De fandt ud af, at når processorer bliver mere effektive, hurtigere og billigere, begynder folk at bruge dem til stadig mere. I dag fylder vi digitale enheder med musik, film og billeder og alt muligt, som vi ikke tænkte på at bruge dem til i gamle dage – altså for bare et årti eller to siden. Og dermed bruger vi meget mere processorkraft end før, og derfor har vi også brug for mere silicium.

Magee og hans kolleger fandt ud af, at det samme også gjaldt for en række andre ressourcer, og deres fund burde i grunden ikke overraske nogen. I 1865 beskrev den engelske økonom William Stanley Jevons i bogen The Coal Question, hvordan den nye dampmaskine, konstrueret af James Watt, var meget mere effektiv sammenlignet med ældre modeller. Også dengang troede mange, at teknologien ville føre til mindre pres på kulressourcerne. Men den forbedrede dampmaskine blev brugt på stadig nye måder, og kulforbruget øgedes. Fænomenet har fået tilnavnet Jevons’ paradoks’ og er senere blevet observeret i mange tilfælde, såsom at varmepumper ikke får folk til at bruge mindre strøm og penge, men gør, at de har det varmere derhjemme.

Fortællingen om stadig forbedring giver os kun en del af billedet. Den viser os teknologi, som bliver billigere og mere kompakt. Men den fortæller ikke, hvad der sker, når teknologien slippes ud i verden. Den fortæller heller ikke om forudsætningerne for, at produkterne er så billige. Som at 95.000 mennesker i Kina arbejder med at samle Apple-produkter og tilsammen tjener lige så meget som Apples ni topchefer. Det er også en fortælling om effektivisering. Men den hører vi sjældent om fra Silicon Valley.

Og fandt Magees forskergruppe for resten ingen undtagelser fra Jevons’ regel? Jo, enkelte stoffer var blevet udfaset og blev ikke længere brugt. Stoffer som asbest, tallium og andre giftige substanser, som myndighederne havde gjort en aktiv indsats for at begrænse udbredelsen af. Der findes nemlig en anden fortælling, hvor den handlekraftige helt ikke hører hjemme i teknologibranchen.

  1. Steve Jobs i en sort rullekravesweater præsenterer en opfindelse, der skal forandre verden (og det gjorde den så).
Foto: Kimberly White, Reuters/Ritzau Scanpix

I bøgerne The Entrepreneurial State og The Value of Everything argumenterer økonomen Mariana Mazzucato for, at de historier, vi fortæller om vores samfund, også former disse samfund. I mange år har vi fortalt en historie, hvor fremtiden formes af tapre teknologientreprenører, som udvikler morgendagens løsninger med støtte fra frygtløse investorer. Deraf følger det, at vi må give disse helte, som former fremtiden, størst mulig frihed til at gøre det, som behøves. Og når de tjener milliarder på deres teknologivirksomheder, er det velfortjent. Mazzucato ser i bogen nærmere på, hvordan teknologisk innovation er foregået, og finder en anden historie, som hun mener passer bedre med fakta.

Fortællingen om Steve Jobs bliver stadig gengivet i medierne, som at han startede med to tomme hænder i en garage” og skabte sine opfindelser ved hjælp af hårdt arbejde og en brillant hjerne. Mazzucato påpeger, at mange af de vigtigste teknologier i en smartphone, såsom gps eller den kunstige intelligens, som danner grundlaget for Siri, er udviklet i offentligt regi af institutioner som DARPA, et institut for militær forskning, som stammer fra Den Kolde Krig. Ovenikøbet er staten fødselshjælper for nye selskaber, som da Tesla i 2010 fik et gunstigt lån på 465 millioner dollar fra de amerikanske myndigheder.

Mazzucato peger på, at de private investorer ofte kommer sent ind i billedet, når den virkelig store risiko allerede er båret af det offentlige. Grundlæggerne af Google lavede deres PageRank-algoritme ved Stanford-universitetet med midler fra The National Science Foundation. Denne algoritme lagde grundlaget for Googles fantastiske evne til at give os relevante hits. I den videnskabelige artikel, som præsenterede teknologien for første gang, argumenterer de to opfindere for, at søgemaskiner ikke bør være annoncefinansierede, fordi det vil kunne presse dem til at give søgeresultater, som er gode for annoncørerne og dårlige for brugerne. Nogle år senere syntes alle brugerne rundt i verden, at søgemaskiner var en fantastisk og nyttig tjeneste. Men selskabet havde i mellemtiden også fået private investorer, som krævede større afkast. Resultatet var, at Google brød sit tidligere løfte om ikke at sælge annoncer og blev verdens største reklameselskab i stedet. Det gjorde investorerne og grundlæggerne vanvittig rige.

I denne historie skete den mest nyttige innovation altså i offentligt regi. Investorerne sørgede senere for, at teknologien blev brugt til at effektivisere en gammel praksis – annoncering – og tjente mange penge. Et andet resultat af historien kunne have været, at det offentlige omkring årtusindskiftet besluttede, at Google-teknologien var så nyttig, at de købte selskabet for at sikre, at alle verdens internetbrugere havde adgang til gode søgninger uden at blive overvåget og påvirket af reklamer. Hvorfor skete det ikke? Tja, måske hang det sammen med en stor fortælling, som handler om, at fremtiden skabes af uafhængige virksomheder og risikokapitalister – ikke af staten. Staten beskæftiger sig med kedelige ting som veje, skoler og kloakker.

Langt fortalt: Det, som adskiller menneskelig intelligens fra kunstig intelligens, er, at vi har en forståelse af verden, som også inkluderer os selv. Vi har en bevidsthed om, hvilke slags væsner vi er, og vi har en bevidsthed om, at vi har en bevidsthed. Forudsætningen for dette er, at vi har en fortælling om os selv. Vi formår at sætte vores tanker og handlinger efter hinanden i et narrativ, som vi kan bruge til at reflektere over, hvad vi har gjort, og hvad vi kan gøre i fremtiden.

Fortællinger lader os skalere menneskelig tækning på menneskelig vis. Når vi sender fortællinger ud i verden, får de egne liv og former tanker og handlinger hos hele befolkningsgrupper. Som trylleformularer. Eller algoritmer. Vi må vogte os for fortællingerne, for de kan lede os på vildspor. Og særligt de store fortællinger, som bliver så selvfølgelige, at vi næsten ikke ser dem. Som fortællingen om teknologerne og fremskridtet.

Fortællingerne er også et af de bedste håb, vi har, for at forstå verden omkring os, fordi de er den teknologi, som vores bevidsthed er bygget op omkring. Og de er grundlaget for noget af det mest unikke ved mennesket. Vores evne til at forestille os forskellige fremtider. Måske kan vi også være med til at forme disse fremtider. På den måde er fortællingerne både et værktøj til at forstå og påvirke. Vi må kultivere en mangfoldighed af dem og holde fast på dem, som bedst beskriver virkeligheden, og som hjælper os med at bygge en menneskelig verden.

Artiklen er et redigeret uddrag fra den norske bog Det store spillet’ af Bår Stenvik, der netop er udkommet i Norge. Resten af bogen er lige så interessant.