Det var sjovt at bruge en app, der kunne gøre dig gammel. Men hvem ejer nu dit 80-årige selvportræt?

SMIILNår du bruger FaceApp, forærer du mere eller mindre dit ansigt væk. Så i stedet for at sige appelsiin kan du passende sige dystopii. Illustration: Mikkel Bøgild Jacobsen, Zetland

Derfor skal du læse denne artikel

Er FaceApp et instrument i Ruslands ansigtsgenkendelsesprogram – eller gik der agurketid i den? I dette kapitel af Frederik forklarer internettet fortæller Zetlands teknologiskribent historien om, hvordan teknologien bag FaceApp virker, hvad appen ved om dig, hvor meget den sladrer videre – og hvordan du kan forhindre, at dine data havner i de forkerte hænder. Putins eksempelvis.

Mens vi holdt sommerferie, skete der noget spændende på internettet, som jeg ikke kan have på mig at misse.

I går hentede jeg FaceApp, en app, som kan få én til at se mange år ældre ud ved at udstyre ens selfie med rynker og gråt hår. Det er ekstremt overbevisende og uhyggelig imponerende teknologi.

FaceApp er blandt de mest downloadede apps i hele verden nu og har været det længe, efter alskens kendisser kørte deres billede gennem appen og lagde resultatet på Instagram.

I halen på det opstod der også en kritik, som denne sommer nåede medierne i agurketiden. Det hed sig, at FaceApp var et instrument i Ruslands ansigtsgenkendelsesovervågning. Det vil jeg hitte rede i nu – både hvordan FaceApp fungerer, sådan rent teknisk, men også hvad alt det med Rusland er, og hvad der sker med vores billeder, når vi bruger en app som FaceApp – og selvfølgelig: Hvor meget vi har at frygte – hvis noget overhovedet.

Hvis man vil høre Lea Korsgaard, Zetlands chefredaktør, og jeg selv, Zetlands teknologiskribent, diskutere FaceApp, skal man høre vores podcast Frederik forklarer internettet. Tryk play øverst i artiklen for at lytte.

FACEAPPVenstre del af chefredaktør Lea Korsgaards ansigt er originalen, højre del er manipuleret ældre ved hjælp af FaceApp. Illustration: Mikkel Bøgild Jacobsen

Indtil videre har FaceApp været det perfekte eksempel på internettets vante rytme: Vi bliver benovet over en eller anden smart app og kaster os over den nye teknologi, indtil en eller anden klogeåge på Twitter skriver: Øh, I ved godt, den der FaceApp er russisk, og I lige har solgt jeres ansigt til Putin”, og alle er sådan: Øh, hvad?

Men allerførst: Hvordan gør appen det her? Billedredigeringssoftware har eksisteret længe. Vi kender Photoshop. Vi kender også filtre, man lægger over ens billede, så alt ser lidt pænere ud. FaceApp gør noget helt nyt, som jeg stadig er ved at fordøje konsekvenserne af:

FaceApp kan redigere et billede til ukendelighed, mens det stadig ser realistisk ud. Det er computerskabt forfalsket virkelighed, og det kræver et neuralt netværk, hjernen’ i en kunstigt intelligent computer.

Computeren imiterer en babys hjerne: Den ser noget, forsøger at efterligne det, fejler, ser noget mere, fejler, og ser så en hel masse mere, indtil den ikke fejler længere – og kan efterligne os, og vi siger: Det var godt nok en klog baby.” Teknologien bag FaceApp lærer på samme måde, hvordan mennesker ser ud, når de ældes, ved at se på en hel masse billeder af mennesker. Computeren når så et punkt, hvor den kan kopiere virkeligheden så troværdigt, at vi ikke længere kan skelne.

Der er der nogle ret vilde Black Mirror-agtige perspektiver i.

I teorien kunne vi, hvis vi havde et billede af alle Zetland-medlemmer, fodre billederne til et neuralt netværk – og så kunne vi skabe’ nye Zetland-medlemmer, der ligner mennesker, men som ikke eksisterer.

På samme måde fodrede jeg et neuralt netværk med alle Zetland-artikler, jeg har skrevet, hvilket løb op i knap 500 sider. Da den havde tygget sig gennem det hele, begyndte den at skrive ligesom mig: Den opfandt egne for- og efternavne og vidste, at navne begynder med stort, og at citaterne skal i citationstegn, og kommaet inden for citationstegnet. Blandt andet skrev den:

“Så hvad skal du se,” skrev Kivady Moderstoppofit.”

Det er teknologi som det her, der kan gøre sådan en som mig arbejdsløs en dag.

Efter jeg uploadede min selfie i FaceApp, fulgte jeg dens digitale rejse. Det første, jeg fandt ud af, var, at firmaet bag FaceApp hedder Wireless Lab – og har adresse i Rusland, i Sankt Petersborg.

Wireless Lab har før fået Twitter op af stolene. I 2017 introducerede de førsteudgaven af FaceApp. I den kunne man også justere alle mulige ting, blandt andet uploade ens selfie og klikke hot’, som hurtigt viste sig at være øh, ret racistisk. Hot’ gjorde personens hud lysere, hovedet mindre rundt og næsen smallere og spidsere – altså mere hvid.

Det er vildt interessant. Racismen var utilsigtet, fordi det neurale netværk havde trænet ved at se på billeder af hvide menneskers ansigt, forklarede firmaet bag, så det var hvide menneskers ansigt, den kendte – og i dens verden af data var nogle særligt pæne hvides træk hot’. Det understreger, hvorfor data aldrig er neutrale: Vi koder vores egne fordomme med. Softwaren vil altid være et produkt af de data, man fodrer den med. På samme måde som en baby vil være et produkt af sine forældre.

Men spørgsmålet er stadig: Ejer Putin vores ansigter? Eller rettere: Ejer et russisk techfirma vores ansigter? I teorien ja.

FACEAPP Venstre del er mig som ‘ung’ ifølge FaceApp, højre del er mig som ‘gammel’. Illustration: Mikkel Bøgild Jacobsen

Her er, hvad der står med småt, når man tager FaceApp i brug:

Du giver FaceApp en evigvarende, uigenkaldelig, ikke-eksklusiv, royaltyfri, verdensomspændende fuldt betalt, overførbar sub-licenserbar licens til at bruge, gengive, ændre, tilpasse, offentliggøre, oversætte, oprette afledte værker fra, distribuere og vise dit indhold og et ethvert navn, brugernavn eller lighed leveret i forbindelse med dit brugerindhold på alle medieformater og kanaler, der nu er kendt eller senere udviklet, uden kompensation til dig.”

Som er jura for: Dit ansigt tilhører os. Så i stedet for at sige appelsiin, når nogen tager dit billede, kan du bare sige dystopii.

Det, der også gør FaceApp kontroversiel at bruge, er at for give dig rynker og gråt hår, er den nødt til at sende selfien til en server. Det vil sige: Data forlader din telefon.

En tommelfingerregel er, at hvis du skal kunne stole på, at dine data ikke misbruges, skal dataene helst blive på telefonen. Ofte urealistisk, men så er man i hvert fald sikker på at have kontrol over ens data, selfien i tilfældet her. Men fordi vores telefoner ikke har computermusklerne til at køre et neuralt netværk, sendes selfien til en server et sted i verden, hvor FaceApps neurale netværk kan gøre sin magi.

Så det næste, oplagte spørgsmål er: Hvor i verden sendes vores selfie så hen?

FaceApps bagmand, Yaroslav Goncharov, en 40-årig russisk techiværksætter, har til erhvervsmediet Forbes fortalt, at vores selfies opbevares på Google- og Amazon-servere i USA. Det er også blevet bekræftet af eksperter. Så alle konspirationer om, at vores ansigter bruges til at træne Putins ansigtsgenkendelses-overvågningsteknologi, er lagt i graven (for nu).

Grunden til, at der står i FaceApp, at man til evig tid afgiver retten til sin selfie, har Yaroslav Goncharov fortalt, var, at han havde tænkt, appen skulle være et socialt netværk. Det er ikke længere planen.

Derfor bliver brugernes selfies automatisk slettet fra serverne efter 48 timer, har han fortalt– og ingen billeder, tilføjede han, vil blive brugt i kommercielle henseender. Pengene tjener FaceApp i stedet på den ene procent af brugerne, der betaler for at få fjernet annoncer i appen og det grimme vandmærke på ens computergenererede portræt som 80-årig.

Med omkring 100 millioner FaceApp-brugere er det en lønsom forretning, der gør, at FaceApp ikke behøver sælge ud af vores data som betaling, som tilfældet er med Facebook, Google, Twitter – som vi i øvrigt har indgået samme faustiske aftale med.

Summa summarum: Der er ikke noget at frygte. Vores ansigter ser ud til at være i god behold hos FaceApp – i lige så god behold som dine feriebilleder er hos Instagram.

Nå, så kom det akavede øjeblik

Det er nu, vi bare siger det direkte: Bliv medlem, hvis du sætter pris på viden og nuancer.

Bliv medlem