Når Instagram laver fejl, bliver det brugerens problem. Hvad der skete, da Zetland postede en nøgen, buttet kvindekrop

Et sammenstød med Instagram viste os, hvor ulige forholdet er mellem de store SoMe-platforme og deres brugere.

Foto: Malene Nelting / Redigering: Julie Ravn Hansen

Vores medlemmer foretrækker at lytte

Zetlands medlemmer kan høre alle vores artikler som lyd - oplæst af skribenterne selv. De fleste foretrækker at lytte i vores app, hvor man får den bedste oplevelse. Men du er velkommen til at lytte med her.

En fyldig mave, et par tatoverede lår og en hånd, der dækker for skødet. Det lyder ikke af alverden. Men hvis du har en Instagram-profil, kan et billede med det motiv, jeg lige har ridset op, være nok til at give dig gevaldige problemer med platformens censur. Det kan, uden nærmere forklaring, være årsag til, at du får fjernet dit indhold, havner under særligt opsyn fra Instagrams side og pålægges restriktioner, som du intet får at vide om, men som har store konsekvenser for din tilstedeværelse på det sociale medie.

Jeg ved det, for Zetland har lige oplevet det. I løbet af nogle dage i slutningen af februar åbenbarede det sig, at Zetland pludselig havde betydelige problemer på en af de vigtigste kommunikationskanaler for vores forretning, nemlig Instagram. Det kom fra den ene dag til den anden, formentlig på baggrund af en fejl fra Instagrams side, og der var ingenting, vi kunne gøre ved det.

Så Zetland har bøvl på de sociale medier – who cares, kunne man indvende. Men faktisk peger vores bøvl direkte ind i historien om en af de største problemstillinger i den nuværende fase af den altomsiggribende digitalisering, vi har udsat os selv for i det seneste årti. Nemlig diskussionen om de sociale mediers magt over den offentlige samtale og den måde, de forvalter den på.

Situationen er den, hvad enten vi vil det eller ej, at Facebook og de andre sociale medieplatforme bare er vanvittig betydningsfulde. De skubber til processerne i demokratiske valg, de skaber karrierer og spreder kulturelle trends, og de er de afgørende platforme for myriader af mennesker, som gerne vil have deres budskaber ud i verden. Fra influencere og fotografer til klimaaktivister, menneskerettighedsforkæmpere og demokratiske bevægelser over hele verden – og helt almindelige brugere, som henter værdi og identitet i det netværk, de har bygget op omkring deres profil.

Derfor betyder det noget, hvordan platformene håndterer det indhold, brugerne lægger op – især når det bliver, ja, bøvlet. Zetland kunne, viste det sig, endnu en gang samle telefonen op og ringe til Facebook. Den dårlige nyhed er, at det er et privilegium, som tilfalder en promille af de sociale mediers brugere. Det rejser endnu en gang de spørgsmål, som er blevet diskuteret intenst de seneste år: Hvad er vilkårene for den offentlighed, de sociale medier har etableret? Og er de i stand til at løfte ansvaret for den opgave, de har taget på sig, da de indbød os til vor tids største menneskelige fællesskab?

Så hvad var det, der skete? Det begyndte med et forsøg. I slutningen af februar lavede jeg en artikel med titlen Har Instagram et problem med tykke kroppe? Det en kritik, som har været rejst en del gange gennem de seneste år: At Instagrams censur skulle slå særligt hårdt ned på billeder af kropstyper, der ikke passer ind i modens idealer.

Hvis du har læst min artikel og måske fulgt med i bidragssporet, vil noget af det her være velkendt for dig. Men for dem, der ikke har, så tager vi den lige fra toppen – i superkort version.

Artiklen var illustreret med en billedserie, hvor en fotograf, der hedder Malene Nelting, havde taget en række afklædte selvportrætter. Billederne var kopier af posts, vi havde fundet på Instagram, med modeller, der var en del slankere end Malene. Forsøget gik ud på, at jeg lagde billederne på min private Instagram-profil for at teste, om Instagram behandlede dem anderledes end originalerne’ med de slanke modeller. Billederne fik lov at blive liggende – selv om to af dem først blev fjernet for derefter at komme tilbage igen, efter at jeg havde benyttet Instagrams mulighed for at appellere indholdsbeslutninger.

Men dagen før artiklen blev udgivet, blev et af billederne pludselig fjernet igen. Det var et billede af Malene Neltings mave, lår og skød – og som jeg nævnte før, dækkede hun de følsomme dele med sin hånd (det er det, du kan se i collagen øverst i artiklen. Det ligger ubeskåret i den første artikel, som jeg har linket til ovenfor i fodnoterne). Selvom det én gang var blevet godkendt, var det væk igen nu – og denne gang var der ingen appelmulighed.

Og nu bliver det ægte bøvlet. For den dag, artiklen blev udgivet – det var den 22. februar – lagde Zetlands marketingafdeling et opslag om den på Instagram-profilen @zetland.dk. Profilen er en vigtig kanal for, at vi kan udbrede vores journalistik til folk, der ikke kender os i forvejen. Det fungerer ret godt. I januar måned er følgerskaren vokset med 50 til 75 følgere om dagen, og da Zetlands SoMe-folk Nicolai og Jesper postede opslaget med billedet af Malene Neltings mave og lår, havde profilen omkring 30.555 følgere. Men da billedet blev postet, skete der noget. Den samme proces som på min profil – det blev fjernet, Nicolai appellerede, og appellen blev efterkommet samme dag.

Men fire dage senere skete det igen. Endnu en meddelelse om, at indhold er blevet fjernet” poppede op i Zetlands beskeder. Billedet var taget ned endnu en gang. Der var ingen appelmulighed – og så stod der, at Zetlands profil nu var under særligt opsyn.

Hvad skete der? Jeg kontaktede Facebooks kommunikationschef i Danmark, Peter Münster, og han forklarede mig, at når billedet var blevet fjernet igen efter at have været igennem en appelproces, så var det, fordi det var det, man hos Facebook kalder borderline content. Altså indhold, hvor der er svært at afgøre, om det overskrider fællesskabsreglerne. Den kategori var billedet altså havnet i.

Var det Malenes mave, der var problemet? Nej, sagde Peter Münster. Det skyldes håndstillingen, der er lidt anderledes end den, man ser på det originale billede,” sagde Peter Münster. Den måde, Malene Nelting holdt sin hånd på, kunne ifølge ham tolkes som seksuel aktivitet” – vi kunne også sige onani. Det er det, der har spøgt her.”

Peter Münster kunne ikke umiddelbart svare på, hvorfor vi ikke kunne appellere anden gang, billedet blev taget ned, men han lovede at undersøge det og vende tilbage. Og mens jeg ventede på det, kom billedet igen. Tre dage efter, det var blevet fjernet, dukkede det pludselig op på Zetlands Instagram-profil – og på min egen. Uden forklaring.

Den proces var forvirrende nok i sig selv. Men det mest mystiske var faktisk noget andet. Nemlig det, der skete med selve Zetlands profil i de dage, hvor billedet røg op og ned.

Der har i længere tid cirkuleret en påstand om de Facebook-ejede sociale medier. Nemlig at Facebook har en form for hemmelig dobbeltstraf, når en profil poster indhold, der overskrider fællesskabsreglerne. Man kalder det shadowbanning, og det er en lidt løs betegnelse for, at ens indhold bliver begrænset med forskellige algoritmiske restriktioner, så det for eksempel ikke kan deles, ikke når ud til ret mange brugere eller ikke dukker op i folks feed eller det, man kalder anbefalingsflader, hvor nye følgere kan få øje på det. Shadowbanning er et omdiskuteret begreb, og Instagram-CEO Adam Mosseri har tidligere benægtet, at det findes. Eller som han selv formulerede det: Shadowbanning er ikke en ting.”

Det er godt at vide. For det lader ellers til at være noget i lige præcis den retning, der er sket med Zetlands profil, siden vi postede billedet af Malene Nelting.

Vores data viser, at den eksterne reach på vores opslag – altså hvor mange ikke-følgere, der ser et opslag – er faldet fra cirka 20 procent i gennemsnit til under én procent i dagene efter, at billedet blev fjernet. Og ikke mindst at antallet af nye følgere faldt drastisk til et niveau langt under normalen i den samme periode.

Grafen nedenfor viser, hvordan det står til med reach.

Det er meget svært at se den udvikling og ikke tænke, at algoritmen behandler Zetlands profil anderledes og mere restriktivt end normalt.

Så endnu en gang tog jeg kontakt til Peter Münster fra Facebook for at høre, hvad der skete. Og kort fortalt var de svar, jeg fik, at der var sket … nogle fejl. Det, at I fik mulighed for at appellere det første gang, men ikke anden gang, det har været et læringspunkt for os,” sagde han. Det skyldes en konkret, specifik teknisk fejl, som vores ingeniører sidder og ser på, så vi undgår, at det gentager sig.”

Er det en fejl, som kun vi har oplevet?

Jeg tror ikke, I er de første, der har oplevet den. Men vi har set den få gange.”

Er det så også en teknisk fejl, at Zetland blev sat under skærpet opsyn?

Hvis man overtræder reglerne, vil man i en periode derefter ikke optræde i de anbefalingsflader, der findes. Det står i vores fællesskabsregler. Men man skal ikke pålægges restriktioner på grund af en fejl, det er klart.”

Så fejl på fejl, kunne man sige. Men ifølge Peter Münster var der rettet op på det nu.

Der er ikke nogen restriktioner på Zetlands konto nu,” sagde han. Det har der sådan set ikke været, siden billedet kom tilbage.” Men, tilføjede han, han kunne hverken be- eller afkræfte, at der havde været restriktioner i den periode, hvor billedet var fjernet.

Jeg spurgte, om han så kunne forklare, hvorfor Zetland stadig oplevede, at følgertilvæksten var usædvanlig lav. Der kan være mange underliggende faktorer,” svarede han. Jeg synes ikke, man kan tillade sig at konkludere, at det er, fordi Instagram har gjort en fejl, at I står med et problem.” Jeg bragte shadowbanning op og spurgte, om det egentlig var det, Instagram gjorde, selv om de ikke ville bruge det ord. Nej, svarede Peter Münster. Som jeg har set shadowbanning beskrevet, så er det ikke dækkende for den praksis, som vi har.”

Det var så langt, vi kom ind i den sorte boks, der er de sociale medier og deres algoritmer. Vi vidste stadig ikke helt, hvad der var op og ned i processen, og om fejlen lå hos Instagram alene, og hvad den helt præcis var. Hvad vi vidste, var det her: Den fine vækst, Zetland havde oplevet på Instagram, havde fået os til at føle, at vi ejede vores lille hjørne af platformen. Men med 30.000 følgere ejer man ikke noget som helst på Instagram. Man er en lillebitte sten i et gigantisk bygningsværk. Hvis man bliver knust, vil strukturen ikke rokke så meget som en millimeter.

Men faktisk fortæller alt bøvlet en hel del om, hvor problemerne med Facebooks og Instagrams moderationssystem egentlig ligger. Det handler om størrelsesforhold. Retningslinjerne, eller fællesskabsreglerne, er del af den infrastruktur, som skal gøre det muligt for Facebook at lade milliarder af mennesker benytte de digitale rum – sammen. De skal sikre, at en teenager i Manila, en blogger i Texas og en statsminister i Danmark trygt kan færdes mellem hinandens synspunkter i en global samtale. Og at de hver især kan have en følelse af, at deres profil er et personligt rum, hvor de kan dele ud af sig selv – selv om den i virkeligheden er en celle i en digital bikube, der er så stor, at dens dimensioner undslipper menneskelig fatteevne.

Dér opstår problemet. For Facebook og Instagram er vokset til en størrelse, hvor platformene ikke kan sikre lighed for alle. Når så mange mennesker er til stede samtidig, er det umuligt at lave regler, som tilgodeser alle kulturelle forskelligheder, politiske holdninger og menneskelige værdier. Man er nødt til at trække nogle grænser, og som privatejet virksomhed er Facebook i sin gode ret til at gøre det. Man er også nødt til at automatisere administrationen af de grænser, alene på grund af den enorme volumen. Og når man poster indhold, der prøver grænser af, så bevæger man sig ind i et område, hvor man må kalkulere med, at algoritmen vil være mere opmærksom på det, man laver.

Men når man som bruger ikke kan regne med, at fællesskabsreglerne er ens for alle, så man kan navigere i dem, og når man kan blive shadowbanned – eller hvad vi skal kalde det – af uigennemskuelige årsager, så har platformene et problem. De er en udbyder, som leverer et produkt, der ikke holder, hvad det lover.

Og her kommer vi til det, som er kritisabelt: Problemet bliver brugerens. Det bliver Zetlands problem, at Instagram godkender et billede af en bar, buttet krop, hvorefter en anden del af systemet dømmer den ude. Og det bliver Malene Neltings problem, at Instagrams moderationsproces – ved det, de selv siger er en fejl – er hårdere ved hendes krop end ved en fotomodels, og dermed gør det sværere for hende at vise et alternativ til popkulturens tynde, retoucherede skønhedsideal.

Det sagde jeg, da jeg talte med Peter Münster. Og jeg spurgte ham, om han som repræsentant for Facebook og Instagram syntes, at den proces, vi havde været igennem, var det, de gerne vil give deres brugere.

Det er ikke en god proces for os, nej,” svarede han. Selv om det indhold, I slog op, var borderline-indhold, så skulle det have haft lov at blive liggende. Og det er ikke nogen optimal proces for jer eller andre brugere, der har haft den samme oplevelse. Der er en stadig udfordring – og den bilder jeg mig ikke ind, at man bare lige kan løse – med at levere en platform til så mange mennesker og samtidig have et beredskab for de fejl, der bliver begået, så de bliver løst tilfredsstillende for alle. Det er vigtigt, at vi er opmærksomme på det, og at vi bliver ved med at arbejde på, at mulighederne for at få hjælp i den skala bliver bedre.”

Og det er jo dét. Når en fejl går ud over Zetland, kan vi ringe til Peter Münster fra Facebook, fordi vi er et medie, og derved opnå noget, der nok må karakteriseres som særbehandling. Men det kan alle brugere ikke. Det, de kan, er at klage til Tilsynsrådet, den uafhængige instans, som Facebook i 2019 nedsatte som en slags højesteret for deres indholdsafgørelser. Men Tilsynsrådet behandler indtil videre kun mellem tre og seks klagesager ad gangen, med en sagsbehandlingstid på 90 dage.

Man skal være mere end almindeligt optimistisk for at tro, at det redder den demokratiske samtale for milliarder af brugere på de sociale medier. Jeg har ingen grund til at tro, at Facebook ikke ønsker at gøre det bedre, end de gør i dag. Men virkeligheden er, at i det system, der er lige nu, er vilkårlighed, fejl og risikoen for at opleve, at man bliver diskrimineret, noget, man bare må leve med.