Ingen grimme, gamle eller fattige. Her er retningslinjerne, TikTok har holdt hemmeligt

SKJULTUønskede personer som ældre og overvægtige skulle holdes skjult. Foto: Dado Ruvic, Reuters/Ritzau Scanpix

Vores medlemmer foretrækker at lytte

Zetlands medlemmer kan høre alle vores artikler som lyd - oplæst af skribenterne selv. De fleste foretrækker at lytte i vores app, hvor man får den bedste oplevelse. Men du er velkommen til at lytte med her.

Derfor skal du læse denne artikel

Underholdningsappen TikTok, hvor børn og unge filmer deres lipsyncs og danse, er på ingen tid blevet det foretrukne tidsfordriv for millioner af børn verden over. Men nu har et amerikansk medie røbet de retningslinjer, som har været brugt til at luge ud i indholdet. Og det er heftige sager. For eksempel skulle videoer fra grimme og fattige brugere holdes nede.

TikTok er populært. Nej, slet det. TikTok er ekstremt populært. Måske er du ikke i målgruppen til appen, hvor brugere uploader korte videoer, ofte indøvede danse og lipsyncs, til tidens store hits, men tro mig: Spørg en hvilken som helst teen, tween, teenager eller blot en ung sjæl til TikTok, og vedkommende vil nikke bekræftende. Måske vise dig trinene til den nyeste dansetrend på TikTok.

Appen er ejet af ByteDance, en kinesisk tech-virksomhed i Beijing, og siden dens lancering i 2017 er TikTok blevet hentet over en milliard (!) gange på telefoner rundtom i verden. TikTok har i dag omkring 800 millioner månedlige brugere, og i et sats på at blive det næste store kulturelle epicenter for børn og unge ansatte TikTok i denne uge amerikaneren Kevin Mayer, Disneys øverste chef for streamingtjenesten Disney+, som nye direktør. Og alt tyder på, at TikTok kan indfri sin ambition: I Danmark viser de seneste data, at appen sidste år hver måned blev hentet til 40.000 telefoner, og TikTok-videoer med hashtagget #denmark er blevet set 1,5 milliarder gange. Bare wow.

Men TikToks vilde brugervækst blandt børn og unge er ikke sket uden moralske omkostninger. Interne retningslinjer for, hvilke videoer der skal holdes væk fra brugernes startside, det såkaldte For you’-feed, blev i marts røbet af det amerikanske medie The Intercept. Retningslinjerne er skrevet på kinesisk og så oversat til engelsk og dikterer, hvilke videoer TikToks moderatorer har forhindret i at gå viralt. Videoer af eksempelvis grimme” og chubby” brugere skulle holdes væk fra den algoritme, der udvælger videoer til For you’-feedet. Det samme med videoer af brugere, der filmer sig selv i hjem, der kunne bruge en kærlig hånd, ligesom politiske videoer, der kunne skade national ære”, skulle bortcensureres.

En talsperson for TikTok, som The Intercept har talt med, forklarer, at retningslinjerne, som angivelig har været gældende helt frem til slutningen af 2019, var et tidligt stumt forsøg på at forhindre mobning”, som man siden trak tilbage. Talspersonen fortæller, at de fleste” af retningslinjerne enten ikke længere er i brug og i nogle tilfælde aldrig har været i brug”, men ville ikke gå i detaljer, skriver The Intercept, som også noterer sig, at ordet mobning” ikke indgår i dokumenternes begrundelse for at ekskludere blandt andre ældre” brugere med tydelige rynker”. Som begrundelse står i stedet fastholdelse af nytilkomne TikTok-brugere. Jeg har forsøgt at få en kommentar fra TikTok, men uden held.

Uanset hvad hensigten har været, er retningslinjerne kritiske for en app, der vil inspirere til kreativitet og bringe glæde”, som TikTok skriver på sin hjemmeside. Real People. Real Videos” er TikTok-sloganet. Og så er retningslinjerne et indblik i, hvor langt et socialt medie er villigt til at gå for brugervækst. Og i et større perspektiv: Hvad konsekvenserne er ved, at en virksomhed for første gang succesfuldt har eksporteret et socialt medie til verden uden for Kina og landets kommunistiske etpartistyre.

The Intercept, der gør sig i undersøgende journalistik, har været så generøse at dele de hidtil hemmeligholdte retningslinjer i sin helhed, så lad os dykke ned i den usynlige digitale ekskludering og censur, som millioner af børn og unge lever under på TikTok.

Ligesom alle andre social media-feeds er indholdet på TikTok filtreret af en algoritme. Hvordan den afgør, at én video skal i millioner af menneskers For you’-feed frem for en anden, er hemmeligt. Men i de interne dokumenter kan vi se, hvad der i hvert fald har ekskluderet en bruger fra denne attraktive placering. Argumentet er, fremgår det, at videoer med grimme, fede og andre uønskede brugere kan nedsætte nytilkomne brugeres retention rate”, et engelsk udtryk for tilbagevendende brugere, som er et vigtigt mål for tech-platforme. Altså er TitToks frygt, at bliver man mødt af videoer med grimme mennesker, åbner man ikke TikTok igen. Det gælder særligt, fremgår det, hvis brugernes ansigt er i fokus. I Ugly Content Policy’-dokumentet er kriterierne angivet under nye regler’. Der står:

Unormal kropsform, chubby, har åbenlys ølmave, overvægtig eller for tynd (ikke begrænset til: dværg, akromegali).” Akromegali kan oversættes til kæmpevækst”, en sygdom, hvor man producerer for meget væksthormon. Derudover står der (og hav i mente, at teksten er dårligt oversat fra kinesisk til engelsk – og nu til dansk af mig): Grimt ansigtsudseende (ikke begrænset til: deformt ansigt, hænder, mangel på fortænder, ældre mennesker med for mange rynker, åbenlyse ansigts-ar) eller deformiteter i ansigtet (ikke begrænset til: øjenlidelser, skæv mund-sygdom og andre handicaps).” Som begrundelse’ står der i dokumentet, at indeholder en video disse ting, vil den være meget mindre attraktiv, ikke noget at anbefale til nye brugere.”

I Ugly Content’-reglerne er det også beskrevet, hvordan brugerne ikke skal bo, hvis et ungt menneske prøver at slå igennem som den næste TikTok-stjerne. Det går ikke, hvis miljøet”, videoen er filmet i, er lurvet og nedslidt, såsom, men ikke begrænset til: slumområder, landlige marker (landlig smuk natur er fritaget), faldefærdige huse, byggepladser osv.” Der står videre, at hvis personens værelse ikke er tydeligt slummet”, skal moderatorerne holde særligt øje med revner i væggen, gammelt og ikke respektabelt interiør, ekstremt beskidt og rodet”. I afsnittet Begrundelse”, der skal retfærdiggøre reglerne, står der: Disse former for miljøer er ikke så velegnet til nye brugere, da de er mindre smarte og tiltalende.” Med andre ord: Ingen gider se fattige børn danse.

Men TikTok har ikke blot forsøgt at forhindre klassificeret uønskede mennesker i at blive set af for mange mennesker på appen. Der er også indhold, som slet og ret ikke må være på platformen, når brugerne sender live. I et andet internt dokument, som The Intercept har lagt ud, kan man læse, hvad reglerne har været for, hvad brugerne må sige og foretage sig i livestreamen. Igen er det uvist, hvilke retningslinjer der stadig gælder i dag. Brud på reglerne, står der, vil medføre, at liven stoppes, og brugeren bandlyses fra appen i op til en måned. Vi begynder med, hvad man ikke må.

Brugere, som er 18 år eller yngre, har ikke måttet optræde, hvis de var gravide. Eller stå med våben. Eller ryge, drikke, stå med sakse og knive, ej heller danse med sakse og knive – eller kysse i mere end tre sekunder. Brugere under 13 år har ikke måttet opføre sig seksuelt. Twerke, grinde eller tage sig i skridtet står som eksempler. De må heller ikke gå live uden en voksen. Og så er der alt det, man heller ikke må på andre sociale medier: vise kvindebryster, vifte med et Islamisk Stat-flag, onanere, dyrke sex, tage stoffer, torturere dyr, spise en mus (ja, det står der). En undtagelse er at lave den såkaldte condom challenge: Spænde et kondom over hovedet og fylde det med vand. Ja, velkommen til TikTok.

Og så er der alt det, man ikke har måttet sige eller stadig ikke må sige. Det vil TikTok ikke klargøre. TikTok har censureret emner, man finder farlige eller ærekrænkende, fremgår det i hvert fald af de interne retningslinjer. Ikke ulig – som mange eksperter har frygtet – hvad der foregår på Kinas egne sociale medier, hvor omtale af eksempelvis massakren på Den Himmelske Freds Plads i Beijing er forbudt af staten. Dét har også været forbudt på TikTok. Massakren er nævnt specifikt som et af tre eksempler. Man bandlyses for evigt” ved omtale af massakren på en måde, som moderatorer vurderer er en uglyfication” eller forvrængning” af historien. Racisme gav kun en måneds bandlysning. Den evige bandlysning gik også til brugere, der i livestreamen truer national ære” og underminerer nationalt sammenhold”. Det samme gjaldt brugere, der opfordrer” til ødelæggelse af nationalt sammenhold” ved at tale for uafhængighed i Nordirland, Tjetjenien, Tibet og Taiwan”. Særligt de sidste to er ømme for det kinesiske styre, der anser begge lande som sine territorier.

I den mere kuriøse ende har brugerne på TikTok heller ikke måttet tilskrive TikTok slemme intentioner” under en livestream, står der. Det gav tre dages bandlysning fra appen. Brok over TikTok var dog tilladt, hvis det skete uden fornærmelser”. Man fik også tre dages bandlysning, hvis man lavede en personlig livestream om statslige myndigheder som politi, militær etc.” Og en enkelt dag i TikTok-karantæne for ærekrænkelse (…) og kritik af embedsmænd, politiske eller religiøse ledere” samt familierne til ledere, politi, soldater og andre officerer”, står der. Samme straf, hvis brugerne afslørede hemmelige informationer” som voldelig håndhævelse begået af militær eller politi”. Som The Intercept skriver: Tag jer i agt, fremtidige demonstranter.”

Afslutningsvis skriver The Intercept, at flere TikTok-ansatte fortæller under anonymitet, at selv om TikTok har kontorer rundtom i verden – fra Los Angeles til London – så er det hovedkvarteret i Beijing, der til syvende og sidste afgør, hvad der skal boostes af algoritmen, og hvad der skal holdes skjult for brugerne. Og således også afgør, hvad dit barn og mange andre millioner af børn får lov at se – og ikke se.

Bidrag fra Zetlands medlemmer

Ved du, hvorfor Zetland findes?

Vi følger otte enkle principper, der hjælper med at skabe plads til fordybelse og omtanke i en verden, der mangler præcis dét.

– Lea Korsgaard, medstifter og chefredaktør

I dag læser vores medlemmer: