Kunstig intelligens skal udrydde hadtale. Her er, hvordan Silicon Valley vil opdrage os til at tale pænere

Techgiganterne forsøger at tackle den offentlige debats måske største problem lige nu: den hårde tone.

Illustration: Jørgen Stamp for Zetland
  • 8. april 2021
  • 8 min.

Vores medlemmer foretrækker at lytte

Zetlands medlemmer kan høre alle vores artikler som lyd - oplæst af skribenterne selv. De fleste foretrækker at lytte i vores app, hvor man får den bedste oplevelse. Men du er velkommen til at lytte med her.

Hvis du på engelsk er ved at skrive noget grimt, som at nogen er en dum taber”, på Instagram, får man en advarsel fra en kunstig intelligens, der læser med. Er du sikker på, du vil skrive det her, spørger den. Svarer du ja’, skjules beskeden for modtageren. I Facebook-grupper, hvis et kommentarspor stikker af, er det blevet muligt for moderatorer at slå en funktion til, så gruppens medlemmer skal vente fem minutter mellem at kommentere.

Det her kan virke som små tiltag, men hvis man løfter blikket og ser på, hvad der sker hos de største og vigtigste sociale medier, ser man pludselig det her overalt. Det, man måske kunne kalde en kommunikationsmotorvej, er ved at blive fyldt med fartbump. Alt sammen for at tackle den offentlige debats måske største problem lige nu: den hårde tone.

I årtier har mantraet til at overleve debatter online været: Don’t feed the troll’. Ignorer idioten, og kom videre med dit liv. Men i dag, hvor almindelige mennesker, unge X Factor-deltagere, kendisser, debattører og politikere skimmer kommentarspor med grove tilsvininger og åbner indbakken og ser flere grove tilsvininger, måske endda trusler, slår mantraet ligesom ikke til længere. Og techgiganterne, der har ansvaret for platformene, ved det godt. Det er blevet pinligt tydeligt for alle. Troll’en i rummet er nu så stor, at Silicon Valley ikke længere kan ignorere den.

Indgrebene er udtryk for, at techgiganterne ikke selv kan følge med de millioner af kommentarer, der skrives hvert eneste sekund, og at der slipper for mange svinestreger igennem, forklarer Lars K. Jensen, digital chef hos mediebureauet Willmore, og som med sit nyhedsbrev Digital Ugerevy analyserer teknologiske tendenser. Techgiganterne vil derfor sløve tempoet ned. Efter i årtier at have gået efter at nedbryde sociale grænser og gøre det nemmere for mennesker at kommunikere gør man det nu sværere.

Det er i virkeligheden et, i internettid, ældgammelt problem, vi her griber fat i. Det har eksisteret fra det øjeblik, mennesket fik modem, og uanset hvor langt væk eller hvor fremmed et menneske måtte være for én, var vedkommende pludselig inden for rækkevidde. Techgiganterne har fra begyndelsen ment, at nærheden ville være godt for menneskeheden. Altid nogen at chatte med, grænseløse fællesskaber og en global forbundethed, verden aldrig har set. I en verden, hvor alle taler pænt til hinanden, ville det utvivlsomt være fedt. Men den verden eksisterer sociale medier ikke i, og det ser ud til, at techgiganterne er begyndt at forstå, hvad det reelt betyder for det internet, vi alle sammen færdes på.

I 2021 kan vi stadig skrive idiot’ til et hvilket som helst menneske, der også har en Instagram-profil. En indoneser, en bornholmer, alle er inden for rækkevidde. Faktisk synes sociale medier som Facebook, Instagram og Twitter at være som designet til at blive kaldt idiot’ af en, man overhovedet ikke kender. Vi opfordres til at give noget af os selv, uploade selfies og skrive, hvordan man går og har det, og hvad man mener om det og det. Samtidig kan et hvilket som helst andet menneske på kloden med wi-fi-forbindelse kommentere på det, man deler med omverdenen, eller helt droppe forspillet og kontakte én direkte med en privat besked. Den her kombination af at blotte sig, og at enhver, der har et problem med én, kan skrive, at de har et problem med én, gør det sandsynligt at blive kaldt idiot’ (eller det, der er værre). Måske har du prøvet det? Vi har. Mange har.

Hadtale opleves af ofrene som psykisk vold, chikane, mobning og racisme. Men hadtale er også et demokratisk problem. Når mennesker afholder sig fra at give deres mening til kende af frygt for repressalier, vinder troll’en. Et debatklima, hvor tilsvininger er normalen, er et klima, hvor kun de mest stridslystne og hårdhudede tør åbne munden. Ud over at det er et demokratisk problem, har techgiganter også opdaget, at de har en økonomisk interesse i at forbedre tonen, forklarer Lars K. Jensen. Brugerne forsvinder, hvis de kommer ind og ser, folk svines til, eller de selv bliver svinet til, ligesom svinere kan afholde brugere fra at være aktive og dele og kommentere.

Hadtale synes altså at være en blind vej rent økonomisk. Det næste store spørgsmål er så, hvordan man kan ændre tonen. Det har vist sig, at algoritmerne, som filtrerer det værste skrald fra, ikke er gode nok, og at platformene ikke har nok (eller ikke vil ansætte nok) moderatorer til at rydde op efter algoritmerne. Den nye idé er at opdrage på milliarder af mennesker, der bruger sociale medier hver dag. Så her er, hvordan sociale medier lige nu er ved at kode og designe sig til en venligere verden.

Techgiganter forsøger basalt set at oversætte talemåden tænk, før du taler’ til platformene: Har du virkelig lyst til at dele den kommentar til en YouTube-video? Og skulle du måske overveje en ekstra gang, om det, du skriver, kan virke stødende på andre? Buddene på, hvordan man bedst muligt minimerer hadtale, er forskellige fra platform til platform, så lad os prøve at gennemgå nogle af dem.

I 2020 præsenterede YouTube et værktøj, som skal få brugere til at, og her citerer vi videoplatformen, reflektere over deres ordvalg”, før brugerne trykker enter. Så hvis man ser en video fra en og vil kommentere på den med et ord, som YouTubes algoritme har lært er stødende, dukker der et pop-up-vindue frem, som advarer én om, at kommentaren er stødende. Værktøjet er ikke fejlfrit og virker kun, så længe YouTubes algoritmer opfanger, at der er en stødende kommentar på vej. Værktøjet stopper heller ikke brugere fra at sende den stødende kommentarer afsted, da man blot kan ignorere advarslen. Derudover vil YouTube udrulle et automatiseret system, der bedre kan filtrere hadbeskeder og automatisk slette dem, så youtuberen ikke behøver at læse dem.

Hos Facebook har en undersøgelse vist, at 10 til 11 opslag ud af 10.000 var hadtale i tidsperioden juli 2020 til september 2020. Platformen har været under heftig kritik blandt andet under den amerikanske valgkamp i 2020, hvor misinformation syntes at sprede sig som en løbeild. Nu fokuserer platformen igen på hadtale, og et nyt værktøj i kassen er, at man som almindelig bruger, politiker eller medie kan bestemme, hvem der kan kommentere ens opslag. Man kan vælge, om man vil lade alle kommentere eller kun dem, man er venner med, eller kun profiler, der er tagget i opslaget. Tiltaget kommer efter en dom i Australien i 2019, hvor man besluttede, at medier er juridisk ansvarlige for krænkende og stødende kommentarer på deres Facebook-sider. Dommen betød også, at flere medier begyndte at ansætte personer til at moderere kommentarspor på sociale medier.

Twitter har ligeledes gjort det muligt for brugere at blokere kommentarer fra personer, som enten ikke er nævnt i tweetet, eller som brugeren ikke selv følger. Alle kan dog stadig retweete opslaget med en kommentar, hvis de ønsker det. Ifølge Twitter giver værktøjet brugerne mere kontrol over de samtaler, de begynder”, og skaber en ny samtaleform, hvor brugere bestemmer, hvem de vil debattere med. Tiltagene, mener Lars K. Jensen, er reelle begrænsninger af sociale medier som debatforum, da det er op til brugeren selv at bestemme, hvem der må kommentere deres opslag. Det gælder for privatpersoner, men også for kendisser og politikere.

Men nu handler det ikke kun om hadtale, for krænkende og stødende kommentarer kan også forekomme utilsigtet. Det mener Microsoft, man har en løsning på. I 2019 lancerede Microsoft Word Ideas in Word’, et grammatisk sprogværktøj, der lige tager skridtet videre. Værktøjet retter ikke bare grammatik, men sørger også for, at sproget forbliver så neutralt og politisk korrekt som muligt. Eksempelvis kan det opsnappe kønsbetinget skævhed i ord og foreslå, at man bruger kønsneutrale ord i stedet for eksempelvis postmand’ eller kassedame’. Et andet eksempel, det kan opsnappe, er at rette en handicappet’ til en person med handicap’, en betegnelse, flere foretrækker. Microsoft er også ved at udvikle modeller, som kan opsnappe ord, der kan være stødende for personer i andre lande eller kulturer, så man ikke kommer til at udtrykke sig uheldigt stødende.

En måde at forstå de her forskellige småformynderiske tiltag fra Silicon Valley er som vejbump. Det skal være sværere at kalde nogen idiot’ online. Måske en advarsel fra Instagrams sprogpoliti eller en fem minutters timeout vil kunne bremse brugeres impulsive møgfald. Det vil fungere som at få en spand isvand i hovedet,” siger Lars K. Jensen.

Det fascinerende er, at inden for design af hjemmesider vil vejbump være friktion, altså modstand. Og friktion er som regel noget, man virkelig vil undgå. Det skal helst være så let som muligt for en bruger at gøre det, man gerne vil have brugeren til at gøre. Oftest at købe noget. Men sociale medier er anderledes, her sælger man ikke varer. I stedet sælger man en rar atmosfære, hvor brugerne har lyst til at dele ud af sig selv. Og hvis det kræver at opsætte vejbump for at bremse nogen i at skrive idiot’, er det det, man gør.

Tidligere har techgiganterne sagt, at jo mere aktivitet på platformen, jo bedre,” siger Lars K. Jensen. Mange interaktioner betyder tid brugt på platformen og dermed mulighed for at vise en masse annoncer. Uanset om den tid så blev brugt på at læse arrige kommentarspor, var minutterne stadig med til at finansiere de sociale mediers økonomi. Men den attitude er under forandring i disse år. I 2018 begyndte Mark Zuckerberg at tale om time well spent, altså tid brugt fornuftigt, som succeskriterie i stedet for den traditionelle time spent. Tiltag som fem minutters pauser i kommentarspor er altså Facebooks forsøg på at levere kvalitetstid til sine brugere. Også selvom det kan gå ud over time spent.

Den gode tone-tiltagene på tværs af sociale medier er altså måder at skabe friktion på. Små vejbump, der bliver lagt ind i selve brugeroplevelsen af internettet. Egentlig er det en ærgerlig erkendelse af, at mennesket ikke kan forvalte at være forbundet til resten af menneskeheden, men skal læses over skulderen af en kunstig intelligens, og at brugere føler sig så udsat, at de er mest trygge ved at afskære flertallet af brugere fra at debattere. Men her er vi. Og det er værd at hæfte sig ved, hvor stort et skifte det her her.

På en måde har vores muligheder for uhindret at kommunikere med alle andre mennesker online allerede toppet. Nu træder vi baglæns. Og illusionen om sociale medier som det her sted, hvor vi frit kan debattere med hinanden og med politikere, og hvor fans kan skrive med deres stjerner, er definitivt bristet, siger Lars K. Jensen. Bekymringen er, at det kan gøre skade i forhold til, at der vil være debatter og samtaler, vi aldrig kommer til at have online, fordi nogen er udelukket fra at byde ind.” Kampen om at sikre den gode tone kommer ikke uden ofre. Og vi har kun lige begyndt debatten om, hvordan balancen skal se ud.