Det er blevet en frygtelig kendsgerning for søstre verden rundt: sociale medier kan være en dødbringende skygge for unge mennesker, især dem, der allerede kæmper med deres egen tro på morgen. 16-årige Maj var en af dem, som miste kampen – og hendes tragiske død har sat fokus på et varigt problem, som Meta efter sigende ikke gør nok for at løse.
Maj blev hvirvlet ind i et Instagram-netværk, der opererer som en mørk hjørnekontakt for selvskade. Her delte unge piger – nogle kun børn – deres erfaringer med at skade sig selv, dokumenterede selvmordsforsøg og bekræftede hinanden i deres mest desperate øjeblikke. Det er ikke et hemmeligt forum eller en app, du ikke kan finde – det foregår på Metas platform, med alt det algoritmiske værktøj, der skal få mennesker til at blive.
Da Liv Almer åbnede sin søsters telefon efter hendes død, blev hun kastet ud i dette netværk. Hun så, hvem Maj talte med, hvilke billeder hun så, og hvilke mennesker – eller menneskelignende profiler – der måske gav hende den sidste duwt mod afgrunden. Og hun blev rasende over, at Meta ikke har gjort mere for at standse det.
Meta siger, de handler
Meta er ikke helt tavs i sagen. En talsperson fra virksomheden har givet udtryk for, at de gør meget for at fjerne skadeligt indhold og beskytte unge mennesker. Men for Liv Almer – og for mange andre forældre og søstre, der har mistet kære – er det ikke nok. Meget længe ikke.
Spørgsmålet om, hvad Meta og andre tech-giganter kan og skal gøre, er ikke enkelt. Deres algoritmer er sat til at holde os alle grepet – og når du er sårbar, når du er ung og søger forbindelse, når du er i smerte, så kan algoritmen føre dig præcis til stedet, hvor det værste kan ske. Det handler ikke nødvendigvis om onde intentioner fra Metas side. Det handler om design, profit og en kultur, hvor engagement betyder alt.
Når algoritmen bliver usynlig drabsmand
Maj var på ingen måde alene i sit mørke. Der findes tusinder af Instagram-konti, grupper og netværk dedikeret til selvskade, hvor unge mennesker mødes, udveksler tips og bekræfter hinanden i selvdestruktiv adfærd. Nogle konti er uimodståeliggt visuelt – smukke, melankolske billeder af blodige arme og selvskade iscenesattelses. Andre er bare ordinære Instagram-profiler, hvor algoritmen har lært at præsentere indhold til mennesker, der søger det.
Det, der gør det så ondsindet, er, at Meta ved det. Forskere, journalister og nu også beretninger fra døde pigers familier har dokumenteret igen og igen, at platformen ikke agerer. De fjerner nogle konti, når det bliver for varmt omkring ørene, men systemet forbliver intakt. Algoritmen fortsætter med at råbe til de mennesker, der er mest sårbare, og tilbyde dem præcis det indhold, der får dem til at føle sig mere alene, mere fortabt, mere dødsensvardig.
En søster, der ikke kan lade være at stille spørgsmål
Liv Almers kritik af Meta er ikke bare den vrede fra en der sørger – det er også et anklage mod systemet. Hun spørger de spørgsmål, der skal stilles: Hvorfor tillader Meta disse netværk? Hvordan kan en platform være så præcis til at sælge tøj til dig, men ikke til at identificere og stoppe netværk, der handler om selvdestruktion? Hvorfor er det så let at finde mennesker, der vil bekræfte dig i at dø?
Svaret er, naturligvis, kompliceret. Meta tjener penge på engagement, og selvskade-indhold genererer engagement. Unge mennesker, der søger forbindelse – hvad end det er gennem selvskade-netværk eller katastrofe – bliver på platformen længere, deler mere, og genererer således mere data, der kan sælges til annoncører. Det er den dystre realitet bag tilsyneladende gratis sociale medier.
Hvad skal der til for at ændre noget?
Nogle vil sige, at forældre skal overvåge deres børns telefonbrug mere. Og ja, det er vigtigt. Men det er også en undskyldning for virksomheder som Meta til at undvige deres ansvar. En 16-årig pige skal ikke være videnskabsmand for at forstå, hvad hun ser på Instagram – hun skal blot kunne handle ud fra sin følelse, som den er. Og hvis Instagram-algoritmen siger til hende, at hun skal skade sig selv, og giver hende tusindvis af mennesker, der bekræfter det, så hvordan skal hun modstå det?
Der er ingen simpel løsning. Men der er heller ingen undskyldning for, at Meta ikke tager det alvorligere. Ikke før Instagram ikke længere er et værktøj til at finde andre mennesker, der vil hjælpe dig med at dø, men i stedet et sted, hvor du kan søge hjælp til at leve.
Maj skulle have været 17 år. I stedet blev hun en statistik på endnu et bevis på, at vores sociale medier ikke er så sociale, som vi gerne tror. De er snarere maskinerie designet til at udnytte vores svagheder – og når vi er på vores svageste, kan de være dødelig.