Under 2015 vred Reddit på sin laissez-faire-administration attityd genom att införa en ny uppsättning anti-trakasseriersregler, vilket resulterade i stängningen av en handfull beklagliga subreddits. Dessa inkluderade body imaging shaming r/fatpeoplehate och det vita nationalistiska navet r/coontown.
Vid den tidpunkten kritiserades flytten av hörn av Reddit-gemenskapen som en inskränkning av yttrandefriheten; en förutsägbar reaktion med tanke på Reddits tidigare tillvägagångssätt hade odlat ett antal högerkantsgrupper. Andra Reddit-användare kritiserade förbudet på grund av effektivitet, och antydde att ett gäng subreddits bara skulle pressa dessa användare till andra grupper.
Nu, a studie medförfattare mellan Georgia Institute of Technology, Emory University och University of Michigan har definitivt fastställt att förbudet fungerade och att squashing av giftiga subreddits hade en tydlig effekt på hatretorik över hela webbplatsen.
Forskarna undersökte över 100 miljoner inlägg från Reddit, från före och efter att administratörerna förbjöd r/fatpeoplehate och r/coontown. De kom sedan på ett sätt att kvantifiera användningen av hatretorik:
”Med tanke på att Reddit har förbjudit r/fatpeoplehate och r/CoonTown-forumen, fokuserar vi på textinnehåll som är utpräglat karakteristiskt för dessa forum”, förklarar tidningen. ”Med hjälp av en automatiserad sökordsidentifieringsteknik bygger vi lexikon av nyckelord för r/fatpeoplehate och r/CoonTown, vilket gör det möjligt att spåra om orden i dessa lexikon blir vanligare i andra forum efter förbudet.
”Närnäst inspekterar vi manuellt de automatiskt genererade lexikonerna och identifierar en undergrupp av termer som är särskilt inriktade på hatretorik. Dessa manuellt förfinade lexikon är glesare, men erbjuder högre precision.”
På båda styrelserna fann forskarna att ett betydande antal användare avbröt sina konton efter att förbudet trädde i kraft. De som blev kvar blev inte mer elaka i sina åsikter, utan minskade istället sin nivå av hatretorik ”med minst 80%” i efterföljande inlägg.
”Efter förbudet såg Reddit en 90,63 % minskning av användningen av manuellt filtrerade hatord av r/fatpeoplehate-användare, och en 81,08 % minskning av användningen av manuellt filtrerade hatord av r/CoonTown-användare (relativt deras respektive kontrollgrupper) ). De observerade förändringarna i användningen av hatretorik verifierades vara orsakade av förbudet och inte slumpmässigt, via permutationstester.”
En kritik av förbudet 2015 var att det skulle ”sprida infektionen”, med tidigare användare av giftiga subreddits som förde in sitt budskap till ofarliga samhällen. Forskarna fann istället att r/CoonTown-användare flyttade till subreddits ”där rasistiskt beteende antingen har noterats eller är utbrett”, inklusive r/The_Donald och r/BlackCrimesMatter. Användarna av r/fatpeoplehate flyttade till subreddits ”dedikerade till roastande användare som frivilligt lägger upp bilder på sig själva eller andra”, inklusive /RoastMe, såväl som spel- och TV-hubbar som r/fo4 och r/MrRobot.
I båda fallen fann studien ingen förändring i användningen av hatretorik av ”invaderade” subredditer: ”Migranterna tog inte med sig hatretorik till sina nya samhällen, och inte heller de långvariga invånarna hämtade det från dem.”
Summan av kardemumman för forskarna är att förbudet fungerade och lyckades på både användar- och samhällsnivå minska förekomsten av hatretorik. Forskarna noterar dock att giftiga användare verkade fly till andra, mer obskyra webbplatser, som Reddit-klonen, Voat och Gab. Förbudet slog därför inte ut trångsynthet helt och hållet, men när det gäller Reddits mål att upprätthålla hälsan i det egna samhället var det en klar framgång.
Den fortsatta existensen av subreddits som r/The_Donald tyder på att Reddits tillvägagångssätt är långt ifrån heltäckande, men studien är en stark indikation på att att kasta barriärer inför hatiska samhällen kan förhindra att giftiga ideologier slår rot på särskilda plattformar. När det gäller den större frågan om hur hat kan bekämpas över internet i allmänhet, det är en fråga som inte bara upptar sådana som Facebook och Google, utan regeringar över hela världen. Tidigare i år, till exempel, anklagade ett antal brittiska parlamentsledamöter sociala nätverk för att ”handla hat” och uppmanade dem att göra mer för att förhindra onlinemissbruk.
