Hur hanterar sociala nätverk hatretorik?
AI-program och mänskliga innehållsgranskare slår ner på stötande kommentarer online
Zach Gibson/AFP/Getty Images
Hatretorik är inte ett nytt fenomen för sociala nätverkswebbplatser, men lördagens högerextrema demonstration i Charlottesville, Virginia, som gjorde att en demonstrant dödades har lett till att företag vidtar åtgärder mot kränkande grupper online.
Så här reagerar de största sociala mediegrupperna på hatretorik, såväl som deras planer på att förhindra att stötande innehåll sprids:
Efter de våldsamma händelserna i Charlottesville i lördags, Engadget säger att Facebook har 'stängt ner många hatgrupper i kölvattnet av attackerna', inklusive 'eventsidan för Unite the Right-marschen som genomförde våldet'.
Sociala mediejätten använder en kombination av artificiell intelligens (AI) och mänskliga innehållsgranskare för att hitta hatretorik, vilket Gränsen säger tar bort '66 000 hatpostinlägg per vecka'. Men sajten säger att Facebook 'litar mycket' på att användare rapporterar innehåll som stötande eller hatiskt.
I maj anställde Facebook ytterligare 3 000 personer till sitt 'team av innehållsgranskare', säger TechCrunch , vilket ger det totala antalet upp till 7 500. Detta utlöstes av flera globala 'innehållsmodereringsskandaler', inklusive användningen av Facebook Live 'för att sända mord och självmord.'
Men Trådbunden säger att det har förekommit situationer där företagets 'algoritmiska och mänskliga granskare' har stämplat kommentarer eller inlägg som stötande utan att ta hänsyn till sammanhanget. Till exempel säger webbplatsen att vissa ord 'ropade som förtal' ibland 'återvinns' av grupper 'som ett sätt att uttrycka sig själv.'
Twitters policy för hatiskt beteende säger att tjänsten inte 'tillåter konton vars primära syfte är att hetsa till skada mot andra' på grundval av områden som ras eller sexuell läggning.
De Självständig rapporterar att sajten under de senaste månaderna har introducerat fler system och verktyg för att upptäcka och ta bort hatretorik, samt att förbättra processen där dess användare manuellt rapporterar stötande material.
Men den sociala mediesidan har varit i ett 'ganska varmt vatten de senaste månaderna angående en upplevd brist på handling i spåren av upplevda hot', säger TechCrunch , vilket ledde till att en aktivist sprejade 'hatspråk på gatorna utanför företagets huvudkontor i Berlin.'
I kölvattnet av lördagens sammandrabbning säger webbplatsen att kontot för den högerextrema gruppen The Daily Stormer har tagits ner, även om 'Trumps tweets som vikar på gränsen till ett hotande kärnvapenkrig' verkar falla i linje med företagets policy.
Chattforumet Reddit har också slagit ner mot hatretorik. Engadget säger att webbplatsen har 'stängt ner många hatgrupper i kölvattnet av attackerna.'
Bland grupperna som togs bort från sociala medier var subreddit /r/Physical_Removal, en sida Engadget säger 'hoppades att människor i anti-hat subreddits och på CNN skulle dödas, stödde koncentrationsläger och skrev till och med dikter om att döda.'
'Vi är mycket tydliga i våra användarvillkor för att lägga upp innehåll som uppmuntrar till våld kommer att få användare avstängda från Reddit,' sa Reddit Cnet .
Även om Google inte enbart är ett socialt nätverk, spelar teknikjätten en nyckelroll i att styra internettrafik och de sociala appar som användare kan komma åt.
Sedan sammandrabbningen i Charlottesville i lördags, TechCrunch säger att företaget har tagit bort det 'konservativa sociala nätverket' Gab från sin Play Store eftersom det hade blivit en 'tillflyktsort' för användare som förbjudits från vanliga plattformar.
Google säger att det inte stöder 'innehåll som främjar eller tolererar våld mot individer eller grupper' baserat på vissa kriterier, och tillägger att det är 'högt beroende av användare att informera oss om innehåll som kan bryta mot våra policyer'.
Men TechCrunch säger att 'det är inte klart vad specifikt Gab gjorde som motiverade att han sparkades av butiken', eftersom appen är ett chattrum och inte verkar aktivt främja hatretorik. Webbplatsen säger 'det finns gott om hatretorik på Twitter och YouTube', men dessa är fortfarande tillgängliga att ladda ner trots denna veckas 'tillslag' mot stötande innehåll.
Enligt Gränsen , Gab har 'aldrig blivit godkänd för placering på Apples App Store.'
Vad gör andra?
Ett av de anmärkningsvärda fallen av hatretorik efter lördagens händelser inkluderar webbdomännamnshandlaren GoDaddy som vräker The Daily Stormers webbplats från sin tjänst, säger Registret .
Webbplatsen säger att aktivister berättade för återförsäljaren att gruppen gjorde 'extraordinärt vulgära och nedsättande kommentarer' om offret för attacken i Charlottesville, Heather Heyer. GoDaddy gav The Daily Stormer 24 timmar 'för att flytta domänen till en annan leverantör'.
Vi informerade The Daily Stormer att de har 24 timmar på sig att flytta domänen till en annan leverantör, eftersom de har brutit mot våra användarvillkor.
- GoDaddy (@GoDaddy) 14 augusti 2017
YouTube förväntas också 'inrätta strängare riktlinjer när det gäller hatretorik', rapporterar TechCrunch . Detta kan leda till att fler videor tas bort efter att användarna har markerat dem som stötande, även om det inte finns något olagligt i innehållet.
