Pro služby jako Twitch, Facebook a YouTube je velmi těžké podobný obsah blokovat.
Německem otřásl útok na synagogu ve městě Halle. Podle The Telegraph při něm zahynuli dva lidé a několik kolemjdoucích utrpělo zranění. Větším ztrátám na životech se podařilo předejít díky bezpečnostním kamerám. Přibližně 70 lidí uvnitř totiž mohlo bleskově zareagovat a zabarikádovat dveře.
Útočník, podle všeho 27letý Němec Stephan B. s bílou barvou pleti, označovaný za ultrapravicového extremistu, se tak k opravdovému běsnění uvnitř synagogy nedostal.
Photo of #Halle attacker pic.twitter.com/mpYnjijXuV
— Anti Tory Action (@antitoryaction) October 9, 2019
Během útoku měl na hlavě přilbu s kamerou a vše vysílal na známé streamovací službě Twitch, jak uvádí Engadget. Pro tu je to pochopitelně velký problém, za obsah na svých stránkách totiž odpovídá sama. Je také pod tlakem reklamních partnerů, regulačních úřadů a pochopitelně ji využívá i řada nezletilých uživatelů.
Twitch proto reagoval sérií tweetů, kde přesně vysvětlil, co se stalo a jaké kroky jeho administrátoři podnikli.
Stream z Halle byl online 35 minut, během nichž ho údajně sledovalo přibližně pět lidí. Není však známo, zda vysílání někdo z nich nahlásil. Video se totiž následně uložilo jako tzv. VOD (video-on-demand), takže ho bylo celé možné sledovat i ze záznamu. Takto ho prý vidělo přibližně 2200 lidí. Z Twitche bylo vymazáno po cca půl hodině.
A recording of the stream, which was automatically generated based on the account’s settings, was viewed by approximately 2200 people in the 30 minutes before the video was flagged and removed from Twitch.
— Twitch (@Twitch) October 9, 2019
Twitch také prostřednictvím speciálního konsorcia upozornil ostatní služby, na kterých by se video mohlo objevit také, aby mohli proaktivně jednat a zabránit snahám o reupload například na YouTube nebo Facebook.
Streamovací a video služby se dostaly pod tlak už v březnu, kdy došlo k útoku na mešitu na Novém Zélandu ve městě Christchurch. I tehdy byl útok streamovaný živě, ačkoli prostřednictvím Facebooku.
Video se šířilo i po YouTube, LiveLeaku nebo Redditu, ačkoli vládou na Novém Zélandu bylo označeno jako nežádoucí a jeho sdílení bylo zakázáno pod hrozbou odnětí svobody až na 14 let, respektive pokuty 100 tisíc dolarů pro firmy.
Zákazy mají chránit práva obětí a pozůstalých, případně omezit „publicitu“ útočníků, aby se jejich jednáním neinspirovali i další.
Pro YouTube, Facebook a jiné platformy je ale velmi obtížné odhadnout charakter videa již při jeho nahrávání uživatelem, případně jej okamžitě zabanuje. Facebook sice disponuje umělou inteligencí a do 24 hodin po útoku vymazal 1,5 milionu hodin reupload, ale hlavně na pozměněné klipy ještě reagovat nedokáže.
Příliš striktní nastavení by zase omezovala běžné uživatele a jejich nevinné klipy z GoPro kamer nebo dovolených. Evropská unie navrhuje zákon, podle kterého by videoslužby musely takový obsah smazat alespoň do jedné hodiny od upozornění příslušnými orgány. Nebyly by tak povinné automaticky skenovat obsah umělou inteligencí, což zřejmě aktuálně ani není v jejich silách.
Například Reddit po událostech na Novém Zélandu zcela zrušil subreddit /r/watchpeopledie, který byl známý podobně explicitním obsahem. Na druhou stranu, objevují se i názory, že sdílení jakéhokoli obsahu by mělo být považováno za svobodu projevu.
Tento princip šíří například sociální síť Gab, kterou New York Times označily za „přátelskou extremistům“. Z podobných důvodů od ní dává ruce pryč i PayPal nebo registrátor domén GoDaddy. Gab ale stále nachází nové způsoby, jak fungovat dál.
