V průběhu uplynulého týdne si lidé na sociální síti začali všímat toho, že jim začaly na feedu vyskakovat násilné fotografie a videa. Stát za tím mohou hackeři i nové nastavení Instagramu.
Meta se za situaci už omluvila, proč k tomuto došlo však příliš neobjasnila.Zkušenosti z minulých let však nabízejí dvě možná vysvětlení. Zda je některé z nich správné, či má náhlá změna ve složení nabízených příspěvků ještě třetí důvod, se snad dozvíme brzy.
Nestalo se to poprvé
K vzestupu brutálního obsahu už došlo zhruba touto dobou před dvěma lety. Tenkrát bylo zjištěno, že na vině byla organizovaná skupina hackerů, která se rozhodla „přechytračit“ algoritmus. Na Instagramu totiž začalo figurovat velké množství účtů právě s násilným či sexuálním obsahem. Ty následně vydělávaly na prodeji sponzorovaných příspěvků propagujících účty na OnlyFans.
Doba je zlá? Podívej se na nejlepší antifašistické filmy a seriály všech dob
27. února 2025 v 7:00
Meta přítomnost těchto účtů v roce 2023 přiznala. Podle mluvčího ale tvořily jen malé procento celkového obsahu na platformě. Podle firmy zhruba 3 z 10 tisíc zobrazených videí obsahovala násilný obsah. „Jedná se o prostor, kde panuje soutěž, takže neustále aktivně monitorujeme a zlepšujeme způsoby, jak zabránit špatným aktérům v používání nových taktik, aby se vyhnuli odhalení a vyhnuli se našemu vymáhání,“ dodala společnost.
Podobný obsah bude čím dál častější
Tentokrát ale za nárůst nevhodných příspěvků možná nemůže žádná skupina hackerů, ale samotná platforma. V lednu totiž Mark Zuckerberg ohlásil změny v rámci svých sociálních sítí, jednat se tak má o to, co algoritmus povolí a co ne. Podle společnosti Meta totiž dosavadní způsob blokování obsahu vykazoval spoustu chyb.
Nově tak Instagram a Facebook omezily samoregulaci a sítě více spoléhají na to, že problémy budou nahlašovat uživatelé. Společnost Meta vlastně mění své zásady moderování obsahu. Podle výzkumu společnosti CCDH a informací serveru The Washington Post se tak průměrný uživatel může na síti setkat s nárůstem o více než 227 milionů případů nevhodného obsahu ročně.
Až do změn z minulého měsíce to podle CCDH byla právě proaktivní opatření společnosti Meta, která zakázala 97 procent nenávistných projevů, šikany a obtěžování, které se vyskytovaly na jejích sociálních sítích. „Omezení těchto nástrojů ponechá Facebooku a Instagramu široký prostor pro spoustu škodlivého obsahu,“ uvedla organizace.
„Metodika CCDH je chybná,“ popřel toto číslo mluvčí společnosti Meta Ryan Daniels. „I nadále se budeme zabývat obsahem, který porušuje naše zásady.“ Společnost Meta ale neupřesnila, v čem by metodika CCDH měla být chybná, a odmítla poskytnout vlastní odhady, kolik obsahu by mělo být podle jejích nových zásad zakázáno.
Meta se omluvila
Zatím samozřejmě není jisté, zda tato změna v regulaci obsahu může za to, že uživatelům na sítích začalo vyskakovat velké množství nevhodných příspěvků, jako vysvětlení se to však minimálně nabízí.
Meta ve čtvrtek pro server Business Insider uvedla, že se za pochybení omlouvá. „Opravili jsme chybu, která způsobovala, že se některým uživatelům v kanálu Instagram Reels zobrazoval obsah, který neměl být doporučen,“ popsal mluvčí společnosti.
V prohlášení však neuvedla, proč k oné chybě došlo a co přímo za nárůstem nevhodného obsahu stojí.
