Přestože společnost Meta tvrdí, že zaujímá nulovou toleranci ke zneužívání dětí, tak účty, které jsou z něj podezírány, algoritmus pro automatické moderování označil za přijatelné a jsou nadále aktivní.
Instagram nemaže účty s fotkami spoře oděných dětí, které přitahují sexualizované komentáře, navzdory tomu, že jsou nahlášené. Informace přinesl The Guardian. Přestože mateřská společnost Meta tvrdí, že přijala ke zneužívání dětí na síti postoj nulové tolerance, její automatický systém moderování tyto účty nechává stále aktivní.
Deník Guardian zmiňuje případ, kdy se výzkumníci pokoušeli podobný účet nahlásit v posledních dnech. Díky fotkám, na kterých byly spoře oděné děti, jej sledovalo 33 tisíc uživatelů. Když jej nahlásil prostřednictvím interního systému nahlašování, bylo mu oznámeno, že Instagram kvůli „zvýšené aktivitě“ stížnost nezaregistroval, ale že „technologie, která tyto účty prověřuje, pravděpodobně nezaregistrovala žádné jednání proti pravidlům sítě“.
Uživateli bylo doporučeno, aby tento účet přestal sledovat, zablokoval jej nebo jej zkusil nahlásit znova. Ještě v sobotu byl ale údajně stále aktivní.
Podobné problémy ale nemá pouze Instagram. Například na Twitteru byl aktivní účet, kde muž performoval sexuální akt u obrázků čtrnáctiletého influencera z TikToku. I přes nahlášení příspěvku však účet nebyl smazán, jelikož údajně neporušoval pravidla. The Guardian uvádí, že uživatel účtu v komentářích sám naznačoval, že by se rád spojil s dalšími podobně smýšlejícími lidmi a chtěl získat další ilegální „materiál“. Ten se ale povedlo pomocí členů neziskové organizace Collective Shout kolektivně nahlásit.
Tyto účty přitom mohou sloužit jako „náhleďáky“. Na takto veřejné síti sdílí obrázky, které jsou relativně v rozmezí pravidel a následně spojí jiným způsobem, kde si předají následně další fotografie. Podle šéfa britské Národní společnosti pro prevenci týrání dětí (NSPCC) Andyho Burrowse to jsou pouze „výlohy“ pro pedofily.
„Společnosti by měly proaktivně identifikovat tento obsah a poté ho samy odstraňovat. Ale i když je jim to nahlášeno, soudí, že pro děti nepředstavuje hrozbu a může na síti zůstat," uvedl.
Problémy s nahlašováním na Instagramu mají i známé ženy
Řešení toxických účtů a komentářů se zdá být pro Instagram poměrně neřešitelným úkolem, což prakticky dokázala i studie britské neziskové organizace Centrum pro boj proti digitální nenávisti (CCDH). Jak jsme tě informovali, organizace identifikovala na síti tzv. „epidemii misogynního chování“.
Dle jejího výstupu ze začátku dubna, v němž participovalo pět veřejně známých žen, je až 90 % nahlášených osobních zpráv na Instagramu kvůli mizogynním narážkám platformou ignorováno. I CCDH volala po větší kontrole sítě ze strany společnosti Meta, která Instagram vlastní. Dosud se však žádná opatření neudála.
