Antiextremističtí experti každodenně objevují další várky videí AI zeleniny, která vypadají jako brainrotové klipy, ale často jsou plné nenávisti, násilí, ale i možné propagandy teroristických skupin.
Odborníci z organizace Global Network on Extremism and Technology (GNET) zjistili, že některé profily přetvořily tento trend v agresivní videa cílící na šokování diváků. Jak uvádí zpráva GNET, tvůrci k maskování zneklidňujícího obsahu často využívají pestré barvy, kreslené postavičky a animaci připomínající dětské pohádky.
Pouhé brutální násilí ale není jediný content, který výzkumníci z GNETu odhalili. Spousta dalších profilů tvoří i obsah s podtextem rasismu, extremismu a kartelového chování, převedeného na vztahy mezi různými druhy zeleniny. V jednom záběru například promlouvá „mrkvový chalífa“ ke svému „vojsku“ a tvrdí, že „Mrkvový stát opět povstane“, čímž přímo evokuje neblaze proslulé heslo „Islámský stát opět povstane“. Průzkum navíc ukázal, že oba klipy byly na TikToku sdíleny s hashtagy, které k šíření propagandy běžně používají právě stoupenci Islámského státu.
„Je zřejmé, že platformy využívající generativní umělou inteligenci představují klíčový nástroj pro vytváření virálního obsahu na internetu, včetně násilného a extremistického obsahu, jak je patrné z výše uvedených případů. Materiály s násilnou tematikou, které vznikají za pomoci umělé inteligence, jsou snadno dostupné, což vystavuje nezletilé a mládež riziku, že nechtěně narazí na drastický nebo znepokojující obsah,“ stojí v závěru studie a autoři přidávají apel: „Je nezbytné, aby společnost TikTok vyvinula protiopatření zahrnující účinné nástroje k omezení šíření takového obsahu generovaného umělou inteligencí na platformě. V dnešní době, kdy dochází k rozsáhlému šíření nástrojů a prostředků umělé inteligence, je nezbytné, aby poskytovatelé umělé inteligence vyvinuli proaktivní monitorovací systémy a dále omezili využívání těchto technologií k vytváření obsahu souvisejícího s násilím a extremismem.“
