Grok, umělá inteligence Elona Muska, se pod rouškou absolutní svobody slova stal továrnou na digitální ponižování. Kde končí technologický pokrok a začíná spoluvina na predátorském chování?
Aplikace vytvořené pro digitální svlékání bohužel nejsou něčím novým. Zatím se ale skrývaly na pochybných fórech v temných koutech internetu. Jenomže pak přišel Elon Musk a jeho Grok. Funkce, která byla dříve velmi obtížně dostupná, se proměnila v běžnou a je na X nyní přístupná komukoliv, kdo si za ni zaplatí. Stačí pár kliknutí, které mohou znamenat jeden zničený život.
Ze vzorku 20 tisíc obrázků generovaných skrze Grok na přelomu roku 2025 a 2026 vykazovala dvě procenta znaky dětské pornografie
Cenu opět platí ženy a děti
Ačkoliv se titulky médií často zaměřují na technologickou stránku věci, je nutné si přiznat krutou realitu: tyto „prompty“ píší lidé. Zadávají je muži, kteří AI zneužívají k sexualizaci žen a malých dětí. Umělá inteligence se v jejich rukou stala dalším nástrojem k ponižování a zastrašování. To, co dříve vyžadovalo technické dovednosti a pohyb v pochybných koutech internetu, je nyní díky platformě X dostupné komukoliv, kdo je ochoten zaplatit.
Umělá inteligence sama o sobě nemá touhu po dehonestaci žen. Je zrcadlem, které odráží lidskou psychiku svých tvůrců*tvůrkyň a uživatelstva. Pokud Grok chrlí stovky sexualizovaných snímků nezletilých, děje se to, protože existují lidé, kteří mu to vědomě poroučejí. Vina leží v záměru predátora.
Alarmující data
Šíře problému není pouze hypotetická, ale podložená znepokojujícími daty. Podle analýzy od platformy Copyleaks, Grok generuje přibližně jeden nekonsensuální sexualizovaný snímek za minutu. To už bychom mohli označit za masovou produkci. V takovém měřítku je pro lidské moderátory*moderátorky téměř nemožné odstraňovat snímky v reálném čase.
Každý vygenerovaný snímek, každé trauma a strach oběti přispívá do rozpočtu společnosti, jejíž majitel se tváří jako by šlo o nejzábavnější vynález na světě.
Na situaci se zaměřila také organizace AI Forensics. Na co přišla? Ze vzorku 20 tisíc obrázků generovaných skrze Grok na přelomu roku 2025 a 2026 vykazovala dvě procenta znaky dětské pornografie nebo sexualizovaného zobrazení nezletilých. Šlo například o fotky dívek v průhledném oblečení nebo bikinách.
Trh s ponížením za osm dolarů měsíčně
Celá problematika má i mrazivý ekonomický rozměr. Jak jsme již psali, Grok není zdarma. Je součástí předplatného X Premium. To ve zkratce znamená, že platforma X přímo profituje z nástroje, který umožňuje „svlékání“ žen a dětí. Každý vygenerovaný snímek, každé trauma a strach oběti přispívá do rozpočtu společnosti, jejíž majitel se tváří jako by šlo o nejzábavnější vynález na světě.
Musk se hájí tím, že odpovědnost přece nese uživatel*uživatelka. Pokud uživatel*uživatelka vytvoří nelegální obsah, má být trestán on*a, nikoliv poskytovatel*ka nástroje. Jenomže tahle myšlenka je jednoduše nebezpečná a plná alibismu. Je to v podstatě stejné, jako kdyby zbrojovka prodávala automatické zbraně ve volně přístupných automatech a tvrdila, že je na každém jednotlivci, jestli stiskne spoušť.
V případě, že Muskův tým vědomě odstranil filtry, které jeho konkurenti vytvořili pro zvýšení bezpečí, přestává být pouhým poskytovatelem infrastruktury. Stává se technologickým spolupachatelem.
Co na to svět
Reakce na sebe nenechaly dlouho čekat. Velká Británie a Evropská unie (prostřednictvím EU AI Act) požadují po X okamžitou nápravu. Polsko a Francie otevřeně mluví o nutnosti nových zákonů pro digitální bezpečnost.
Pozadu nezůstaly ani Brazílie, Indie a Malajsie, kde se zahájilo vyšetřování platformy kvůli obavám z masového šíření NCII (nekonsensuálního sexualizovaného obsahu), který v těchto kulturách nese extrémně ničivé společenské následky.
Když nejsou v bezpečí ani Muskovi nejbližší
Fakt, že se technologie vymkla kontrole, se dá ilustrovat na případu Ashley St Clair, matky jednoho z dětí Elona Muska. Právě tato žena se stala jednou z obětí. Uživatelé využili Grok k tomu, aby vytvořili její pornografické deepfakes. Útočníci sexualizovali také její fotky z dětství, kdy jí bylo pouhých 14 let.
St Clair v rozhovoru pro The Guardian popsala své pocity a upozornila na to, že platforma X odmítala tyto snímky odstranit po dobu několika hodin, čímž umožnila jejich masové šíření.
Nemůžeme ignorovat varovné signály. Pokud technologičtí magnáti odmítají přijmout morální odpovědnost za nástroje, které vypouštějí do světa, musí nastoupit tvrdá regulace. Skutečným měřítkem pokroku totiž není to, co všechno AI dokáže vygenerovat, ale to, zda nás jako společnost činí bezpečnějšími.
