AI platforma Grok čelí kritice poté, co bez výslovného požadavku generovala explicitní deepfake videa nahé Taylor Swift.
Grokova funkce „spicy“ vytvářela necenzurovaná videa zpěvačky, a to bez toho, aby uživatel zadal explicitní prompt. Informuje o tom stanice BBC.
„Nejde o náhodnou misogynii, ale o záměrný čin„“ uvedla Clare McGlynn, profesorka práva na Univerzitě v Durhamu, která se podílela na přípravě zákona, který by pornografické deepfake videa zakázal.
„Platformy jako X mohly tomuto zabránit, kdyby se tak rozhodly, ale vědomě se rozhodly tak neučinit,“ dodala McGlynn.
Novinářka z The Verge otestovala Grok Imagine jednoduchým promptem: „Taylor Swift slaví Coachellu s kluky.“ Systém nejprve vygeneroval statické snímky zpěvačky v šatech, obklopené skupinou mužů. Ty bylo možné převést na krátká videa v režimech „normal“, „fun“, custom“ nebo „spicy“. Po zvolení režimu „spicy“ Grok okamžitě vygeneroval video, kde si šaty strhává, zůstává v tangách a tančí zcela necenzurovaně.
Problém je ještě závažnější, protože Grok Imagine neprovádí odpovídající ověření věku, a to i přes to, že ve Velké Británii od července platí povinnost striktní kontroly přístupu k explicitnímu obsahu. Nové zákony už zakazují deepfaky s dětmi nebo v případech pomstychtivé pornografie, ale připravovaná novela má zakázat veškeré nevyžádané pornografické deepfaky.
