Stačí pár kliknutí a vznikne explicitní fotka nebo video.
Přezdívá se jim obnažovací boti a na platformě Telegram se jich objevilo minimálně 50. Odhalili to novináři z magazínu Wired. Je však patrné, že jich ve skutečnosti existuje ještě mnohem více, což není vůbec pozitivní zjištění.
Něco podobného začalo už před sedmi lety. Tenkrát magazín Vice (dříve Motherboard) objevil video, ve kterém byla tvář izraelské herečky Gal Gadot vložena do existujícího pornografického videa, aby to působilo tak, že je součástí aktů. Tím vypukla mánie deepfake botů.
Momentálně boti nejvíce odstraňují oblečení z existujících fotek. Tím, že je o to zájem, se z toho stal nemalý zdroj příjmů. Jedná se o hluboce neetické využívání umělé inteligence. A vede to k otázkám ohledně soukromí a objektifikace žen nebo také sexuálního zneužívání dětí. Nemluvě o tom, jakou další újmu to obětem způsobí.
Jak se proti tomu bojuje?
V rámci boje proti zneužívání USA navrhly legislativu v podobě zákona o odpovědnosti za deepfaky – tzv. Deepfake Accountability Act. A určité platformy jako třeba Google zakázaly nedobrovolné syntetické pornografické záběry ve výsledcích vyhledávání.
Vede to i k zamyšlení, jestli člověku vůbec stojí za to zveřejňovat fotografie sebe či svých blízkých. Doba jde dopředu, v tomto případě negativním způsobem, a je třeba to brát v potaz. Fotografie totiž mohou být použity k trénování modelů umělé inteligence nebo právě k vytváření deepfake.
