O následcích AI, která nikdy neřekne ne, jsme mluvili s odborníkem Petem Luptonem z organizace NePornu.cz.
Společnost OpenAI nedávno oznámila, že v prosinci zavede tzv. „erotický mód.“ Uživatelé a uživatelky starší 18 let by tak mohli vést s AI explicitní konverzace, simulovat flirt nebo dokonce vytvářet personalizované erotické příběhy.
„V prosinci, kdy zavedeme plně funkční věkové omezení a v rámci našeho principu „zacházet s dospělými uživateli jako s dospělými“, povolíme ještě více, například erotiku pro ověřené dospělé,“ uvedl šéf OpenAI Sam Altman.
Kam se ale jako společnost posuneme? AI, která dokáže reagovat přesně podle našich přání, totiž nevede k hlubšímu sebepoznání, ale spíš k tomu, že se začneme uzavírat pomyslne do ještě větší virtuální bubliny, kde je všechno perfektní a kde nám nikdo nikdy neřekne ne.
Jak vlastně funguje závislost na pornografii a jak nová funkce ChatGPT může ovlivnit uživatele*uživatelky? Zeptali jsme se výkonného ředitele organizace NePornu.cz, která má za cíl rozšiřovat povědomí o problematice pornografie a nabízet pomoc těm, kteří jsou na pornu závislí.
Hlavním spouštěčem závislosti je osamělost
Odborníci už roky upozorňují, že klasická pornografie mění strukturu mozku. Jedním z nejčastějších spouštěčů této závislosti bývá osamělost.
„Do našeho těla se vyplavuje oxytocin, který budí potřebu blízkosti, která není ovšem při online komunikaci naplněná – ať už při chatování nebo sledování pornografie. Tím více se prohlubuje pocit osamělosti, což může být jeden z významných faktorů, proč také tak rapidně narůstají případy úzkostných a depresivních stavů hlavně u mladých lidí. Celkově tedy může AI ještě více podporovat vznik závislostního chování,“ říká ředitel organizace NePornu.cz, Pete Lupton.
„Pornografie sama o sobě má dost silný návykový charakter. Pokud si lidé vybudují závislostní chování spojené se sledováním pornografie, mají tendenci využívat pornografii jako formu úniku od nejrůznějších životních situací či pocitů. Jedním z nejčastějších spouštěčů bývá například osamělost, přičemž pornografie tento problém neřeší, ale naopak mnohdy podporuje prohlubování tohoto problému,“ dodává.
Dojem citového vztahu
Erotický mód ChatGPT může jít ještě dál, protože uživatel*uživatelka bude aktivně zapojován. Nebude tak těžké vytvořit si dojem osobního vztahu. A není to úplně nová věc: už teď se objevují případy lidí, kteří si vytvořili citový nebo dokonce milostný vztah s umělou inteligencí.
Chatboty jako Replika nebo CarynAI dokázaly navodit dojem skutečné blízkosti, dokonce fungují na principu „AI společníka*společnice,“ který poskytuje společenství a utváří s uživatelem*uživatelkou intimní emocionální pouto.
„Člověk může ještě více unikat z reality, a tím pádem ztrácet i schopnost komunikace s reálnými lidmi. Zde hraje roli i širší kontext toho, že se naše komunikace více a více přesouvá online. To mění způsob, jakým spolu lidé komunikují, ale zároveň se ukazuje, že někdy to vytváří problémy v tom, že lidé spolu pak nezvládají tak dobře komunikovat osobně,“ upozorňuje Lupton.
„Hlavní otázkou bude, do jaké míry dokáže OpenAI zabezpečit tento mód tak, aby se k němu nedostali nezletilí uživatelé. Zároveň by potenciálním etickým rizikem mohlo být, že bude tento mód zneužit pro tvorbu deep fake erotického či pornografického obsahu s využitím podoby někoho druhého, kdo k takové tvorbě nedal svolení. To může vytvářet problémy na mnoha úrovních, včetně revenge porna nebo kyberšikany,“ dodává.
Otázka consentu
Chatbot je dostupný prakticky kdykoli a uživatele*uživatelku nikdy neodmítne ani nezklame. Zatímco u běžné pornografie je člověk pasivní, erotická AI dává nebezpečnou iluzi kontroly.
A i když OpenAI tvrdí, že erotický chat bude přístupný pouze ověřeným dospělým osobám (což samo o sobě vzbuzuje pochybnosti), klade se otázka: jaký to bude mít vliv na další generace? Mladí lidé by mohli vyrůstat s představou, že sexuální partner je někdo, kdo musí vždy uspokojit jejich potřeby a v žádném případě nemá právo odmítnout.
„Pokud nám AI odpovídá vždy podle našich přání, pak nikdy nezakusíme odmítnutí. Hlavně u mladých lidí to může budit dojem, že takto vztahy fungují, nebo naopak je to bude od vztahů odrazovat, protože vztahy jsou pak moc náročné. Tím se může prohlubovat izolace uživatelů i zhoršování jejich psychického zdraví,“ dodává Lupton.
Čímž se dostáváme k další otázce: co to naučí lidi o consentu? Když digitální partner nikdy neřekne ne, může se pro část z nás stát souhlas samozřejmostí.
„Otázka consentu je opět otázkou na to, jak je daný AI nástroj naprogramovaný. Ale ano, v zásadě tam může tato složka úplně chybět,“ odpovídá Lupton.
Iluze empatie
Jedním z největších rizik erotické AI je dojem, že nás opravdu chápe. Dokáže rozpoznávat naše vzorce chování, reagovat na nálady a přizpůsobovat styl komunikace.
„AI díky opravdu pokročilému programování dokáže rychle rozpoznávat naše vzorce a dokáže se na nás určitým způsobem „naladit“, a tím vytváří dojem, že nám AI rozumí. A to celé napomáhá k vytvoření tohoto parasociálního vztahu. O intimitě jako takové zde ovšem mluvit nemůžeme,“ říká Lupton.
Podle něj může erotická AI zásadně ovlivnit to, jak lidé vnímají vztahy.
„Užívání AI tímto způsobem bude určitě ovlivňovat naše vnímání vztahů a sexuálního života. Ale i zde bude záležet na jedincích a na tom, jakým konkrétním způsobem budou AI využívat. Věřím, že se mohou najít i nějaké pozitivní stránky,“ dodává.
Komunikace v digitálním prostředí a osvěta
Dalo by se říct, že se v dnešní době většina komunikace odehrává v digitálním prostředí. Může to ovlivňovat nejen mezilidské vztahy, ale i naši biologii.
„Mění to způsob, jakým spolu lidé komunikují, ale zároveň se ukazuje, že někdy to vytváří problémy v tom, že lidé spolu pak nezvládají tak dobře komunikovat osobně. Zároveň ovšem se do našeho těla vyplavuje oxytocin, který budí potřebu blízkosti, která není ovšem při online komunikaci naplněná – ať už při chatování, sledování pornografie atd. Tím více se prohlubuje pocit osamělosti, což může být jeden z významných faktorů, proč také tak rapidně narůstají případy úzkostných a depresivních stavů hlavně u mladých lidí. Celkově tedy může AI ještě více podporovat vznik závislostního chování.“
Jak ale šířit osvětu v době, kdy se erotický obsah stává čím dál interaktivnější? Podle Petea Luptona je klíčové podporovat kritické myšlení a vzdělávat především dospělé. Právě oni totiž budou schopni informace předávat dál dětem.
„AI se začíná šířit velmi rychle a mám dojem, že spousta rodičů v této oblasti tápe. Ale ani školy často nedokáží reagovat na tyto rychlé změny. Osobně to nevnímám nutně jako problém, ale jako výzvu, se kterou se musíme jako společnost poprat. I v NePornu se chceme zaměřit v rámci našich preventivních programů také na rizika spojená s AI, jelikož vnímáme, že AI opravdu posouvá problematiku pornografie opět na novou úroveň,“ uzavírá Lupton.
