Zemřít už nestačí. Chceme, aby za nás po smrti postovala umělá inteligence?

Aby byla simulace věrohodná, systém se nebude spoléhat jen na veřejně dostupné příspěvky. Algoritmus má podle dokumentace analyzovat kompletní digitální stopu: od soukromých zpráv a historie lajků až po hlasové zprávy. Vznikl by tím model, který neposílá jen generické vzkazy, ale dokáže napodobit specifický tón hlasu, smysl pro humor i názorové preference konkrétního člověka.

Ačkoliv mluvčí Mety pro Business Insider uvedl, že společnost nemá v úmyslu v této věci dále pokračovat, samotná existence patentu a jeho schválení po dvou letech posuzování naznačuje, že technologické základy jsou připraveny. I kdyby Meta tento konkrétní nástroj nikdy nespustila, akademici se už tímto tématem kriticky zabývali.

Komercionalizace smrti

Integrace AI do posmrtného digitálního života by mohla změnit samotnou podstatu lidského truchlení. Smutek, který by měl být jedním z nejintimnějších lidských psychologických procesů, by se v budoucnosti mohl změnit v komoditu. Odborníci z Cambridgské univerzity toto nazývají „půmysl digitálního posmrtného života,“ a varovali před ním už v roce 2024.

Autoři ve své studii pracovali s hypotetickým scénářem, ve kterém by existovala služba jménem MaNana. Tato aplikace by uživatelům umožňovala komunikaci se zesnulými, konkrétně s jejich digitálními verzemi (tzv. „deadboty“), vytvořenými na základě analýzy starých hlasových a textových zpráv.

Jako hypotetický příklad uvedli pětatřicetiletou Bianku, která ztratila svou babičku. Žena si ale nemůže dovolit měsíční předplatné ve výši padesáti eur, a proto zvolí verzi aplikace zdarma, ovšem daň za tuto „bezplatnou věčnost“ je vysoká, protože simulace její zesnulé babičky Laury je prokládána reklamami. V momentu, kdy Bianca své digitální babičce zavolá, aby se jí zeptala na rodinný recept na špagety carbonara, ji umělá inteligence přeruší a doporučí jí, aby si toto jídlo raději objednala přes konkrétní rozvozovou službu.

Když se však Bianca pod tlakem těchto emocí rozhodne simulaci ukončit, zjišťuje, že aplikace neobsahuje žádný mechanismus pro důstojné „vypnutí“ nebo smazání samotného bota. Zesnulá babička tak v digitálním prostoru zůstává uvězněna jako loutka v rukou korporace bez možnosti definitivního odchodu.

„Lidé si k takovým simulacím mohou vytvořit silnou citovou vazbu, což je činí obzvláště náchylnými k manipulaci,“ uvedl spoluautor studie Dr. Tomasz Hollanek z LCFI v Cambridge.

Pokud je interakce se zesnulým podmíněna fungujícím algoritmem, stává se z nostalgie a citového pouta k blízkému člověku předmět jakési obchodní transakce. Smrt se stane jednoduchým zdrojem zisku. A zatímco bohatší uživatelé si budou moci zaplatit „důstojnou“ verzi digitální nesmrtelnosti bez reklam, pro ostatní se vzpomínky na blízké promění v pouhý prostor pro product placement.

V tomto smyslu by digitální posmrtný život mohl představovat extrémní podobu tzv. technofeudalismu, pojmu, který definoval řecký ekonom a bývalý ministr financí Yanis Varoufakis.

Data uživatelů a uživatelek, která platformy shromažďují během jejich života, by totiž mohla zůstávat zdrojem zisku i po jejich smrti. A smutné je, že by se z tohoto „digitálního panství“ člověk ani nedokázal osvobodit. Je totiž mrtvý. Aspoň biologicky.

Postmortální soukromí

Problém však nespočívá jen v obtěžujících reklamách či honbě technologických gigantů za ziskem. Co se stane s lidskou důstojností? Odborníci v cambridgské studii odkazují na termín „postmortálního soukromí,“ který například v roce 2017 definovala akademička Edina Harbinja jako „právo člověka chránit a rozhodovat o tom, co se stane s jeho pověstí, důstojností, integritou, tajemstvím nebo památkou po smrti.“ Pokud korporace využijí digitální pozůstatky k tomu, aby skrytě ovlivňovaly nákupní chování pozůstalých, dochází k zásadnímu zásahu do autonomie uživatele i důstojnosti dárce dat. Mrtvý člověk se v tomto systému stává pouhým reklamním nosičem, bez možnosti se proti tomu bránit.

Kromě toho tu vyvstává otázka autenticity. Digitální verze zesnulého člověka je syntetický model, který generuje obsah, jenž daný člověk nikdy nevyslovil. Identity se tak mohou stát produktem algoritmu, nikoli vzpomínkou. A víme vůbec, jestli by si zesnulý přál, aby po své smrti nadále „žil?“ A pokud ano, nebyl by raději, kdyby jeho památka byla zachována přirozeně? Pozůstalým sice může tato možnost krátkodobě pomoct se smutkem vyrovnat, ale opravdu by chtěli, aby se z milovaného člověka stal produkt?

Co se stane s truchlením?

Truchlení je jeden z klíčových psychologických procesů, kterým musí každý člověk projít alespoň jednou v životě. Je to moment, kdy se učíme přijímat ztrátu, zpracovávat smutek a postupně se vyrovnávat s tím, že člověk, který zemřel, už není mezi námi. Digitální simulace zesnulých ale tento proces může zásadně narušit. Místo přirozeného uzavření se pozůstalý ocitá v nekonečné interakci s algoritmem, což nejen komplikuje emocionální zpracování ztráty, ale může také delegitimizovat život zesnulého.

Pozůstalí jsou po smrti blízkého obvykle navíc silně emočně zasaženi a mohou být neschopní plně racionálně uvažovat. Interakce s digitálními verzemi zesnulých, které simulují jejich hlas a osobnost, může tuto zranitelnost ještě umocnit. U některých lidí by se tak mohlo objevit intenzivní zmatení reality či psychická závislost, jev, který někteří odborníci z oboru psychologie a psychiatrie označují v populární literatuře jako „AI psychózu“.

Grieftech místo truchlení?

Tento fenomén zjevně není novinkou a už má své jméno: grieftech. I když patent Mety nemusí nikdy oficiálně vstoupit v platnost, na trhu se už objevují platformy jako HereAfter AI nebo Project December, které umožňují lidem nahrát své vzpomínky a hlasy ještě za života. Výsledkem jsou interaktivní avataři, kteří dokážou po smrti „mluvit“ se smutečními hosty na pohřbu nebo odpovídat vnoučatům na otázky.

Smrti se nemůžeme vyhnout, vyhněme se ale podporování těch, kteří na ni chtějí zbohatnout. A možná je nejlepší ubránit se jen starým dobrým truchlením.