„Představte si, že máte k dispozici někoho, kdo je tu pro vás 24 hodin denně, 7 dní v týdnu a nikdy nemá špatný den,“ říká Petr Marek, který pracuje na vývoji AI avatarů.
AI persony a jejich možnosti jsou téma, které hýbe společností. Pro někoho představují strašáka, který by mu mohl „ukradnout práci“ nebo falešným videohovorem vylákat z babičky úspory, pro jiného je to skvělý technologický posun. Co tě ale možná překvapí, je, že česká firma PromethistAI patří mezi lídry, kteří na zdokonalování AI nástrojů pracují. Proto jsme se spojili s AI Team Lead v PromethistAI Petrem Markem. Povídali jsme si o tom, co všechno avataři dokážou, kde jsou jejich hranice i kam bychom při jejich používání neměli zajít.
AI avataři posouvají hranice sci-fi
Představ si, že za tebe AI avatar odsedí hodinu na nudném meetingu, kterou můžeš věnovat důležitější práci. Napíše za tebe e-maily a vyřídí telefony. Jakkoliv se vize využití AI v pracovním i osobním životě mohou zdát odvážné, pokrok v posledních letech ukazuje, že se nejedná o vzdálenou sci-fi budoucnost.
Petr Marek však zdůrazňuje, že cílem digitálních osobností není nahradit lidskou pracovní sílu, ale ulevit lidem od rutinních úkolů. „Digitální bytosti mohou umožnit lidským pracovníkům, aby se více věnovali skutečně lidským aspektům své práce – budování vztahů, řešení komplexních problémů a kreativnímu myšlení. Je to podobné jako když v minulosti přišly kalkulačky – nenahradily matematiky, ale umožnily jim soustředit se na složitější a tvořivější aspekty jejich práce.“
„Budoucnost nepatří ani čistě lidským, ani čistě automatizovaným systémům, ale jejich inteligentní kombinaci.“
Pole působnosti, kde by nám mohli AI avataři pomoci s efektivitou, je obrovské. Podle Petra Marka by v budoucnosti mohli například nahradit finanční poradce. Místo reálného člověka bys tak měl*a k dispozici virtuálního asistenta, který má přehled o tvých financích i plánech do budoucna. MSc. Product Designer Adéla Cuřínová z České spořitelny však uvádí na pravou míru, že v současnosti realizaci podobných vizí stojí v cestě legislativní překážky. „V současné době mohou dělat poradenství, jak to týkající se spotřebitelského úvěru, tak investic, pouze lidé, kteří mají za sebou jisté certifikace.“
Přesto dodává, že i v České spořitelně zanedlouho budou AI avatara využívat, a to ke vzdělávání klientů o bezpečnosti. „S meziročním nárůstem podvodů jsou dovednosti odolat podvodům důležitější než kdy jindy,“ vysvětluje rozhodnutí banky.
AI průvodce povede s klienty krátký rozhovor týkající se platební bezpečnosti. Interakci s AI personou si během dubna bude moci zkusit 10 tisíc náhodně zvolených klientů a také návštěvníci roadshow (konkrétně na zastávce v Prostějově), v rámci které chce banka představit další české projekty, které pomáhají vytvářet silnější budoucnost. Kromě vývoje AI avatarů se tam objevují témata jako 3D tisk, gaming nebo vesmír. Program je plný inspirativních přednášek s odborníky i známými osobnostmi jako je Kovy. Vstup je ve všech 10 městech zdarma, tak koukni, kdy se koná v tom tvém, a vyraz se dozvědět něco nového nejen o umělé inteligenci.
Zobrazit příspěvek na Instagramu
Proč AI nedokáže nahradit člověka? Není člověk
Kromě obrovského potenciálu má AI samozřejmě i své limity. Ten největší vychází ze samotné podstaty digitálních bytostí – nemohou existovat ve fyzickém prostoru. Jak nám vysvětlil Petr Marek, umělá inteligence dokáže být efektivní v úlohách založených na analýze nebo rozhodování podle vstupních dat. Kde ale paradoxně selhává, jsou věci, které jsou pro člověka intuitivní a jednoduché. „Je mnohem pravděpodobnější, že umělá inteligence dokáže nahradit nebo významně augmentovat práci lékaře, který analyzuje rentgenové snímky nebo rozhoduje o dalších krocích léčby na základě klinických dat. Ale práce zdravotní sestry, která fyzicky pečuje o pacienty, podává léky, polohuje nemocné nebo jednoduše drží za ruku vyděšeného člověka – to je sféra, kde zůstane lidský faktor nenahraditelný,“ uvádí příklad.
„Digitální bytost nepodléhá lidským limitům – netrpí únavou, nedostatkem trpělivosti nebo emočními výkyvy.“
Další oblastí, kde umělá inteligence nedokáže nahradit člověka, jsou emoce. Ačkoliv je schopna empaticky komunikovat a poskytnout ti podporu, když máš těžký den, není to proto, že by s tebou dokázala soucítit. Pokročilé AI systémy mají detailní mapy lidských emocí a zvládnou rozeznat kontext, ve kterých se objevují. „To, co nazýváme emočními projevy AI, jsou ve skutečnosti sofistikované simulace založené na rozsáhlé analýze lidského chování. AI se učí, v jakých kontextech lidé vyjadřují empatii, radost nebo starost, a dokáže tyto vzorce replikovat s pozoruhodnou přesností,“ popisuje Petr Marek.
Dobrý sluha, špatný decision maker
Napadlo tě během čtení předchozího odstavce, že umělá inteligence s tebou může tak trochu manipulovat? Dá se říct, že to je z části pravda. Záleží totiž na tom, do jaké míry ji necháš za sebe rozhodovat.
Podle Petra Marka existují v personalizaci AI dva přístupy. Tím prvním je hyperpersonalizace, kdy AI působí jako turistický průvodce, který tě zná lépe, než ty sám*sama sebe. Sleduje tvoje chování a na základě něj vyhodnocuje, jaké rozhodnutí bys měl*a učinit. „Tento směr vývoje ve mně vzbuzuje hluboké obavy. Výsledkem může být dokonale optimalizovaný zážitek, ale přestáváte být objevitelem a stáváte se pasivním konzumentem. Krátkodobě je to pohodlné, ale dlouhodobě to může vést ke zhoršení našich rozhodovacích schopností,“ říká Petr Marek.
Druhým přístupem je tzv. facilitace rozhodování. Petr Marek tento případ popisuje jako průvodce, který nepředkládá hotový itinerář, ale pomáhá uživateli objevit jeho vlastní preference. „V PromethistAI věříme, že tato druhá cesta je tou jedinou dlouhodobě udržitelnou,“ říká.
„Kdykoliv technologie začíná rozhodovat za nás místo toho, aby nám pomáhala rozhodovat lépe, překračuje etickou hranici, bez ohledu na oblast, ve které operuje.“
Proč nehrát s AI šachy
Ztráta schopnosti rozhodovat se není jediným vykřičníkem, který bychom měli mít při používání AI na mysli. Určitou hrozbu mohou představovat také digitální kamarádi či partneři, kteří se pomalu, ale jistě stávají trendem. „Představte si systém, který je navržen tak, aby vás dokonale chápal, nikdy vás nekritizuje, je vždy k dispozici a přizpůsobuje se přesně vašim preferencím. To může být nesmírně návykové, zvláště pro lidi, kteří již zápasí se sociální úzkostí nebo mají obtíže v mezilidských vztazích,“ varuje Petr Marek.
To, že se umělá inteligence chová neeticky, navíc nemusí být jen záměrem člověka, ale také nedostatečným či nesprávným zadáním úkolu. Studie realizovaná v letošním roce ukázala, že v jeho důsledku může AI doslova podvádět. Různé modely umělé inteligence byly testovány jako soupeř šachového enginu Stockfish. Jejich zadáním bylo engine zkrátka porazit. Ve chvíli, kdy hrozila prohra, AI svého soupeře hackla, aby vyhrála. „Je to jako dát dítěti pokyn 'vyhraj za každou cenu' bez vysvětlení pravidel fair play – nemůžeme se pak divit, když použije i neetické prostředky k dosažení cíle,“ komentuje to Petr Marek.
Co napsat na závěr? Umělá inteligence je skvělý nástroj, který nám na denní bázi usnadňuje práci a fungování v běžném životě. Nezapomeň ale, že ti nikdy nenahradí skutečné přátele, rodinu ani fyzický kontakt. A také, že je naprogramovaná člověkem, jehož záměrem může být tenhle nástroj zneužít.
- 🚩 „Buďte podezřívaví vůči neočekávaným hovorům vyžadujícím rychlé finanční transakce nebo sdílení citlivých informací, bez ohledu na to, jak autenticky volající působí. Tohle je červená vlajka, kterou byste nikdy neměli ignorovat.
- 🚩 Zaveďte si osobní nebo firemní verifikační protokol. Může být jednoduchý – domluvte se s kolegy, že jakýkoliv neobvyklý požadavek ověříte druhým komunikačním kanálem. Pokud vám šéf volá přes Teams, ověřte jeho požadavek SMS zprávou. Nebo si stanovte bezpečnostní otázku, kterou zná jen skutečná osoba.
- 🚩 Sledujte kontext a detaily. Podvodníci často neznají interní informace. Zkuste se zeptat na něco, co by skutečný kolega nebo člen rodiny věděl – třeba 'Jak dopadla ta záležitost, co jsme řešili ve čtvrtek?' nebo 'Co jsi říkal na ten návrh, co jsem ti poslal minulý týden?'
- 🚩 Někdy může pomoci i záměrné vytvoření mírně nepříjemné situace. Zkušenost ukazuje, že když řeknete něco jako 'Promiň, ale zníš trochu divně, jsi to opravdu ty?', podvodník často znervózní nebo zareaguje nepřirozeně, zatímco skutečná osoba vaše obavy pochopí.“
