Jak velké nebezpečí představuje umělá inteligence? O tom a dalších otázkách jsme se bavili s europoslankyní Markétou Gregorovou, která se dlouhodobě věnuje kyberbezpečnosti a nedávno se jí podařilo zastavit návrh na Chat Control.
Markéta Gregorová v letech 2018 až 2022 působila jako předsedkyně Evropské pirátské strany a od roku 2019 pracuje jako poslankyně v Evropském parlamentu. Ve své práci se už dlouhodobě zaměřuje na kyberbezpečnost a dezinformace. Výrazně se věnuje také tématu umělé inteligence, podařilo se jí zakázat takzvané svlékací aplikace (např. Grok) anebo zastavit Chat Control 1.0.
Co přesně Chat Control znamená a proč je podle ní tak nebezpečný? Jak je naše soukromí na internetu legislativně pokryto a jaký vliv může mít AI na formování politických názorů, zejména u mladých lidí? V rozhovoru pro Refresher nám odpovědi na tyto i další otázky dala právě europoslankyně Markéta Gregorová.
V Evropském parlamentu se intenzivně věnujete digitální legislativě. Kdybyste měla laikovi jednoduše říct, co je aktuálně největší hrozbou pro naše soukromí v online světě, co by to bylo? Kdybych to měla říct úplně na rovinu, tak největší hrozbou jsou momentálně sílící snahy především konzervativních stran o naši absolutní online kontrolu. Pod nejrůznějšími záminkami, jako je bezpečnost nebo ochrana dětí, se totiž čím dál častěji tlačí opatření, která v reálu znamenají totální ztrátu soukromí a svobody. Ať už jde o šmírování našich zpráv a fotek nebo o věkovou verifikaci všech uživatelů, v zásadě nám pomalu mizí právo na anonymitu. Pokud tyto tlaky uspějí, můžeme se se skutečně soukromým prostorem na síti rozloučit. Je to takový ten nenápadný, plíživý konec svobody, který může mít nedozírné následky.
Nedávno se Vám podařilo v Evropském parlamentu návrh na Chat Control zastavit. Můžete stručně vysvětlit, proč je plošné skenování soukromých zpráv tak nebezpečné? Chat Control je v podstatě taková Pandořina skříňka. Jakmile jednou státu dovolíme, aby nám z jakéhokoliv důvodu koukal přes rameno do soukromých zpráv, už to nikdy nevezmeme zpět. Otevírá to nebezpečné dveře ke sledování komunikace pro úplně jakékoli další účely, které si zrovna někdo u moci vymyslí. A je to přesně to, na co čekají autoritářské režimy. Stačí se podívat třeba na Maďarsko – u politiků jako je Viktor Orbán si nemusíme nic nalhávat. Nedivila bych se, kdyby Chat Control okamžitě využil ke sledování svých odpůrců nebo nezávislých novinářů. A to je cesta, kterou prostě nesmíme dopustit.
Jakmile jednou státům dovolíme, aby nám z jakéhokoliv důvodu koukal přes rameno do soukromých zpráv, už to nikdy nevezmeme zpět.
Kde je podle Vás ta správná hranice? Jak můžeme na internetu efektivně bojovat proti nelegálnímu obsahu a chránit zranitelné, aniž bychom museli zavést plošné šmírování všech občanů? Hranice je tam, kde končí podezření a začíná šikana nevinných. Správná cesta není šmírovat všechny, ale podpořit cílené vyšetřování. Policie by samozřejmě měla mít možnost na základě soudního příkazu sledovat konkrétní podezřelé skupiny predátorů a klidně jim i napíchnout komunikaci. To je legitimní práce kriminalistů. Plošné šmírování ale reálně nikomu nepomůže, akorát vygeneruje tisíce „falešných poplachů“, které policii úplně zahltí, a ta pak nemá čas na ty skutečné zločince.
Musíme také tlačit na samotné platformy a zařídit, aby se nelegální obsah k uživatelům ideálně ani nedostal. To může vyřešit například lepší rodičovská kontrola nebo systémy, které nechtěným kontaktům automaticky zabrání. Stejně tak je klíčové sáhnout na doporučovací algoritmy, kvůli kterým jsou dnes děti, ale i dospělí uživatelé, na sítích závislejší víc, než kdy dřív.
Nástroje umělé inteligence se učí na obrovském množství dat, často i našich osobních. Nabízí současná evropská legislativa (jako např. AI Act) dostatečnou ochranu našeho soukromí před těmito systémy? Díky nařízení o ochraně osobních údajů, takzvanému GDPR, mají dnes uživatelé poměrně slušnou ochranu. Firmy by podle těchto pravidel neměly využívat naše osobní data k libovolným účelům. V praxi je ale často obcházejí a kreativně si je vykládají, což je problém. Bohužel tomu současná Evropská komise jde naproti a snaží se prosadit, aby to firmy s učením na našich datech měly ještě jednodušší. Tomu se snažím zabránit. Vámi zmiňovaný AI Act sice přináší určitá pravidla a omezení, ale například u biometrických technologií podle mě nejde dostatečně daleko. Ochrana soukromí musí zůstat prioritou a nesmí ustupovat ve jménu technologického pokroku.
Když se bavíme o etice AI, jedna věc je ochrana dat za života, ale co se stane po něm? Technologičtí giganti už testují AI, která dokáže simulovat naši osobnost i po smrti. Řeší se už na půdě EU, komu vlastně patří naše digitální identita, když tu nebudeme, a jak zabránit jejímu zneužití? To je velmi zajímavá otázka. Z právního hlediska je princip poměrně jasný. Svá data „vlastníme“ v tom smyslu, že dáváme firmám souhlas k jejich využití pro konkrétní účely. A to platí i po naší smrti. Pokud někdo během života souhlasí s tím, že jeho data mohou být využita právě k vytvoření digitální kopie jeho osobnosti, nevidím v tom zásadní problém. Je to podobné jako u jiných rozhodnutí o našem digitálním nebo osobním odkazu. Jako zásadní ale vnímám, aby tento souhlas byl informovaný a uživatel tedy přesně věděl, co vytvoření této jeho digitální identity vlastně obnáší.
Stále více mladých lidí hledá informace a debatuje přímo s AI chatboty. Ti ale mohou být názorově zabarvení. Jak velký vliv to podle Vás může mít na formování jejich politických postojů? Máme k dispozici data, která ukazují, že AI dokáže posouvat politické postoje lidí stejně efektivně jako člověk, a v některých případech – pokud je personalizovaná přímo na míru uživateli – je dokonce o 80 procent úspěšnější než lidé. To může být velký problém především pokud je chatbot naprogramovaný například nejmenovaným miliardářem z USA, který jde na ruku nejmenovanému americkému prezidentovi.
Stále více mladých (ale nejen oni) berou AI jako primární zdroj informací. AI přizpůsobuje obsah na míru, málokdy nás opravuje, a nabízí jedinou autoritativně působící odpověď, to všechno u lidí zvyšuje pocit důvěryhodnosti i bez zdrojů - a mladí ve formativním věku jsou v tomhle obzvlášť zranitelní.
Poprvé v historii tu máme technologii, která dokáže vést individuální politickou debatu s miliony lidí najednou. A to je bezprecedentní zásah do hlavních principů demokracie.
V tom, jak nás ještě více uzavírá do našich bublin a neukazuje nám názory protistrany, jde přímo proti smyslu demokracie. A může to vést k radikalizaci, podobně jako jsme to v minulosti viděli například u různých facebookových skupin. Akorát v ještě větším měřítku: poprvé v historii tu máme technologii, která dokáže vést individuální politickou debatu s miliony lidí najednou. A to je bezprecedentní zásah do hlavních principů demokracie, se kterým se musíme nějak popasovat.
Dá se proti takovým manipulacím vůbec nějak bránit na úrovni systému, nebo už leží zodpovědnost hlavně na samotných uživatelích? Je to hodně o vzdělání. Manipulace, propaganda nebo fake news tu s námi nejsou nově, ale díky AI jsou dnes mnohem rozšířenější, sofistikovanější a hlavně personalizované. O to důležitější je učit lidi informace ověřovat, přemýšlet kriticky a nenechat se snadno ovlivnit. Stejně jako jsme to měli dělat už v době nástupu sociálních sítí.
Zároveň ale odpovědnost nesou i samotné firmy. AI systémy by neměly uživatele manipulovat. Tečka. A evropská legislativa, včetně AI Actu, to dokonce výslovně zakazuje. Například takzvané podprahové manipulační techniky jsou podle těchto pravidel nelegální. AI Act také nastavuje pravidla pro transparentnost, kvalitu dat a bezpečnost, aby firmy nesly jasnou odpovědnost za to, jak své modely vyvíjejí. Uvidíme ale, co z těchto opatření přežije během aktuálního vyjednávání zjednodušování těchto pravidel (tzv. Omnibus).
Objevují se scénáře, například AI 2027, které upozorňují na to, že by pokročilé AI systémy mohly soustředit obrovskou moc do rukou několika málo aktérů. Vnímáte to jako reálné politické riziko? Ano, a podle mě velmi reálné. Už dnes vidíme, že vývoj AI je koncentrovaný v rukou několika velkých hráčů, převážně z USA a Číny. Ti mají obrovskou výhodu v datech, kapitálu i technologickém zázemí. To s sebou nese nejen ekonomické, ale i politické riziko. Pokud má několik málo firem nebo států kontrolu nad klíčovou technologií, která ovlivňuje informace, rozhodování nebo bezpečnost, může to výrazně narušit rovnováhu moci. Proto je důležité, aby Evropa nezůstala pozadu a zároveň nastavovala jasná pravidla.
Když se podíváte do budoucna, co je podle vás největší výzvou pro ochranu soukromí a etiku AI v příštích letech? Jednou z největších výzev bude, jak udržet kontrolu nad našimi daty v době, kdy se AI učí z obrovského množství informací. Dnes máte právo požádat firmu, aby vaše data smazala. Ale co když už na nich byla natrénovaná AI? Problém pak vidím v již zmiňované koncentraci moci jen u pár čínských a amerických hráčů. Firmy, které mají nejvíc dat, mají obrovský náskok. To znamená, že několik firem může určovat, jak AI funguje, co nám ukazuje a jaké informace dostáváme.
A co se stále opakuje, je pak přílišná snaha o bezpečnost. Cesta do pekel bývá dlážděná dobrými úmysly. Ale pokud budeme například zloděje identifikovat pomocí biometrických AI kamer, nutně tak budeme muset identifikovat i všechny ostatní nevinné občany. A to se dá velmi snadno zneužít, podobně jako Chat Control.
Hlavní výzva tedy bude najít rovnováhu mezi tím, aby AI přinášela inovace a bezpečnost, ale zároveň nevedla k tomu, že ztratíme kontrolu nad vlastním soukromím.
