Nerovnosti mezi muži a ženami se týkají i používání AI. Ženy jsou za její používání častěji penalizovány a více než muži si hlídají své soukromí. Sabotováním AI ale trpí jejich kariéry a prohlubuje se genderový bias AI systémů.
Nejprestižnější manažerská škola světa, Harvard Business School, vydala metastudii, podle které ženy používají AI o čtvrtinu méně než muži. Na internetu se okamžitě rozjely spekulace o tom, že pokud ženy muže „nedoženou“, utrpí tím jejich kariéry, budou pomalejší než kolegové, kteří AI k práci používají, anebo je AI v práci úplně nahradí. Jsou snad ženy oproti mužům pozadu, nebo nerozumí novým technologiím?
Problém je složitější, než se na první pohled zdá. Ženy totiž nejsou oproti mužům v používání AI pozadu. Správně vytušily, že při jejím používání platí dvojí metr.
V práci jsou ženy za používání AI penalizovány disproporčně více než muži.
Harvard Business School vloni vydala výzkum, ve kterém účastníci, rozděleni do dvou skupin, porovnávali dva naprosto identické softwarové kódy. První skupině výzkumníci řekli, že kód s pomocí AI napsala žena – inženýrka. Druhé, že stejný kód napsal s pomocí AI muž – inženýr.
Studie ukázala jasný dvojitý standard: „Když si účastníci studie mysleli, že kód s pomocí AI psala žena, zpochybňovali její základní schopnosti mnohem více než ti, kteří si mysleli, že ho napsal muž.“
„Zejména mužští respondenti odsuzovali inženýrky tvrději než inženýry. Za stejnou práci zhotovenou s pomocí AI je penalizovali o 26 procent více než muže,“ píše se ve studii. Ženy, které používají AI, aby si ulehčily práci, jsou viděny jako nekompetentní. Muži, kteří dělají to samé, jsou viděni jako pragmatici.
Kromě zvýšeného rizika penalizace mají ženy také mnohem větší pocit vlastní odpovědnosti. Ženy jsou ve studiích opakovaně více eco-conscious než muži, a tak častěji AI odmítají kvůli starostem o životní prostředí. Odrazují je ale také etické otázky.
Ženy dominují na poli etiky umělé inteligence
Přestože muži tvoří naprostou většinu vývojářů AI, ženy aktuálně vládnou jinému novému oboru: etice a zodpovědné implementaci umělé inteligence.
Problémy, které AI představuje pro klima nebo pro pracovní trh, jsou ve veřejné debatě velmi diskutované. Existují ale i tvůrci a hlavně tvůrkyně, které jdou v informování více do hloubky a diskutují etické problémy a mocenské struktury, které za AI stojí.
Jsou to převážně právě ženy, které na svých sociálních sítích upozorňují na rizika oligarchizace technologického sektoru a na to, jak nadnárodní společnosti s obrovskou mocí a silnými lobby posouvají hranice soukromí uživatelů. Často jsou to právě ženy, které informují veřejnost o tom, jak firmy nakládají s jejich osobními daty a co to znamená pro jejich bezpečí, a tlačí na mezinárodní politické organizace, aby AI a sběr dat regulovaly. A mezi jejich diváky se řadí převážně jiné ženy.
Na otázku proč se nabízí zřejmá odpověď. Ženy jsou totiž zvyklé starat se o své soukromí a bezpečí i v offline světě, a kdykoliv přijde nová technologie, která může být využita proti nim, jsou skeptické. A tohoto trendu si dokonce všímají už i nadnárodní korporace, které AI vyvíjejí.
Šmírovací brýle ve slay rebrandu pro holky
Snad možná nejvýstižnějším případem je nedávný collab Mety s Kylie Jenner. Koncem června společnost Meta spustila předprodej nových AI brýlí, na jejichž designu se podílela právě osmadvacetiletá influencerka. Nové modely brýlí „pro holky“ mají trendy tvar, ozdobný kamínek v čočce a dokonce i mluví hlasem Kylie Jenner, který tě každý den pozdraví ikonickou hláškou „rise and shine“. Jsou hravé, módní a cool.
Šlo o brilantně promyšlený krizový management.
Meta brýle se zabudovaným AI asistentem se staly téměř symbolem v boji proti technologiím, které jsou využívány na úkor žen, i proti masovému monitoringu populace technologickými giganty (na který často upozorňují ženy z pole AI etiky).
Téměř okamžitě po vydání Meta brýlí se na webu začala objevovat videa žen, které zřejmě nevědí, že je někdo s pomocí chytrých brýlí natáčí. Muži brýle používají na natáčení žen v choulostivých situacích, při balení na ulici, nebo někdy i následných konfrontacích. Brýle totiž fungují velmi dobře jako skrytá kamera – mají sice LED diodu, která se rozsvítí při natáčení, ta se dá ale jednoduše odpojit. Většina problematických videí je pořízena nekonsenzuálně a může být publikována za účelem zesměšnění vyobrazených žen na sociálních sítích.
Ženy na sítích reagovaly na enormní množství videí velmi kriticky. Objevují se například vyjádření, že už nevěří žádnému muži, kterého vidí na veřejnosti s Ray-Bany. Ve Švýcarsku dokonce proti brýlím vznikla petice.
Monitoring populace je míň scary, když sluší Kardashiance
Technologický web WIRED začátkem června navíc zjistil, že společnost Meta tajně vložila do aplikace Meta AI neveřejný kód, který by umožňoval biometrické rozpoznávání obličejů s pomocí chytrých brýlí. Kód dokázal použít snímky obličejů pořízené za pomoci brýlí pro identifikaci kolemjdoucích a zjistit například jejich jméno, nebo upozornit uživatele, že se nachází v blízkosti někoho, koho znají. Po silné vlně kritiky Meta tuto funkci nenápadně odstranila v updatu aplikace.
Právě proto Meta při rebrandu sáhla po bez debat největší it-girl poslední dekády. Její image je pro relaunch Meta brýlí perfektní. Kylie je cool, jde s dobou, určuje trendy, a navíc je to Kardashianka – patří k rodině, kterou si lidé kvůli mnohým mediálním aférám nespojují s kdovíjakým ideálem inteligence. Meta se pomocí slavné it-girl Kylie Jenner snaží brýle, které o nás sbírají enormní množství dat, představit jako trendy tech módní doplněk.
Ženy se nemají ptát, kdo je může natáčet a kdo ví, kde se pohybují. Mají se ptát, jestli jsou cool. Jak bychom se přece mohli bát trendy brýlí, které nám každý den řeknou „rise and shine“ hlasem Kardashianky?
AI má gender bias a čím méně ji budou používat ženy, tím bude větší
Sabotovat AI ale není odpověď. Kromě toho, že skeptici mohou pro svůj pocit poctivosti zaostávat za kolegy a kolegyněmi, kteří si umělou inteligencí usnadňují nebo urychlují práci, se objevuje také rozsáhlejší globální problém gender biasu samotných modelů AI.
AI se trénuje na již existujících datech. Ta mají momentálně genderový bias. To, že je AI sexistická, je dobře zdokumentovaný fenomén, kterému se věnují vědecké studie i nadnárodní organizace, jako OSN. Pokud se například jazykový model používaný náboráři ke screeningu životopisů učí na textech, ve kterých jsou často zmiňovaní lékaři a zdravotní sestry (a ne třeba lékařky a zdravotní sestry), systém se automaticky naučí, že na pozici lékaře se lépe hodí mužští kandidáti a na pozici sester kandidátky.
AI se ale učí neustále i tím, jak ji uživatelé a uživatelky používají a co do ní zadávají. Pokud tedy ženy nebudou AI používat, nebo z obav o své soukromí zakážou AI učení, jazykový model nedostane jejich input a přijde o trénovací data vložená z ženské perspektivy, nebo popisující ženské životní zkušenosti.
Kruh se tak uzavírá sám v sobě: čím méně žen bude AI používat, tím více biased data model dostane, tím hůř bude ženy reprezentovat a chápat, a tím méně důvodů budou mít ženy důvod modelu důvěřovat.
Jak s problémem naložit?
Řešení tohoto problému ale neleží jen v rukou žen, které AI používají nebo nepoužívají. Leží především u firem, které tyto technologie vyvíjejí. Ty by měly už před nasazením modelu auditovat trénovací data na bias, ne čekat, až si ho někdo všimne. Pomohla by i větší diverzita v týmech, které AI produkty navrhují a testují, protože tým složený převážně z mužů možná nemusí mít tak rozsáhlou žitou zkušenost s různými způsoby narušování soukromí, které se ženám dějí, a proto si nemusí tak jednoduše představit všechny možné slabiny jejich produktů.
Druhá rovina je regulace. Problém není v tom, že by si nadnárodní instituce genderového biasu nebyly vědomy. Dlouhodobě se mu věnuje například OSN, i orgány Evropské unie. Problém je v rychlosti, jakou regulace reaguje na vývoj technologií. Předpisy jako evropský AI Act jsou kroky správným směrem, ale bez reálného dohledu nad jejich dodržováním zůstávají spíš gestem než skutečnou ochranou.
Třetí, možná nejobtížnější rovina je ta, kterou žádný zákon nevyřeší sám – firemní kultura a dvojí metr, který studie Harvard Business School tak jasně pojmenovala. Pokud firmy tak zaníceně propagují používání AI mezi svými zaměstnanci, měly by si také všímat, jestli jejich používání hodnotí rovně.
A pak je tu otázka, co můžeme jako ženy dělat teď. Přes všechny etické a ekologické starosti se zřejmě nevyhneme rozšiřování AI. Jsme svědky procesu, ve kterém se rodí nový systém práce a tvorby, a pokud se jeho zrodu nemůžeme vyhnout, ženy u něj musí být přítomny.
Je to nefér nárok. Ale dokud se systém nezmění, každá žena, která AI používá, aktivně přispívá k tomu, aby model časem o něco lépe odrážel i její perspektivu.
