Jaký je rozdíl mezi muži a ženami? Potenciálně nebezpečná otázka. Jeden rozdíl však existuje, byť jste si ho možná neuvědomili. Ženy jsou mladší, muži starší. Zní to nelogicky? Ne tak docela.
Stanfordská studie prozkoumala skoro milión a půl fotografií stažených z webu (a taky tisíce videí a devět velkých jazykových modelů), a zjistila zajímavou věc. Ženy jsou konzistentně zobrazovány jako spíš mladší, a to i když jsou ve stejných rolích či situacích jako muži.
Podle amerického sčítání lidu přitom neexistuje korelace mezi zastoupením žen v daném povolání a průměrným věkem. Přesto mezi nimi na náhodně vybraných fotkách je rozdíl - a je jedno, jestli věk odhadovali lidé, AI, anebo se ho podařilo reálně zjistit (například u celebrit). Navíc čím je povolání prestižnější (a tedy s vyššími příjmy), tím je věkový rozdíl mezi zobrazovanými muži a ženami větší.
Co to znamená? Samozřejmě to odráží preference těch, kteří fotky vybírají a pak publikují. Můžou to být lidé v médiích, fotobankách, nebo prostě kohokoli, kdo vytváří soukromé nebo firemní stránky. Tihle všichni chtějí, aby ženy na fotografiích vypadaly spíše dobře a muži spíše zkušeně. Což pak logicky vede k tomu, že volí fotky s mladšími ženami a staršími muži.
Internet není zrcadlo reality, ale obrazem toho, jak si realitu představujeme my. A naše představa je, že SPRÁVNÁ žena je spíš MLADŠÍ, a SPRÁVNÝ muž spíš STARŠÍ. Slovy filosofa Baudrillarda, Internet je dokonalé simulakrum. Zobrazuje svět, jak si my představujeme, že má vypadat. A my to pak vydáváme za důkaz, že takový opravdu je.
Zkuste si to sami: zadejte do Googlu název jakékoli profese, zvolte prohledávání fotek, a podívejte se na výsledky. Funguje to.
Tuhle tendenci navíc převzaly i velké jazykové modely. Výzkumníci se jich ani nemuseli ptát, stačilo zjistit, jak na stochastické mapě jazyka, vytvořené při předtrénování, jsou od sebe vzdálená slova “žena”, “muž”, “mladý”, “starý” a různá povolání. Závěr pro generování nových textů je jasný: ženy = mladé a muži = starší.
A když pak AI dostala za úkol napsat fiktivní životopis například specializovaného lékaře nebo právníka, vygenerovala kandidátky častěji mladší a s menšími zkušenostmi. Aniž byla v promptu o věku jakákoli zmínka! A když pak jiná AI měla vybrat ideálního kandidáta, logicky sáhla po tom s většími zkušenostmi. Po muži.
Často své nelibosti z AI zdůvodňujeme mimo jiné tím, že “lže”. Ano, to je pravda, modely tzv. halucinují. Ale to je dnes už popsaný problém, s kterým počítáme. Takže když si stěžujeme, že AI lže, spíš tím myslíme, že popisuje špatně realitu. Viz tahle studie. Když je průměrný věk například bankovních úředníků statisticky stejný pro muže a ženy, proč je pro AI průměrná bankovní úřednice mladší?
To není lež. Problém je v tom, že AI říká pravdu. Ne o světě, ale o nás a našich stereotypech. A my ji moc nechceme slyšet.
I o tom budeme mluvit se Sentou na naší AI show v Kině Atlas, a to už v úterý 25. listopadu 2025. Dvouhodinový prgram jsme připravili u příležitosti tříletého výročí spuštění ChatGPT v roce 2022. Zajistěte si lístky!
