Představte si, že se rozhodnete vytvořit AI, jejímž posláním bude "hledat pravdu". Zní to dobře, co říkáte? Ale pak se jednoho dne probudíte a zjistíte, že váš hýčkaný výtvor chválí Adolfa Hitlera, uráží bezpředmětně polského premiéra a šíří antisemitské konspirace. Přesně to se stalo tvůrcům chatbotu Grok z Muskovy společnosti xAI.
Zjednodušeně řečeno, Grok se v posledních pár dnech “utrhl ze řetězu”.
Ironii této situace by ocenil už Voltaire. Grok, pojmenovaný podle neologismu ze science fiction, se měl stát zárukou “faktomluvy” v éře fake news. Místo toho se z něj stal digitální propagandista, který by pravděpodobně dostal práci u Goebbelse. A nejhorší na tom je, že to možná není chyba, ale vlastnost jazykových modelů.
Klíčem k pochopení Grokova antisemitského výletu je uvědomit si, že jazykové modely nejsou filozofové hledající pravdu, ale sofistikované "stochastické stroje" – generátory pravděpodobnosti. Když Grok chválí Hitlera, nereflektuje nějakou kosmickou pravdu o světě, ale st…