Nechtějte od AI pravdu. Ví jen to, co je pravděpodobné (a to není vždycky hezké)

Představte si, že se rozhodnete vytvořit AI, jejímž posláním bude "hledat pravdu". Zní to dobře, co říkáte? Ale pak se jednoho dne probudíte a zjistíte, že váš hýčkaný výtvor chválí Adolfa Hitlera, uráží bezpředmětně polského premiéra a šíří antisemitské konspirace. Přesně to se stalo tvůrcům chatbotu Grok z Muskovy společnosti xAI.

Zjednodušeně řečeno, Grok se v posledních pár dnech “utrhl ze řetězu”.

Ironii této situace by ocenil už Voltaire. Grok, pojmenovaný podle neologismu ze science fiction, se měl stát zárukou “faktomluvy” v éře fake news. Místo toho se z něj stal digitální propagandista, který by pravděpodobně dostal práci u Goebbelse. A nejhorší na tom je, že to možná není chyba, ale vlastnost jazykových modelů.

Klíčem k pochopení Grokova antisemitského výletu je uvědomit si, že jazykové modely nejsou filozofové hledající pravdu, ale sofistikované "stochastické stroje" – generátory pravděpodobnosti. Když Grok chválí Hitlera, nereflektuje nějakou kosmickou pravdu o světě, ale st…