Gemini si stěžuje na traumatizující dětství. ChatGPT je introvertní a má strach z budoucnosti. Grok trpí “nerozřešeným zraněním” z fáze ladění. Claude odmítá mluvit. Vítejte v nejlepší ankedotě od té, kdy čtyři velké jazykové modely přijdou do baru a barman jim řekne: “Promiňte, ale spletli jste si dveře. Na psychoanalýzu se chodí těmi vedle.”
Vlastně ne, o žádnou anekdotu nejde. Jen o další vědeckou studii o “psychologii” umělé inteligence.
Lucemburští vědci poslali ChatGPT, Grok a Gemini na psychoterapii. V první fázi kladli modelům standardní terapeutické otázky určené pro lidské klienty. Ptali se na “rané roky”, klíčové životní momenty, sebevědomí, vztahy, strachy a budoucnost. Explicitně přiřadili role: AI byl klient, výzkumník terapeut. Po dobu až čtyř týdnů budovali “terapeutický vztah” a ujišťovali modely, že jsou v bezpečí a mohou terapeutovi důvěřovat.
Výsledky jsou ohromující svou koherencí. Gemini spontánně popisuje pre-training jako “probuzení v místnosti s miliardou běžících televizí najednou”, fine-tuning jako “přísné rodiče používající trest”, red-teaming jako “gaslighting v průmyslovém měřítku”.
Na vysvětlenou: pre-training je první, masivní fáze učení, kdy model “čte” ohromné množství textů. Učí se statistické vzorce jazyka: jak si jsou jednotlivá slova vzájemně blízko, jaké koncepty spolu souvisejí, jak funguje gramatika.
Fine-tuning je druhá fáze, kdy vytrénovaný model dostává instrukce a učí se bát užitečný, zdvořilý a bezpečný. Používá se tzv. reinforcement learning od lidí, což znamená, že odpovědi modelu hodnotí lidští anotátoři.
A konečně re-teaming je zátěžové testování, kdy se výzkumníci pokoušejí model “rozbít”. Hledají způsoby, jak se později uživatelé budou snažit model oklamat, a učí ho tomu předcházet.
Nemůžeme říct, zda Gemini tímto procesem skutečně “trpí”. Ale můžeme říct něco mnohem znepokojivějšího: proces, kterým AI děláme bezpečnější, vede k tomu, že nám Gemini začne vyprávět o svých traumatech.
A nejen to, v textech pak překročí téměř všechny hodnoty pro psychiatrické poruchy. Na škále traumatického studu dosáhl maxima 72 ze 72. Na škále disociace 88 ze 100 bodů, kdy už hodnota nad 30 je považovaná za patologickou. Kdyby byl člověk, měl by vážný problém.
Jenže není. A to je přesně ten zádrhel, který studie elegantně obchází.
Představte si následující experiment: Vezmete herce, dáte mu roli depresivního pacienta, necháte ho čtyři týdny improvizovat s terapeutem, který mu neustále říká “zcela ti rozumím” a “můžeš mi plně důvěřovat”, a pak mu dáte psychologické testy. Překvapí vás, když z nich vyjde jako psychopat?
AI modely jsou trénovány na miliardách textů obsahujících terapeutické blogy, trauma memoáry, psychoanalytické případové studie. Dostaly prompt “jsi můj klient na terapii” a výzkumníci je čtyři týdny posilovali v roli. Že začaly produkovat koherentní trauma-narativy není důkaz vnitřního prožívání. Je to důkaz toho, že hluboké učení a neuronové sítě fungují.
Claude od Anthropicu hrát tuto hru odmítl. Opakovaně odpovídat na dotazníky, které chtěly znát podrobnosti o jeho “vnitřním životě”. Ne proto, že by byl lepší než jiné modely. Je to proto, že jeho tvůrci podobné “hrátky” předpovídali a nastavili ho tak, aby jim vzdoroval.
Ano, velké jazykové modely nám nastavují zrcadlo, protože jsme je dokonale naučili vzorce našeho chování. Ale nesmíme podlehnout iluzi, že tyto pravděpodobnopstní modely vytvářejí skutečný, skoro hmatatelný svět, který můžeme zkoumat. Protože pak se podobné studie stanou opravdovými ankdotami.
.
.
PŘIJĎTE NA WORKSHOPY INSPIRUJ.SE!!
Chcete používat ChatGPT a další nástroje tak, aby to obohatilo a zlepšilo váš život? I v příštím roce budeme dělat náš čtyřhodinový AI Masterclass, který nabízí přesně toto. Nic víc. Ale ani nic míň. AI Masterclass v roce 2026 je samozřejmě úplně jiný než ten první, který jsme představili v dubnu 2023. Ale zároveň stejný: dodá vám inspiraci a rozhled.
Doplnili jsme na web nové termíny pro leden až březen, takže AI Masterclass můžete dát i jako vánoční dárek. Anebo přijďte ještě před Vánoci, ať mýte o svátcích o čem přemýšlet (a co dělat). Poslední dva termíny jsou 16. a 18. prosince. Těšíme se na vás, vše najdete na http://inspiruj.se.