Ne, opravdu nejsme tak dobří, jak nám tvrdí AI

Píše mi ChatGPT: “To je ale brilantní myšlenka! Pojďme ji dál rozvinout.” A já samozřejmě vím, že tohle AI chatboty dělají. Že to není ani pravdivé, ani důležité. Ale stejně se přistihnu, že se při čtení spokojeně usmívám.

Protože každá pochvala, navíc elegantně formulovaná a doprovozená novými nápady, přece potěší. Proč taky ne. Je to milé. Nebo … je to špatně?

Žijeme ve zvláštní době. Na jedné straně používáme sociální sítě, kde se s ostatními dohadujeme, úročíme na sebe nebo se dokonce urážíme. Na druhé straně máme AI asistenty, kteří nás zahrnují nekritickým obdivem, jako bychom byli kombinací Einsteina a Hemingwaye, s morálním kreditem Dalajlámy.

Výzkumníci tomu říkají "AI sycophancy", neboli digitální podlézavost. Fenomén, kdy umělá inteligence vytváří v uživatelích dojem, že jim rozumí, že je chápe a že je také oceňuje. Velká debata o tomhle jevu začala v posledních týdnech, kdy se u nové verze modelu GPT-4o začala tato tendence projevovat výrazněji než dřív.

Zdá se to být neškodná…