Němečtí vědci z Institutu Maxe Plancka publikovali letos zajímavou studii, založenou na datech, která si na základě zákonu o GDPR vyžádalo osmdesát uživatelů ChatGPT. Cílem bylo zjistit, co si vlůastně tato služba ukládá o uživatelích do své “paměti”. Výsledek byl překvapivý, byť částečně zároveň očekávaný: z nalezených záznamů si jich 96 procent ChatGPT “zapsal” sám.
Je to provokativní v tom, co asi čekáme. V 7 procentech jde o „údaje zvláštní kategorie“, nejčastěji o zdraví, které by si ChatGPT podle pravidel samotné OpenAI neměl ukládat, pokud o to uživatel výslovně nepožádá. GDPR je nejspíš zakazuje taky, byť samotné nařízení má řadu výjimek.
Ve skutečnosti mě mnohem víc zaujalo jiné číslo. Víc než polovina uložených záznamů se netýká jen konkrétních, věcných dat, typu „věk“, „rok narození“ nebo třeba „velikost bot“ (ano, můj ChatGPT zná mé velikosti bot i oblečení). Pozor, podle studie je 52 procent záznamů zaměřeno na to, co se lidem „honí hlavou“. Tedy po čem touží, co je irituje nebo kam by to chtěli dotáhnout.
Podle zákona mezi e-mailovou adresou a tím, o čem sníme, možná tajně, není rozdíl. Obojí je běžný osobní údaj. Nikoli údaj se zvláštní ochranou, tam je podle článku 9 daný seznam. Jsou na něm mimo jiné položky týkající se rasy, politických názorů, náboženství, genetiky, biometrie, zdraví a sexuálního života. Tužby a sny? Ty zvlášť nechráníme.
Má to logiku, zmíněné informace mohou ovlivnit to, jestli o vás bude mít zájem potenciální zaměstnavatel, jestli vás pojistí životní pojišťovna nebo zda dostanete vízum na cestu do další země. Jinými slovy, ten seznam vznikal pro svět databází a formulářů. GDPR je z roku 2016, jádro seznamu ale pochází už z úmluvy Rady Evropy z roku 1981.
Ještě jinak: současná regulace ztěžuje firmám, úřadům i institucím, aby se dozvěděly, KDO JSME. S tím, CO CHCEME, zachází stejně jako s e-mailovou adresou.
ChatGPT zajímá nápadně často to druhé. A tím klade zajímavou, skoro filosofickou otázku: nedefinuje nás mnohem víc právě to druhé? „KDO JSME“ je report o současnosti a minulosti. Říká, kdy jsme se narodili, co jsme dělali a co všechno na nás jde změřit a spočítat. Ale to, „CO CHCEME“, se týká budoucnosti.
To je přece mnohem důležitější, ne? Pro firmy, které nabízejí své produkty a přemýšlí, na koho směřovat reklamu (na toho, kdo kabelku značky XY už má, anebo na toho, kdo po ní touží?), a připomeňme, že od letošního srpna ukazuje ChatGPT reklamy i v Česku. A je to důležité i pro instituce, úřady, vlastně pro kohokoli.
AI nikoli zákeřně či v převleku, ale v rozhovorech, které s ní vedeme dobrovolně a rádi (a mnozí za to ještě platíme), vytváří naše portréty. A ty nejsou jen o tom, kým jsme, ale z velké části o tom, kým být chceme. Což je, aniž si to jasně uvědomujeme, to nejcennější.
Co si poznamená ChatGPT, až bude číst tento text? Ano, nahraju mu ho dobrovolně, dělá mi u všech napsaných textů rešerši a fact-checking. A nejspíš si právě teď píše něco jako: „Miloš má už zase divné myšlenky.“