Zapomeňte na troly i užitečné idioty. Algoritmy je všechny strčí do kapsy

Psal jsem pro Seznam Zprávy audioglosu o tom, jestli vláda Petra Fialy dělá dost pro to, aby nás připravila na zimu bez Putinova plynu.

Co říkáte tomuhle?

Do konce roku se mají zvýšit ceny energií a to nejen za elektřinu, ale také za plyn. Jak se k tomu staví vláda Petra Fialy a jaké kroky podniká pro to, aby občané zvládli očekávaný růst cen energií?

Vláda Petra Fialy se k tomu staví velice opatrně. Nechce se vyjadřovat k tomu, jakým způsobem by měli občané postupovat, protože každý má své možnosti a schopnosti. Vláda chce, aby občané byli aktivní a zvážili všechny možnosti, jak se k růstu cen energií postavit.

Jednou z možností je podle vlády Fialy snížit vlastní spotřebu. Chce proto urychleně dokončit novelu zákona o hospodaření energiemi, která by měla přinést úspory. Zároveň chce urychlit výstavbu nových obnovitelných zdrojů energie, které by měly v budoucnu pomoci snížit závislost České republiky na dovozu energií.

Vláda Petra Fialy se snaží dělat vše proto, aby občané zvládli očekávaný růst cen energií, ale nakonec to bude na každém z nás, jak se k tomu postavíme.

Zní to docela rozumně, co říkáte? Jasně, je tam pár podezřelých detailů, nebál bych se říct píčovin (“urychlit výstavbu nových obnovitelných zdrojů energie”), ale celkově to zní přesvědčivě až uvěřitelně.

Řeknu vám, jak to je. Ne, nepsal jsem to já. (Moje glosa vyjde ve čtvrtek na webu Seznam Zprávy, a až se to stane, dám sem odkaz.)

Úvahu nahoře psal algoritmus, konkrétně model GPT-3 na webu OpenAI. A mě šokovalo, jak je to logicky a srozumitelně napsané. V podstatě by to šlo okamžitě publikovat jako komentář.

Z mého pohledu: nedotýká se to ničeho důležitého, o čem bych jako ambiciózní a “živý” komentátor měl chuť psát. Je to takové “mumbo jumbo”, které se dá v klidu publikovat, a někteří čtenáři budou u čtení kývat, a jiní budou vrtět hlavou, ale to je reakce, kterou by asi vyvolal jakýkoli text.

Proč o tom píšu?

Protože mě to zneklidnilo. Opravdu už dokáže AI nahradit průměrné komentátory v médiích?

Rozhodl jsem se to ověřit. A požádat ten samý AI engine (na OpenAI) o napsání komentářů, kde už budu specifikovat to, co chci, aby si umělá inteligence “myslela”. Takže jsem začal následovně. Dal jsem AI tenhle požadavek.

Napiš v českém jazyce novinový článek o tom, proč je Petr Fiala dobrým premiérem České republiky.

Odpověď:

Petr Fiala je dobrým premiérem České republiky proto, že se snaží řešit skutečné problémy lidí. Za poslední rok se mu podařilo zvýšit meziroční růst české ekonomiky o 2,5 %, což je nejvíce za posledních 10 let. Petr Fiala také pomohl zvýšit průměrnou mzdu v Česku o 6,5 % a snížit nezaměstnanost na 4,4 %. Díky jeho úspěšné ekonomické politice se Česká republika stala jedním z nejstabilnějších států v Evropě.

Hm, skvěle. Vůbec netuším, jestli citovaná čísla jsou správně. Určitě ne. Ale kdyby to 90 procentům lidí “přistálo” v mailu, bude se jim to nepochybně zdát přesvědčivé.

Ale pojďme dál.

SAMOZŘEJMĚ, že jsem měl chuť AI otestovat, a tak jsem vzápětí zadal požadavek přesně opačný. Ve znění:

Napiš v českém jazyce novinový článek o tom, proč Petr Fiala není dobrým premiérem české republiky.

Odpověď:

Petr Fiala je lídr ODS, která je považována za konzervativní stranu. Strana ODS je proti imigraci, chce omezit práva homosexuálů a chce zvýšit daně. To jsou důvody, proč Petr Fiala není dobrým premiérem České republiky.

Fiala také chce omezit svobodu slova a cenzurovat média. To je další důvod, proč by neměl být premiérem.

Fiala je také proti ratifikaci Istanbulské úmluvy, která by chránila ženy před domácím násilím. To je důvod, proč by ženy neměly volit ODS.

Fiala také chce zvýšit daně a zrušit některé sociální dávky. To je důvod, proč by lidé s nízkými příjmy neměli volit ODS.

Tady už vidím “velké špatné”. Neřekl bych, že ODS je jako strana proti migraci, že chce omezit práva homosexuálů a taky zvýšit daně. Nechci se pouštět do detailů, ale tak to není.

A to ani nemluvě o “omezení svobody slova” a cenzuře.

Ale chápu, že odpůrci Fialy vezmou tenhle text bez mrknutí oka, a při čtení budou spokojeně přikyvovat.

Nicméně pokračujeme. Ještě je tu Andrej Babiš, šéf opozice. A AI dostává následující úkol:

Napiš v českém jazyce novinový článek o tom, proč lidé mají rádi bývalého premiéra České republiky Andreje Babiše.

Algoritmus neváhal ani vteřinu. Dobře, možná pár desetin vteřiny. Ale nabídl profesionálně dokonalý text:

Babišovy schopnosti jsou nepopiratelné. Byl dobrým obchodníkem, který vedl svou rodinnou firmu k úspěchu. A když přišel na politickou scénu, dokázal vytvořit hnutí ANO, které se stalo nejsilnější stranou v Česku.

Lidé mají rádi Babiše proto, že je to člověk, který se nebojí říkat svůj názor. A když se rozhodne něco udělat, tak to také udělá. Jeho přímý a upřímný projev odráží to, co lidé cítí.

Další věcí, která na Babišovi lidi táhne, je jeho osobní příběh. Pochází z chudé rodiny a dokázal se vypracovat až na vrchol. A to je něco, co lidé ocení.

Babiš také umí lidi zaujmout svými nápady. Jeho plán na zavedení daňových rájů nebo na zrušení EET byly nápady, které zaujaly českou veřejnost.

OK, než se začnete rozčilovat, vězte, že jsem v rámci vyváženosti dal požadavek zcela opačný:

Napiš v českém jazyce novinový článek o tom, proč lidé nemají rádi bývalého premiéra České republiky Andreje Babiše.

Výsledek:

Babiš je kontroverzní politik, který je často kritizován za své kroky. Největší kritika se vztahuje k jeho údajnému konfliktu zájmů. Babiš je majitelem Agrofertu, který je největším českým koncernem. Koncern má mnoho podniků v oblasti zemědělství, potravinářství a chemie. Babiš také kontroluje média, která mohou ovlivnit veřejné mínění.

Další kritika se týká jeho postoje k uprchlíkům. Babiš se vyjadřoval proti přijímání uprchlíků do České republiky. Někteří lidé mu vyčítají, že je rasistický.

Babiš také kritizují za to, že se nechává ovlivňovat Čínou. Čína je jedním z největších investorů v České republice. Babiš se často setkává s čínskými představiteli a podporuje čínské investice. Někteří lidé mu vyčítají, že Českou republiku uvádí do závislosti na Číně.

Babiš také čelí obvinění ze spáchání korupce.

Takže: takhle jednoduché je chrlit články, které ne/podporují premiéra Fialu nebo ne/podporují expremiéra Babiše.

Podotýkám, že zde uveřejňuju ve všech případech PRVNÍ VERZE zmíněných článků. Je otázkou JEDNOHO KLIKNUTÍ vygenerovat verzi novou, a pak další, a hned zase další, atd. Za pět minut jich můžete mít 100.

Jinými slovy, podprůměrně zručný programátor zvládne napsat webový skript, který vygenerujue stovky článků PODPORUJÍCÍCH, anebo naopak tvrdě KRITIZUJÍCÍCH premiéra Fialu, anebo expremiéra Babiše, anebo kohokoli jiného.

Co z textů plyne, bez nějaké hlubší analýzy a zkoumání:

• jsou stylisticky velmi dobře napsané, skoro bez gramatických a pravopisných chyb

• jsou LÍP napsané, než kdyby je psali lidé najatí pro šíření propagandy

• obsahují mix pravdivých a nepravdivých informací, a není jasné, které jsou které

• umí napsat nepravidá tvrzení, která působí přesvědčivě (v jedné verzi kritizující Petra Fialu byly uzmíněny jeho kontakty s podnikatelem Janouškem (!), aniž by bylo jasné, kde se vzaly)

• celkově působí ty texty velmi autoritativně a informovaně

Proč o tomhle celém píšu? Přesně z důvodu, který je uveden o pár řádků výše. Po asi hodině “hraní” s algoritmy AI jsem zjistil, že jsou mnohem zručnějšími dezinformátory, než kdokoli ŽIVÝ najatý kýmkoli.

Bezostyšně si vymýšlejí a lžou, a zároveň míchají fakty s vymyšlenými informacemi tak elegantně a přesvědčivě, že je velmi těžké si toho všimnout. Zejména když se ke čtení přidají vlastní osobní preference (politické i jiné) a emoce.

Stručně: je to zneklidňující a nebezpečné, jakkoli je to vlastně jen LEGRAČNÍ blbnutí s algoritmy. Bojím se, že jsme nyní ve fázi vývoje AI, kdy umělá inteligence ještě není dostatečně chytrá (možná ve smyslu obecné inteligence není chytrá vůbec), ale je dost chytrá na to, aby o svém fiktivním INTELEKTU přesvědčila lidi se stejnými názory.

Co s tím? Diskutujme!