AI Audit: Grok 2 je první top chatbot AI, který nemá zábrany. A zdá se, že Elon Musk se skvěle baví

Další vydání newsletteru je tady.

Je tu pravidelná dávka novinek, zajímavostí a tipů z generativní AI. Hezké čtení!

.

Ahoj, Gemini, stalo se něco? Máš dneska hrozně naštvaný hlas!

Google představuje výrazně vylepšeného hlasového asistenta Gemini Live, který zní stejně přirozeně jako člověk, píše Wall Street Journal. Nabízí to, co už na jaře slíbila OpenAI s modelem GPT-4o, ale zatím to běžným uživatelům “nedoručila”. Tedy plynulou a srozumitelnou konverzaci, ve které například budou hrát roli i tón či síla hlasu.

Gemini Live bude dostupný na nových telefonech Pixel 9 a v aplikaci Gemini pro Android za měsíční předplatné 20 dolarů. Později by se měli dočkat i majitelé iPhonů. Podle šéfa Androidu Ricka Osterloha je Gemini Live navržen tak, aby komunikoval jako skutečný člověk, s nízkou latencí a rychlými odpověďmi.

Asistent zvládá přirozenou konverzaci včetně přerušování a upřesňování. Umí poradit s přípravou jídla nebo procvičit otázky na pohovor. Má však i omezení - zatím neumí ovládat funkce telefonu (třeba nastavení budíku nebo ztlumení zvonění). Google plánuje tyto schopnosti přidat.

Nové Pixely získají i další AI funkce jako automatické přidávání osob do skupinových fotek nebo sumarizaci telefonních hovorů. Osterloh zdůrazňuje, že cílem není umožnit lidem, aby navázaly se svými telefony vztah (jak známe ze sci-fi filmů), ale vytvořit užitečného asistenta pro efektivnější práci.

Google konečně začíná předbíhat konkurenci, zatím to bylo vždycky spíš naopak. Telefony Pixel 9 by měly být i v Česku k dispozici do konce příštího týdnu. No a pak můžeme sledovat, zda uživatelé mají o tenhle druh komunikace s telefony či obecně AI zájem, a jak to ovlivní naše chování. Sci-fi je tady! Čtěte víc.

.

Elonův Grok-2 vám udělá obrázek opravdu čehokoli, co budete chtít. Je to tak správně, anebo nejbohatší muž světa prostě pokračuje ve svém trollení?

Společnost xAI Elona Muska představila nové verze chatbota Grok s vylepšenými schopnostmi a možností generovat obrázky přímo na platformě X. Grok-2 a jeho menší varianta Grok-2 mini nabízejí kromě pokročilého chatování a programování také tvorbu obrázků pomocí AI modelu Flux 1 od Black Forest Lab.

Mimochodem: Flux je skvělý a už několik dní je k dispozici i na jiných platformách. Midjourney dostala opravdu těžké soupěře.

Avšak zpátky na platformu X: nová funkce však vzbudila obavy z potenciálního zneužití. Uživatelé již sdílejí kontroverzní obrázky politických osobností vytvořené Grokem, včetně Donalda Trumpa, Baracka Obamy či třeba samotného Elona Muska. Vše nasvědčuje tomu, že nemají žádný “vodoznak” ani nejsou jinak tajně označeny jako AI obrázky.

Experti upozorňují na riziko šíření dezinformací, zejména v kontextu nadcházejících voleb. Společnost X zatím na dotazy ohledně restrikcí neodpověděla.

Grok-2 je nyní v beta verzi dostupný pro prémiové předplatitele X, širší veřejnosti by měl být zpřístupněn ještě tento měsíc. Muskova xAI označuje nový model za "intuitivnější, lépe ovladatelný a všestrannější", než byl jeho předchůdce. Čtěte víc.

.

Co takhle dát si předvolební deepfake? Šéf americké FEC (komise dohlížející na férovost voleb) říká, že regulace AI není v její kompetenci

Federální volební komise (FEC) asi nebude zavádět nová pravidla pro používání AI v politické reklamě před nadcházejícími volbami v USA. Serveru Axios to již minulý týden řekl předseda FEC Sean Cooksey a vyvolalo to velkou debatu. Svůj názor pak Cooksey ještě zformuloval pro komentář v deníku Wall Street Journal.

Argumentuje, že FEC nemá k regulaci AI v politické sféře ani potřebnou pravomoc, ani odborné znalosti. Tvrdí, že stávající pravidla jsou dostačující a že případná nová omezení by mohla narušit svobodu projevu a bránit inovacím. Podle něj by měl Kongres nejprve poskytnout jasnější směr, než se FEC pustí do regulace této rychle se vyvíjející technologie.

Stanovisko šéfa FEC ovšem vyvolává kontroverze. Kritici, jako například organizace Public Citizen, varují před nebezpečím neregulovaného používání AI v politických kampaních a označují postoj FEC za "ostudné zřeknutí se odpovědnosti". Demokratická komisařka FEC Ellen Weintraub nesouhlasí s Cookseym a věří, že komise má pravomoc a měla by regulaci zavést.

Situace tak zůstává nejasná, přičemž regulace AI v politické reklamě je ponechána na dobrovolných krocích technologických společností a na Kongresu, který zatím v této oblasti nepřijal žádnou legislativu. To může mít významný dopad na nadcházející volby. Komentátoři i mnozí politici už dlouho varují před nebezpečím, které představují deepfakes  i další manipulativní obsah.

Cooksey říká, že by se nemělo regulovat jen pro regulaci samotnou, zejména u inovativních technologií, které mohou být přínosem pro všechny. FEC bude o jeho návrhu ukončit regulační proces AI hlasovat 15. srpna. Čtěte jeho celý komentář.

.

Odvolávám, co jsem odvolal. Bývalý šéf Google Eric Schmidt bere zpět svá slova o tom, že práce na dálku poškozuje Google v závodě o AI. Mnozí však s původním tvrzením souhlasí

Schmidt na dubnové přednášce na Stanfordu řekl: “Google se rozhodl, že mít rovnováhu mezi pracovním a soukromým životem, chodit brzo domů a pracovat na dálku je důležitější než vyhrávat. Ale důvod, proč startupy fungují, je ten, že lidé pracují jako o život.“

Po zveřejnění záznamu však Google napsal v emailu redakci Wall Street Journal, že se “špatně vyjádřil”. Navzdory tomu se však řada jiných lidí z technologické branže vyjadřuje podobně. 

• Sam Altman z OpenAI označil plnou práci na dálku za jeden z "nejhorších omylů".

• Marc Benioff ze Salesforce zdůrazňuje potřebu práci z domova a v kanceláři kombinovat.

• Mark Zuckerberg z Mety tvrdí, že zaměstnanci pracující z domova nejsou efektivní.

• Elon Musk z Tesly dokonce označil práci na dálku za "morálně špatnou".

Nicméně, výzkumy o dopadu práce na dálku na produktivitu nejsou jednoznačné. Některé ukazují nárůst produktivity, jiné naopak negativní dopad. Jedna metaanalýza většího množství studií z Oxfordské univerzity však naznačuje, že osobní přítomnost v zaměstnání je přínosná pro inovace.

Debata tak zůstává otevřená, technologičtí lídři se však přiklánějí spíše k návratu do kanceláří. Čtěte víc.

.

Míň chytré, než jsme si mysleli? Nová studie zpochybňuje to, že LLM dokážou dělat i to, co je nikdo nenaučil

Hodně se o tom mluvilo v loňském roce: že velké jazykové modely mají tzv. emergentní schopnosti, které se objevují až u velmi velkých modelů, a umožňují jim uvažovat a učit se podobně jako člověk. 

Nová studie naznačuje, že tyto schopnosti nejsou žádný “zázrak”, ale že jsou výsledkem kombinace učení v kontextu (in-context learning), paměti modelu a lingvistických vlastností. Jinými slovy, jazykové modely umějí “uvažovat” jen v rámci toho, co si “přečetly” v tréninkové sadě, ale - zjednodušeně řečeno - nevymyslí nic nového, byť odvozeného. 

Mají tedy spíše formální lingvistické schopnosti (například porozumění gramatice), nikoli funkční lingvistické (skuečné uvažování, sociální inteligence). To následně může vysvětlit, proč v něčem LLMs excelují, ale v jiných úkolech (často pro nás lidi jednodušších) naopak znatelně selhávají. 

Studie by mohla být považovaná jako argument pro to, že velké jazykové modely NEPŘEDSTAVUJÍ existenciální riziko a že je není třeba přísně regulovat. Uvidíme, jde o jednu studii z mnoha, definitivní pohled na technologii LLM to skoro jistě není. Čtěte celou studii.

PLUS, zde je pět doporučení, která vyplývají ze studie pro to, jak efektivně využívat velké jazykové modely:

.

Turingův test byl původně pouze myšlenkový experiment. Skutečný “test” inteligence počítačů jsme z něj udělali až dodatečně. Je to správné?

Byl navržen Alanem Turingem v roce 1950 jako myšlenkový experiment k posouzení, zda stroje mohou "myslet". Spočívá v tom, že si lidský hodnotitel vyměňuje texty s počítačem a člověkem, a snaží se určit, který je který. Turing chtěl tímto myšlenkovým experimentem zpochybnit předsudek, že stroje  kvůli své mechanické povaze nemohou myslet.

V posledních letech se objevily zprávy, že moderní chatboty jako ChatGPT a Claude konečně prošly Turingovým testem. A to tím, že údajně dokážou v krátkých konverzacích přesvědčit značnou část lidských hodnotitelů, že jsou lidé. Nicméně v AI komunitě panují neshody ohledně kritérií pro úspěšné absolvování testu a pochybnosti o tom, zda konverzační dovednosti opravdu odhalují skutečnou inteligenci.

Původní Turingův test zahrnoval tři účastníky - počítač, člověka a lidského hodnotitele. Turing předpověděl, že do 50 let (od roku 1950) bude možné naprogramovat počítače tak, aby v 5minutovém testu oklamaly 30% hodnotitelů. 

Význam termínu "Turingův test" se v průběhu let posunul k jakékoli interakci mezi člověkem a počítačem, kde počítač působí dostatečně lidsky. Nedávná studie použila "dvouhráčovou formulaci" testu, kde každý hodnotitel interagoval buď s počítačem, nebo s člověkem, nikoli s oběma. V této studii byl GPT-4 posouzen jako člověk v 54% případů, zatímco skuteční lidé byli posouzeni jako lidé v 67% případů.

Mnozí výzkumníci AI považují Turingův test za rozptýlení, protože se zaměřuje spíše na oklamání lidí než na skutečné testování inteligence. Historie AI ukázala, že úkoly, které se kdysi považovaly za známku obecné inteligence (jako hraní šachů), mohou být prováděny stroji bez skutečného porozumění. Podobně Ani plynulá konverzace nemusí nutně znamenat obecnou inteligenci.

Neurovědní výzkum naznačuje, že jazykové schopnosti v mozku jsou překvapivě oddělené od sítí zodpovědných za zdravý rozum, uvažování a další aspekty "myšlení", píše časopis Science. To zpochybňuje intuitivní předpoklad, že plynulý jazyk je dostačující podmínkou pro obecnou inteligenci. 

Ačkoli Turing předpovídal, že na konci 20. století budeme moci mluvit o "myslících strojích" bez námitek, stále tomu tak není. Je možné, že skutečnou změnou bude naše nové chápání toho, co vlastně znamená "myslet" - a uvědomění si, že inteligence je komplexnější a subtilnější, než Turing i my ostatní předpokládali. Čtěte víc.

.

Chcete být napřed a v obraze? Rezervujte si místo na našich workshopech a dalších akcích

• 21. srpna, 9:00 - 13:00, AI MASTERCLASS (VYPRODÁNO)

• 4. září, 9:00 - 13:00, AI MASTERCLASS

• 9. září, 17:00 - 21:00, KREATIVITA s AI

• 12. září, 9:00 - 12:00, AI LEGAL

• 20. září, 13:00 - 17:00, AI MASTERCLASS

• 24. září, 18:00 - 21:00, INVENTURA AI

• 7. října, 17:00 - 21:00, KREATIVITA s AI

• 4. října, 9:00 - 13:00, AI LEADERSHIP

• 10. října 13:00 - 17:00, AI MASTERCLASS (VŠE)

• 11. října, 9:00 - 13:00, AI MASTERCLASS

• 21. října, 17:00 - 21:00, AI MASTERCLASS

• 22. října, 18:00 - 21:00, INVENTURA AI