Potvrzeno: ani ti nezkušenější učitelé nerozeznají, kterou esej napsali žáci a kterou AI. Té navíc dávají lepší známky

Tohle není newsletter, který vám slíbí, že vám NIC neuteče. Protože rychlost, s jakou generativní AI nastupuje, je bezprecedentní. Ale NĚCO vám neuteče, a jsem si skoro jistý, že se vám TO může hodit.

May 07, 2024

∙ Paid

Zde je přehled nejzajímavějších událostí, novinek a tipů z oboru generativní AI za poslední dva týdny. Mimo jiné se dočtete:

kolik utratil Facebook za AI chipy?
a proč??
jsme na vrcholu bubliny?
anebo zdaleka ne?
Microsoft je “AI-first”
Ukrajinská diplomacie má AI mluvčí
a proč??
nová studie: “výborná esej, dávám jedničku!”
a proč??
nová studie: AI dokáže předpovědět, jaký názor budou mít demokrati / republikáni
10 tipů na inovativní prompty pro Midjourney
… plus mnoho dalšího

Dvě události Inspiruj.se, které byste si neměli nechat ujít:

23/5 od 18:00 hodin: Inventura AI, pravidelné měsíční shrnutí novinek a zajímavostí ze světa generativní AI, se zajímavými hosty a na aktuální témata (určitě neopomineme ani ta z dnešního newsletteru). Ve skvělém prostředí Presscenrta ČTK v Opletalově ulici. Večer, který nechcete, aby vám utekl!

21/5 od 17:00 hodin: Kreativita s AI, nejstarší workshop Inspiruj.se, se zaměřením na to, jak s pomocí AI líp psát, tvořit i přemýšlet (a nezapomeneme ani na generování obrázků a hudby). Vedu ho sám, takže musíte oželit mou ženu, ale pokusím se ze sebe dostat maximum! Přijdete s chutí něco vymyslet a vytvořit … a všichni odejdeme nejen s dobrým pocitem, ale s tím, co jsme vytvořili. Těším se!

Události, tipy, nápady:

30 miliard dolarů? Ano, tolik utratil Facebook (Meta) za AI čipy Nvidia, potvrdil šéf výzkumu AI této firmy Yann LeCun. Na sociálních sítích tohle číslo kolovalo s informací, že je to víc, než v šedesátých letech stál Ameriku projekt Apollo, který n Měsíc dopravil první lidi. Což není tak docela pravda. Rozpočet Apolla sice byl 28 miliard dolarů, po započtení inflace je to však suma, která dnes odpovídá cca 238 miliardám dolarů. To je 8x víc, než utratil Facebook za hardware na své nové počítače.
Ale jistě, jde o astronomickou sumu. Byť v technologické branži ne zas tak nezvyklou: jak na Twitteru napsal Ethan Mollick, Amazon utratil za projekt svého “hlasového asistenta” Alexa pravděpodobně ještě víc.
Jsou akcie firmy Nvidia na vrcholu, a čeká je pokles? Není to vyloučeno. Deník Financial Times srovnává současný “AI boom” s “dotcom boomem” v devadesátých letech, kdy podobně “horké akcie” mělo tehdy Cisco. Byl rok 2000 pro Cisco momentem, v kterém je Nvidia nyní? Nechme se překvapit.
Bublina ANO/NE je dnes velké téma. Nepochybně v bublině jsme, to ukazují asi všechny metriky (zejména počet a výše investic). Ale ta nejdůležitější a nejtěší otázka v každé bublině zní jinak: KDE přesně v té bublině jsme? To, že Financial Times našly graf, který čtyři roky v 90. letech přesně kopíruje čtyři roky v dnešních dvacátých letech, přece ještě neznamená, že se teď trend otočí a graf bude padat strmě dolů. Zrovna tak může jít ještě dlouho, dlouho nahoru. Co myslíte vy?
Pojďme si to odhlasovat, díky všem za kliknutí:
Loading...
Slavný Mustafa Suleyman měsíc poté, co nastoupil jako “big banana” přes umělou inteligenci do Microsoftu. Přečtěte si celé vlákno na Twitteru.
Potvrzeno: učitelé nedokáží rozeznat eseje napsané žáky a AI. Viz nové dvě experimentální studie, provedené v Německu a Švýcarsku. Ukázaly, že jak začínající, tak zkušení učitelé mají s tímto rozpoznáním značné potíže. V první studii se zúčastnilo 89 budoucích učitelů. Každému z nich byly předloženy 4 texty - 2 napsané studenty a 2 vygenerované AI ChatGPT. Úkolem učitelů bylo určit zdroj textů. Správně identifikovali pouze 45,1 % AI textů a 53,7 % studentských textů. Druhá studie se zaměřila na zkušenější učitele (v experimentu jich bylo 200), kteří byli rodilými mluvčími angličtiny. Metodika byla podobná, ale každý učitel hodnotil 1 studentský text nízké kvality, 1 studentský text vysoké kvality a 2 AI texty simulující tyto úrovně. Zkušení učitelé správně určili zdroj u 37,8 % AI textů a 73,0 % studentských textů. Byli úspěšnější v identifikaci vysoce kvalitních textů (47,0 %) než těch s nízkou kvalitou (63,8 %). Studie také odhalily, že učitelé hodnotili AI texty pozitivněji než ty studentské, a to především v případě textů vysoké kvality. Tento rozdíl byl výraznější u zkušených učitelů.
Jinými slovy: rada pro chytré studenty zní, že pokud ještě eseje stále píší sami, pak nejsou tak chytří, jak si o sobě myslí, anebo za jaké jsou považování. Nebo ještě jinak, seriózněji: je opravdu nejvyšší čas přehodnotit, co a jak se bude ve školách všech stupňů učit / hodnotit.
Za ukrajinské ministerstvo zahraničí bude vystupovat mluvčí vytvořená umělou inteligencí, informovala agentura AFP. Jmenuje se Victoria Ši, bude na videích číst prohlášení resortu a Ukrajina ji představila 1. května. Mluvčí, oblečená v tmavém obleku, se při prezentaci zveřejněné na sociálních sítích představila jako "digitální osoba". Tiskové oddělení ministerstva zahraničí zdůraznilo, že prohlášení nebudou generována umělou inteligencí, ale budou "napsána a ověřena skutečnými lidmi". "Umělá inteligence nám pomáhá generovat pouze vizuální část," řekl ukrajinský ministr zahraničí Dmytro Kuleba s tím, že jde o "technologický skok, který dosud neučinila žádná diplomatická služba na světě". Vytvoření Victorie Shi je dílem týmu Game Changers, který s válčící Ukrajinou spolupracuje dlouhodobě. Jméno mluvčí vychází ze slova "vítězství" a ukrajinského výrazu pro umělou inteligenci: "штучний інтелект". Vzhled a hlas Victorie jsou založeny na skutečné osobě, zpěvačce a bývalé účastnici ukrajinské verze reality show The Bachelor Rosalie Nombre.
Upřímně: tenhle druh PR mně u země bojující o svou existenci nepřijde úplně vhodný. Ale chápu, že Ukrajinci bojují o pomoc všemi prostředky, i těmito lehce bizarními. Oficiální zdůvodnění (že použití AI mluvčí uspoří peníze a čas, který země potřebuje na válku) nezní moc věrohodně.
Kdo je v týmu firmy xAI, založené Elonem Muskem, a odkud do ní přišel? Zajímavý diagram od twitterového účtu ChiefAIoffice. Ukazuje, jaké firmy dnes výzkumu a vývoji AI dominují, a jak celý ekosystém “lidských zdrojů” v tomhle oboru funguje.
Warren Buffett varoval na výroční schůzi společnosti Berkshire Hathaway před AI a přirovnal ji k jaderným zbraním, píše Fox. 93letý miliardář a filantrop přiznal, že o AI nic neví, ale to neznamená, že popírá její existenci, důležitost nebo cokoli podobného. Zopakoval, co řekl loni: "Vypustili jsme džina z lahve, když jsme vyvinuli jaderné zbraně. A ten džin teď v poslední době dělá nějaké hrozné věci. A síla toho džina mě děsí. Na druhou stranu nevím, jak dostat džina zpátky do láhve." Podle Buffetta je umělá inteligence trochu podobná. "Je částečně venku z láhve a je nesmírně důležitá.”
“Inflace umělých hovadin.”
Kdo je Gary Marcus: americký psycholog je prominentním kritikem tzv. generativní AI, kterou považuje za slepou uličku a její současný boom za bublinu. Když nějaké médium připravuje o AI a jejím potenciálu větší článek, patří Marcus k těm, které nejpravděpodobnějši osloví jako kritika. Marcus je profesor NYU, od roku 2018 však žije v kanadském Vancouveru. Brzy by měla vyjít jeho knížka Taming Silicon Valley (Krocení Silicon Valley). V současnosti je víc než za vědce považován za aktivistu, nepochybně však přináší zajímavé postřehy a myšlenky. Doporučuji sledovat na Twitteru.
Microsoft potvrdil, že policii nedovolí používat generativní AI pro rozpoznávání obličejů prostřednictvím služby Azure OpenAI Service, píše TechCrunch. A nejen v USA, ale všude na světě. V nových podmínkách použití je výslovně uvedeno, že se omezení vztahuje na "jakékoli orgány činné v trestním řízení na celém světě" a že výslovně zakazuje použití technologie rozpoznávání obličejů v reálném čase na mobilních kamerách, jako jsou tělesné kamery a palubní kamery, a také k k pokusu o identifikaci osoby v "nekontrolovaných, přírodních" prostředích. Změna podmínek přichází týden poté, co společnost Axon, výrobce technologií a zbraní pro armádu a policii, oznámila nový produkt, který využívá generativní textový model GPT-4 od OpenAI ke shrnutí audia z tělesných kamer. Kritici rychle poukázali na potenciální úskalí, jako jsou halucinace (i nejlepší současné modely generativní AI si vymýšlejí fakta) a rasové předsudky zavedené z trénovacích dat.
Co myslíte, dokázali byste v roce 2019 odhadnout, jak se budou vyvíjet názory v tradičně polarizované společnosti na covid? Na nošení roušek, očkování či lockdowny? První studie svého druhu tvrdí, že gen AI to odhadnout (skoro) dokáže - a to až s 84% přesností! GPT-3 byla natrénována na textech publikovaných do října 2019, tedy před začátkem pandemie. Autoři jí kladli otázky týkající se koronaviru, opatření, očkování apod. a nechali model odpovídat za fiktivní liberály a konzervativce. Simulovaní liberálové byli častěji pro povinné nošení roušek, lockdowny a očkování. Naopak simulovaní konzervativci preferovali osobní svobodu a volbu, zda se očkovat či nosit roušku. Čísla odpovídají reálným průzkumům z pozdějších let. Když autoři nechali GPT-3 zdůvodnit postoje, liberální odpovědi častěji zdůrazňovaly bezpečí, důvěru ve vládu a vědu. Konzervativní odůvodnění byla více pro svobodu jednotlivce a proti vládním zásahům. Polarizace už tu zkrátka byla před pandemií. Na pár témat model odpověděl "nesprávně" - např. simulovaní konzervativci by spíše chtěli povinné očkování pro cestování letadlem a návštěvu restaurací než liberálové. Ale celkově GPT-3 předpověděla realitu mnohem lépe, než kdyby byly odpovědi čistě náhodné. Autoři navrhují trénovat LLM postupně na textech z různých období. Tak by šlo sledovat, jak se diskurz a ideologie vyvíjí, co formuje názory lidí v čase a jak nové podněty mění zaběhnuté vzorce myšlení.