AI Audit: Co nového je tento týden?
AI Audit: Co nového je tento týden?
.
Jak je možné, že ChatGPT je chytřejší než vy, ale hloupější než vaše kočka?
Dvě zprávy nás šokovaly minulý týden, a dočkalo se jim velkého sdílení na Twitteru.
Za prvé: ani nejpokročilejší velké jazykové modely nedokáží spolehlivě odpovědět na otázku, zda je větší číslo 9,9, anebo 9,11.
A za druhé: kdyby AI soutěžila v mezinárodní matematické olympiádě, kde se řeší opravdu velmi obtížné úlohy, mohla aspirovat na stříbrnou, možná i zlatou medaili. Jak jde obojí dohromady?
Velmi hezky to v článku na Twitteru rozebírá Daniel Jeffries. Stručně: umělá inteligence stojí na prahu revolučního pokroku, ale k dosažení skutečné AGI (umělé obecné inteligence) je ještě dlouhá cesta. Současné modely jako GPT-4 či Claude 3.5 jsou sice nesmírně schopné v řadě úkolů, ale zároveň postrádají základní selský rozum a schopnost řešit komplexní otevřené úkoly v reálném světě.
Klíčem k dalšímu vývoji budou pravděpodobně nové algoritmy inspirované fungováním lidského mozku - zejména schopnost vytvářet modely světa a sebe sama, objektově orientované myšlení a kontinuální učení. Důležité bude také propojení asociativní a registrové paměti či sdílení "částí mysli" mezi různými systémy.
Cesta k AGI tak nevede jen přes zvětšování stávajících modelů, ale vyžaduje nové přístupy kombinující poznatky z neurověd, evoluční biologie a dalších oborů. Jeffries nabízí fascinující pohled na budoucnost umělé inteligence a upozorňuje na komplexitu lidské mysli, kterou současné systémy AI ještě zdaleka nedosahují. Zároveň naznačuje slibné směry výzkumu, které by mohly vést k vytvoření skutečně inteligentních strojů schopných samostatného myšlení a učení.
.
Runway zveřejnil novou verzi Gen-3 Alpha, která dokáže “rozpohybovat” fotky. Výsledky jsou působivé
Model Gen-3 Alpha, představený v červnu 2024, již umožňoval generovat krátká videa na základě textových promptů. Nově však dokáže pracovat s obrázky.
Uživatelé mohou na webu Runway jednoduše nahrát fotografii a během méně než minuty získají 5-10 sekundové video vysoké kvality. Tato technologie opět posouvá možnosti AI v oblasti videa a umožňuje i amatérům vytvářet profesionálně vypadající vizuální obsah. Zároveň však vyvolává obavy z možného zneužití k vytváření deepfakes a manipulaci s obsahem.
Runway proto implementoval bezpečnostní opatření, která mají bránit generování explicitního obsahu nebo videí známých osobností. Runway není jediným hráčem na poli AI generovaných videí. Konkurenci mu dělají například OpenAI se svým modelem Sora, Kuaishou Technology s Kling AI nebo Luma AI s Dream Machine.
Zatímco některé z těchto modelů zůstávají neveřejné, Runway svou technologii zpřístupňuje širší veřejnosti. A zároveň, rychlý vývoj však doprovází i právní nejistota. Runway čelí žalobám od umělců, kteří namítají, že trénování AI modelů na veřejně dostupném materiálu bez souhlasu porušuje autorská práva.
Rozhodnutí soudů v těchto případech může zásadně ovlivnit budoucnost AI nástrojů pro tvorbu obsahu. Základní otázka zůstává: zda AI otevře prostor pro novou kreativitu, anebo bude skutečné tvůrce spíš demotivovat.
.
Apple startuje novou éru chytrých telefonů, má však zpoždění za konkurencí. S betaverzí iOS 18.1 si zatím můžou hrát developeři, ostatní se dočkají na podzim
Apple v pondělí představil první verzi svého dlouho očekávaného balíčku AI funkcí nazvaného Apple Intelligence, který má zásadně vylepšit Siri a přinést řadu nových chytrých funkcí. Investoři vkládají do této novinky velké naděje - očekávají, že těsná integrace AI do operačního systému iPhonů odstartuje masivní vlnu upgradů v příštích letech.
Co nového Apple Intelligence přináší? Kromě vylepšené Siri, která bude mít nový vzhled a lépe porozumí i koktavým povelům, nabídne například automatické generování emailů a obrázků či chytřejší třídění notifikací. Systém má také umět lépe vyhledávat ve fotkách, automaticky vytvářet filmy či generovat emoji.
Některé slibované funkce však v první verzi chybí. Mezi nimi je například integrace ChatGPT od OpenAI nebo možnost Siri pracovat s osobními informacemi uživatele. Apple slibuje, že tyto funkce přidá v průběhu příštího roku.
Zajímavé je, že Apple Intelligence bude fungovat pouze na nejnovějších modelech - konkrétně na iPhone 15 Pro a iPhone 15 Pro Max, s čipem A17. To by mohlo být dalším impulsem pro uživatele starších modelů k upgradu.
.
Prosím vás, už máte natrénovaný ten slavný GPT-5? “A mohla bych ho vidět?” Aneb proč se možná ani letos “pětky” nedočkáme, jakkoli optimisté ji čekali už na podzim vloni
Jak už Sam Altman několikrát zdůraznil, GPT-5 bude výrazně větší a výkonnější model než GPT-4, s odhadovanou velikostí 7-15 bilionů parametrů (“čytřka” má neoficiálně necelé dva).
OpenAI má díky přístupu k superpočítačům Microsoftu výraznou výhodu, píše v newsletteru The Algorithmic Bridge analytik Alberto Romero.
Odhaduje se, že “pětka” bude trénovaná na 100 bilionech tokenů a že superpočítače Microsoftu disponují 10 až 40 tisíci čipových jednotek třídy H100 od Nvidie. Model by měl mít vylepšené schopnosti uvažování a řešení problémů díky integraci posilovaného učení a vyhledávacích algoritmů.
Cílem je překonat omezení čistě imitačního učení. GPT-5 bude multimodální model schopný zpracovávat a generovat text, obrázky, zvuk a pravděpodobně i video. Očekává se integrace generování videa (Sora).
Výzvou zůstává zlepšení spolehlivosti a snížení halucinací. OpenAI se snaží model důkladně testovat a zabezpečit, ale úplné vyřešení tohoto problému se neočekává.
.
Představuje AI tzv. existenční riziko? Říkají to respektovaní vědci? A znamená to, že máme další vývoj AI zakázat? Ne tak rychle, prosím
Odhady pravděpodobnosti existenčního rizika umělé inteligence (AI) jsou příliš nespolehlivé na to, aby mohly ovlivňovat či dokonce formovat veřejnou politiku. Tvrdí to Arvind Narayanan a Sayash Kapoor, dva vědci z Princetonu. Mimochodem, když loni dělal časopis Time seznam 100 nejvlivnějších lidí z AI, oba byli na obálce. Narayanan a Kapoor argumentují, že pesimistické či dokonce apokalyptické předpovědi jsou jen pocity převlečené za čísla, a to i v případě nejlépe provedených prognostických snah. Hlavní problémy zahrnují:
Chybí vhodné referenční třídy pro srovnání, na rozdíl od jiných oblastí prognózování.
Neexistuje spolehlivá deduktivní teorie pro odvození pravděpodobností.
Subjektivní odhady expertů se liší o řády velikosti.
Nelze spolehlivě měřit dovednost prognostiků v předpovídání tak vzácných událostí.
Existuje riziko systematického nadhodnocování hrozeb AI kvůli zaujatosti komunity.
Agregace předpovědí nemusí zlepšit přesnost, pokud většina prognostiků sdílí stejné zkreslení.
Využívání těchto odhadů pro maximalizaci užitku může vést k extrémním závěrům podobným Pascalově sázce.
Předpovědi milníků AI trpí nejednoznačností výsledků a slabou konstrukční validitou.
Autoři doporučují vládám přijmout politiky slučitelné s různými odhady rizika AI, které jsou prospěšné i při zanedbatelném riziku. Varují před omezováním vývoje AI a navrhují zlepšit schopnost politických procesů reagovat na nové důkazy. Čtěte víc.
.
Pardon, ale nejmenuje se tahle “nová” funkce Perplexity? Nebo, jak jsme jí loni začali říkat, “Google na steroidech”?
OpenAI oznámila svůj vstup na trh vyhledávačů s produktem SearchGPT, který využívá umělou inteligenci a poskytuje přístup k informacím z internetu v reálném čase.
SearchGPT organizuje výsledky vyhledávání a poskytuje shrnutí namísto pouhého seznamu odkazů. Nabízí také možnost pokládat doplňující otázky a obsahuje funkci "vizuálních odpovědí". SearchGPT je zatím v prototypu dostupném pro 10 000 testerů, s plánem budoucí integrace do ChatGPT.
OpenAI spolupracuje s mediálními partnery a nabízí vydavatelům možnost správy zobrazování jejich obsahu ve výsledcích vyhledávání. Vyhledávač klade důraz na jasnou atribuci a odkazy na zdroje, čímž se snaží vyhnout kritice, které čelila konkurenční Perplexity.
Spuštění vyhledávání s nálepkou “prototypu” dává OpenAI prostor pro ladění a obranu proti případným chybám. SearchGPT je součástí dlouhodobé strategie OpenAI přiblížit ChatGPT aktuálním informacím z internetu.
Vývoj SearchGPT byl poprvé zmíněn v únoru 2024 v The Information. Náklady OpenAI na vědu a výzkum rychle rostou a očekává se, že letos dosáhnou 7 miliard dolarů. Ačkoli je SearchGPT momentálně zdarma a bez reklam (a pro opravdu velmi malý vzorek uživatelů), bude OpenAI muset brzy řešit otázku monetizace.
.
AI řeší ty nejsložitější matematické problémy stejně dobře jako nejnadanější lidští mozky. Tento svět už není sci-fi - je to naše realita. Google DeepMind je lepší než nejtalentovanější mladí matematici světa
Nové systémy, AlphaProof a AlphaGeometry 2, právě dosáhly úrovně stříbrné medaile na Mezinárodní matematické olympiádě (IMO) - nejprestižnější matematické soutěži pro středoškoláky na světě. To není jen další krůček vpřed - je to obrovský skok pro umělou inteligenci.
Představte si, že trénujete na olympiádu celé roky, věnujete tomu tisíce hodin, a pak přijde stroj a vyřeší stejné problémy za pár minut nebo dní. Zní to neuvěřitelně?
Přesně to se stalo. AlphaProof vyřešil tři problémy, včetně nejtěžšího, který zvládlo pouze pět lidských soutěžících. AlphaGeometry 2 pak bravurně zvládl geometrickou úlohu. Ale co to vlastně znamená? Je to začátek konce lidské matematiky? Nebo naopak počátek nové éry, kde člověk a stroj spolupracují na řešení nejsložitějších problémů?
Matematik ne až tak vzdálené budoucnosti sedí u počítače, zadává problém do AlphaProof a během několika minut dostává zpět řešení. Místo aby strávil hodiny ověřováním každého kroku, může se soustředit na kreativní aspekty své práce - formulování nových hypotéz, hledání spojení mezi zdánlivě nesouvisejícími oblastmi matematiky. Je to jako rozdíl mezi psaním na psacím stroji a na počítači.
Psací stroj vám umožnil psát rychleji než perem … ale počítač? Ten změnil celý způsob, jakým přemýšlíme o psaní a editaci textu. Podobně by AI mohla změnit způsob, jakým matematici pracují a přemýšlejí.
Ale nejde jen o matematiku. Mámek dispozici technologii, která by mohla mít dalekosáhlé důsledky v mnoha oblastech vědy a techniky. Představte si AI, která pomáhá fyzikům objevovat nové částice, chemikům navrhovat léky nebo inženýrům optimalizovat návrhy budov a mostů. Samozřejmě, tato technologie vyvolává i otázky.
Co to znamená pro vzdělávání? Budeme stále potřebovat učit děti složité matematické postupy, když je může vyřešit stroj? Nebo bychom se měli zaměřit na rozvíjení kreativního myšlení a schopnosti formulovat problémy, které AI může pak řešit? A co etika? Jak zajistíme, aby tato mocná technologie byla používána zodpovědně? Kdo bude mít přístup k těmto nástrojům a jak to ovlivní rovnost příležitostí ve vědě a výzkumu?
Jedno je jisté - stojíme na prahu nové éry. Éry, kde hranice mezi lidskou a umělou inteligencí se stávají stále méně zřetelnými. A možná, že právě v tomto prolínání lidského a umělého myšlení leží klíč k řešení některých z největších výzev lidstva.
.
Paříž, léto 2024? Město světel, lásky a ... všudypřítomného dohledu. Olympijské hry, kdysi oslava lidského ducha a výkonu, se proměnily v obrovskou bezpečnostní operaci, kde se každý pohyb stává potenciálním signálem pro AI modely
Vítejte v éře AI sledování, kde algoritmy nikdy nespí a každý váš krok je analyzován s chirurgickou přesností, píše magazín Wired.
Je to jako by George Orwell a Philip K. Dick společně napsali scénář pro největší sportovní událost planety. Na jedné straně máme zastánce systému, kteří tvrdí, že jde o šetrnější alternativu k dystopickým vizím rozpoznávání obličejů. "Žádná osobní data, jen anonymní tvary," říkají.
Zní to téměř nevinně, že? Ale pak přicházejí kritici, kteří vidí mnohem temnější obraz - svět, kde každý pohyb, každé gesto může být označeno za podezřelé, kde předsudky reálného světa jsou zakódovány do nul a jedniček. A co je fascinující? Toto není jen příběh o Paříži nebo olympiádě. Je to předzvěst budoucnosti, která už klepe na dveře.
Budoucnosti, kde množství dat daleko přesahuje schopnosti lidského mozku je zpracovat. Kde se spoléháme na stroje, aby nám řekly, co je normální a co ne. Ale zde je háček - a je to háček, který by mohl změnit samotnou podstatu našich měst a společností.
Co když tyto systémy, zavedené ve jménu dočasné bezpečnosti, se stanou trvalou součástí městské krajiny? Co když olympijský plamen zhasne, ale všudypřítomné oko AI zůstane?
V tomto příběhu nejde jen o sport nebo technologii. Je to příběh o nás - o tom, jak vyvažujeme touhu po bezpečí s potřebou svobody, jak definujeme normalitu v digitálním věku. A možná, jen možná, je to příběh o tom, jak se neviditelné algoritmy stávají architekty našich životů, aniž bychom si toho všimli.
Takže až příště půjdete pařížským metrem, zamyslete se nad tím. Ta nenápadná kamera v rohu možná není jen pasivním pozorovatelem. Možná je to oko do budoucnosti, kterou jsme si ani neuměli představit.
.
Chcete být napřed a v obraze? Rezervujte si místo na našich workshopech a dalších akcích
7. srpna, 9:00 - 13:00, AI MASTERCLASS
15. srpna, 9:00 - 13:00, LEADERSHIP S AI
21. srpna, 9:00 - 13:00, AI MASTERCLASS
4. září, 9:00 - 13:00, AI MASTERCLASS
20. září, 13:00 - 17:00, AI MASTERCLASS
24. září, 18:00 - 21:00, INVENTURA AI
4. října, 9:00 - 13:00, AI LEADERSHIP