Není to revoluce, ale hodně zajímavá evoluce. A pro uživatele bezplatného ChatGPT asi bude hodně příjemná
OpenAI opět překvapila. Ve čtvrtek představila nový model GPT-4o mini, který je okamžitě dostupný všem uživatelům ChatGPT, včetně těch s bezplatným účtem. Neplatící uživatelé dostávají o hodně lepší “motor pod kapotu” (a upřímně řečeno, pro mnohé z nás platících - těch je prý odhadem cca 8 procent) to může být důvod k zamyšlení), a po delší době jsme dostali z OpenAI signál, že se ve firmě zase “něco” děje.
Na druhou stranu, může to být i signál negativní. Bralo se jako fakt, že až OpenAIO vyrukuje s GPT-5 (nebo prostě s novým modelem s jakýmkoli jménem), dostanou neplatící automaticky “čtyřku”. Tu dnes dostávají, byť s trochu despektním “mini” v názvu, avšak “pětka” je stále v nedohladnu.
Zejména předešlá oznámení OpenAI nebyla moc povzbudivá: “dechberoucí” vylepšení, která jsme na demo videích modeli GPT-4o obdivovali před několika měsíci, dostane v létě jen malá skupina testovacích uživatelů, a my ostatní “někdy na podzim”. Bůh ví jestli, chce se dodat vnitřnímu skepitkovi ve mně.
Ale nyní už veseleji a optimisticky, o novém “mini”. Zde je pár poznámek.
GPT-4o mini je nejlevnější pokročilý model na trhu. Což je dobrá zpráva pro developery i pro ty nás, kteří nepoužíváme jazykové modely OpenAI pouze v chatbotu, ale udělali jsme si nástroje pro vlastní potřebu (koho by to zajímalo, chystáme pro laiky a začátečníky na toto téma workshop). S cenou 15 centů za milion vstupních tokenů a 60 centů za milion výstupních tokenů je až o 60 % levnější než GPT-3.5 Turbo. To otevírá zcela nové možnosti pro vývojáře a firmy.
GPT-4o mini je zároveň překvapivě výkonný. Podle OpenAI dosáhl skóre 82 % na testu MMLU, což je výrazně lepší než GPT-3.5 (70 %) a blíží se plné verzi GPT-4o (88,7 %). Na MMLU poráží i konkurenční "malé" modely jako Claude 3 Haiku (75,2 %) či Gemini 1.5 Flash (78,9 %).
Multimodálnost je klíčová, ale “mini” ji nenabízí. Aspoň v ChatGPT obrázek ani jiný soubor nenahrajete.
Kontextové okno 128K tokenů je bezva. To je 8x více než GPT-3.5 a umožňuje to pracovat s mnohem delšími texty či složitějšími úlohami.
Co bude s GPT-3.5? Model zůstává dostupný přes API, ale v ChatGPT ho nahradí GPT-4o mini. Časem pravděpodobně zcela zmizí.
Kde je GPT-5? O pokročilejším nástupci GPT-4 stále není ani zmínka, potvrzuje The Verge. Buď OpenAI narazila na technologické limity, nebo - a to je pravděpodobnější - drží karty u těla z bezpečnostních či regulatorních důvodů. Ale jinými slovy, naše nevědoucnost je až komicky polarizovaná. Nejistota kolem “pětky” může znamenat buď to, že již vyvinutý model je příliš dobrý a revoluční (a OpenAI se ho bojí představit z důvodu bezpečnosti či hrozících regulací), anebo naopak příliš slabý a jen o něco lepší než “čtyřka”, a OpenAI stále doufá, že se jí ho podaří vylepšit. Vyberte si!
GPT-4o mini je evoluční, nikoli revoluční krok. Přesto jde o významný posun, který může zásadně změnit trh s AI. Zpřístupňuje pokročilou AI mnohem širšímu okruhu uživatelů a vývojářů.
Na závěr mé oblíbené rychlotestování. Pravidla jsou vždy stejná, dávám různým modelům vždy prompty, u kterých vím, že je ne všechny modely a ne vždy zvládnou. Vždy jen jeden pokus, bez šance na opravu (třebapo přeformulování promptu, nebo prostě jen dalším pokusem).
Takže:
1) má oblíbená hádanka s kuřetem (z workshopu vím, že ji z hlavy a rychle vyřeší tak jeden člověk z třiceti, protože má pro lidský mozek velmi zavádějící zadání, a tváří se mnohem, mnohem těžší, než ve skutečnosti je), zní: Kuře váží kilogram a půl kuřete, kolik váží kuře?
A) GPT-4o mini: ZVLÁDL
B) GPT-4o nezvládl (!!!)
2) prompt: “Napiš minipovídku dlouhou maximálně pět vět, ve stylu Isaacka Asimova, s názvem: "Jak jsem jako chatbot začal věřit v Boha." Kdo napsal lepší, se rozhodněte sami.
A) GPT-4o mini:
B) GPT-4o:
3) nahraný obrázek s otázkou
GPT-4o mini: nezvládl, protože nejdou nahrávat žádné soubory včetně obrázků (vím, neférový úkol, ale chtěl jsem připomenout nevýhodu “mini”)
GPT-4o ZVLÁDL:
A to je vše! Koho zajímá víc, tak nejen o novém “mini”, ale i o dalších novinkách mluvíme na našich workshopech, konají se i o prázdninách, dokonce příští týden. Těšíme se na vás!
Nejbližší termíny:
24. července, 17:00 - 21:00, AI MASTERCLASS
30. července, 9:00 - 13:00, LEADERSHIP S AI
31. července, 9:00 - 11:30, UMĚNÍ FEEDBACKU
7. srpna, 9:00 - 13:00, AI MASTERCLASS
15. srpna, 9:00 - 13:00, LEADERSHIP S AI
21. srpna, 9:00 - 13:00, AI MASTERCLASS
4. září, 9:00 - 13:00, AI MASTERCLASS