Uvažující model (reasoning model) je velký jazykový model, který před odpovědí nejdřív vytvoří skrytý pracovní postup: rozloží úlohu na kroky, zkouší varianty a kontroluje mezivýsledky. Teprve potom napíše odpověď, proto je pomalejší, ale u úloh s více podmínkami spolehlivější než běžný model.
Jak funguje uvažující model?
Uvažující model dostává „čas na přemýšlení“: než napíše odpověď, generuje si text pro sebe. Běžný velký jazykový model začne odpovídat hned a odpověď skládá slovo po slovu, takže chybu z první věty už neopraví. Uvažující model si nejdřív píše koncept:
- Rozklad úlohy: co je zadáno, jaké platí podmínky, co se hledá.
- Postup v krocích: dílčí výpočty, varianty, mezivýsledky.
- Kontrola: ověří, jestli řešení splňuje všechny podmínky, a když ne, vrátí se o krok zpět.
Tomuto skrytému textu se říká uvažování nebo řetězec myšlenek (chain of thought). Model se ho naučil používat při tréninku, kdy byl odměňován za správné výsledky úloh, které jdou ověřit, například v matematice nebo programování. Uvažování spotřebovává tokeny, proto odpověď trvá déle a u placeného použití stojí víc.
Kdy použít uvažující model a kdy běžný?
Uvažující model se vyplatí tam, kde odpověď musí splnit několik podmínek najednou nebo kde jde o výpočet a logiku. Na přepis e-mailu, překlad nebo nápady na název stačí běžný model, je rychlejší a výsledek nebývá horší. Ve službách jako ChatGPT, Claude nebo Gemini se uvažování obvykle zapíná volbou modelu nebo přepínačem typu „přemýšlet déle“, názvy se často mění.
K čemu se uvažující model hodí v práci?
- Zástupkyně ředitele: sestavuje rozpis ústních zkoušek z dostupnosti členů komisí a pravidel pro přestávky a nechá model vypsat konflikty, které nejdou vyřešit.
- Účetní: nechá zkontrolovat výpočet krácení dovolené podle zadaných pravidel a vypsat postup, aby šlo každý krok ověřit.
- Projektový manažer: porovná tři varianty harmonogramu s ohledem na návaznosti úkolů a kapacity lidí.
- Správce IT: hledá příčinu chyby v konfiguraci podle popisu příznaků a výpisu z logu.
Příklad zadání
Personalistka plánuje směny a potřebuje návrh, který splní všechna pravidla.
Navrhni rozpis směn na příští týden pro 6 lidí podle tabulky níže. Podmínky: každá směna má aspoň 2 lidi, nikdo nemá dvě směny po sobě, Jana a Petr nemohou ve středu. Než odpovíš, zkontroluj každou podmínku zvlášť. Pokud nejdou splnit všechny, napiš, kterou je nutné porušit a proč. [tabulka dostupnosti]
Model navrhne rozpis a vypíše kontrolu podmínek. Projděte rozpis sami proti tabulce, protože i kontrola modelu může něco přehlédnout.
Na co si u uvažujícího modelu dát pozor?
- Delší úvaha není důkaz správnosti. Uvažující model také halucinuje, jen přesvědčivěji. Výpočty a fakta ověřte.
- Zobrazený postup nemusí být skutečný postup. Shrnutí uvažování, které služba ukazuje, nemusí přesně zachycovat, jak model k výsledku došel.
- Nepoužívejte ho na všechno. U jednoduchých úkolů jen zdržuje a u placeného použití zbytečně stojí víc.
Časté otázky
Myslí uvažující model jako člověk?
Ne. Uvažování je text, který model generuje stejným mechanismem jako odpověď. Pomáhá mu to dojít ke správnějšímu výsledku, ale neznamená to porozumění v lidském smyslu.
Mám uvažujícímu modelu psát „postupuj krok za krokem“?
Většinou to není nutné, postupuje tak sám. Vyplatí se ale jasně vypsat podmínky a požádat o kontrolu každé z nich.