Základní model (anglicky foundation model) je velký model umělé inteligence natrénovaný na obrovském a rozmanitém množství dat tak, aby šel použít pro mnoho různých úloh. Sám o sobě není hotová aplikace: slouží jako základ, na který se stavějí chatboti, překladače, nástroje na obrázky nebo specializované firemní systémy.
Jak vzniká základní model?
Základní model vzniká ve dvou fázích: nejdřív obecné učení na velkém objemu dat, potom přizpůsobení konkrétnímu účelu. V první fázi, které se říká předtrénování (pre-training), se model učí ze svých trénovacích dat bez ručně připravených odpovědí, například předvídá chybějící slovo v textu nebo chybějící část obrázku. Přitom si osvojí obecné vzorce jazyka, obrazu či zvuku. Ve druhé fázi se model dolaďuje (fine-tuning) nebo se mu dávají pokyny, aby zvládl konkrétní úlohu, třeba vést rozhovor nebo třídit dokumenty.
Pojem zavedli v roce 2021 výzkumníci ze Stanfordovy univerzity. Zdůraznili dvě vlastnosti: jeden model se dá přizpůsobit široké škále úloh a chyby nebo zkreslení základního modelu se pak dědí do všech aplikací, které na něm stojí.
Jaký je rozdíl mezi základním modelem a velkým jazykovým modelem?
Základní model je širší pojem, velký jazykový model je jeho nejznámější druh. Jazykový model pracuje s textem. Základní modely ale existují i pro obrázky, řeč, video, molekuly nebo časové řady, například předpovědi spotřeby energie. Model, který zpracuje víc druhů vstupu najednou, je multimodální model. Rozhodující není druh dat, ale to, že model je obecný a dá se přenést na mnoho úloh.
K čemu je pojem základní model v práci užitečný?
- Správce IT: vybírá dodavatele chatbota pro úřad. Ptá se, na jakém základním modelu nástroj stojí, protože z toho plyne, kam putují data a jaká omezení nástroj zdědí.
- Projektový manažer: porovnává dvě nabídky „vlastní AI“ a zjistí, že obě jsou tenká vrstva nad stejným základním modelem. Vyjednává pak hlavně o službách kolem, ne o „unikátní technologii“.
- Ředitelka: zvažuje otevřený model provozovaný na vlastním serveru, protože citlivé dokumenty nesmí opustit organizaci.
Příklad zadání
Účetní dostala od dodavatele nabídku „AI asistenta pro fakturaci“ a chce vědět, na co se zeptat.
Připrav mi 6 otázek pro dodavatele AI nástroje na zpracování faktur. Zajímá mě, na jakém základním modelu nástroj stojí, kdo ho provozuje, kde se zpracovávají data a jestli se moje faktury použijí k dalšímu trénování. Otázky piš srozumitelně pro člověka bez technického vzdělání.
AI vrátí seznam otázek. Odpovědi dodavatele si nechte potvrdit písemně, AI je za něj nezodpoví.
Na co si u základního modelu dát pozor?
- Zděděné slabiny. Když základní model vymýšlí fakta nebo má předsudky, mívá je i aplikace nad ním. Výstupy proto ověřujte bez ohledu na značku nástroje.
- Neznámý původ dat. U řady modelů není veřejné, z jakých dat vznikly. U citlivých témat se ptejte na podmínky a smlouvu, ne na marketing.
- Omyl „čím větší, tím lepší pro mě“. Velký obecný model nemusí být nejlepší pro úzkou úlohu. O vhodnosti rozhoduje zkouška na vašich vlastních příkladech.
Časté otázky
Co znamená foundation model česky?
Foundation model se do češtiny překládá jako základní model. Výraz zdůrazňuje, že model tvoří základ, na kterém se stavějí další aplikace.
Je ChatGPT základní model?
Není, ChatGPT je aplikace. Pracuje s modely GPT, které jsou základními modely doladěnými pro rozhovor, a kolem nich přidává rozhraní a další funkce.
Existují základní modely i mimo text?
Ano, základní modely se trénují i na obrázcích, řeči, videu, programovém kódu nebo časových řadách, například pro předpověď počasí či spotřeby.