RAG (retrieval-augmented generation, česky generování doplněné vyhledáváním) je postup, při kterém AI před odpovědí nejdřív vyhledá v zadaných dokumentech úryvky související s dotazem a ty pak jazykový model dostane spolu s dotazem jako podklad. Odpověď tak vychází z vašich směrnic, smluv nebo metodik, ne jen z toho, co se model naučil při tréninku.
Jak funguje RAG?
RAG spojuje dva kroky: vyhledání a psaní odpovědi. Probíhá takto:
- Příprava dokumentů. Systém dokumenty rozdělí na kratší úryvky a uloží je tak, aby v nich šlo hledat podle významu, nejen podle shody slov.
- Vyhledání. Když položíte dotaz, systém najde několik úryvků, které mu významově nejvíc odpovídají.
- Doplnění zadání. Nalezené úryvky se vloží do zadání vedle vašeho dotazu, do takzvaného kontextového okna.
- Odpověď. Model napíše odpověď z dodaných úryvků a dobré nástroje u ní uvedou, ze kterého dokumentu čerpal.
Funguje to jako zkouška s otevřenou učebnicí: model si před odpovědí nalistuje správné stránky, místo aby odpovídal zpaměti.
Jaký je rozdíl mezi RAG a dotrénováním modelu?
RAG modelu znalosti půjčuje při každém dotazu, dotrénování (fine-tuning) je do modelu trvale vkládá dalším učením na nových trénovacích datech. Když se směrnice změní, u RAG stačí vyměnit dokument, dotrénovaný model by se musel učit znovu. RAG navíc umí ukázat zdroj odpovědi. Dotrénování se hodí spíš na styl a formát výstupu než na fakta, která se mění.
Jaký je nejčastější omyl o RAG?
Častý omyl je, že nahráním dokumentů se AI „naučí“ jejich obsah. Model se nic nenaučí, při každém dotazu jen dostane vybrané úryvky. Když vyhledávání netrefí správnou pasáž, model o ní neví a může si chybějící údaj domyslet, tedy halucinovat. RAG halucinace omezuje, ale neodstraňuje.
K čemu se RAG hodí v práci?
- Asistentka ředitele: zeptá se, jak dlouho se archivují třídní knihy, a dostane odpověď s odkazem na článek spisového a skartačního řádu.
- Personalistka: nový zaměstnanec se ptá na čerpání dovolené a odpověď vychází z vnitřního předpisu firmy, ne z obecných rad z internetu.
- Správce IT: kolegové se ptají na postup připojení k síti a nástroj odpovídá z interních návodů, které správce průběžně aktualizuje.
- Projektový manažer: vyhledá v zápisech z porad, kdy a kdo schválil změnu rozpočtu.
Příklad zadání
Úřednice obecního úřadu nahrála do nástroje s funkcí RAG provozní řád a ceník pronájmu sálu a připravuje odpověď občanovi.
Odpověz pouze podle nahraných dokumentů: Za jakých podmínek si může spolek pronajmout sál o víkendu a kolik zaplatí? U každého údaje uveď název dokumentu a článek, ze kterého vychází. Pokud odpověď v dokumentech není, napiš "v podkladech není" a nic si nedomýšlej.
Nástroj vrátí podmínky s odkazy. Otevřete uvedené články a zkontrolujte, jestli citace sedí a jestli je ceník platný.
Na co si u RAG dát pozor?
- Udržujte dokumenty aktuální. Starou verzi směrnice z nástroje smažte, jinak z ní může čerpat.
- Klikněte na zdroj. U důležité odpovědi otevřete citované místo a ověřte, že tam opravdu stojí to, co AI tvrdí.
- Hlídejte, kdo dokumenty uvidí. Nahrávejte jen to, co v daném nástroji smíte zpracovávat, a zkontrolujte nastavení sdílení. Osobní údaje řešte podle GDPR a pravidel organizace.
- Ptejte se konkrétně. Obecný dotaz vede k obecným úryvkům. Uveďte, o jaký druh situace jde.
Časté otázky
Co znamená zkratka RAG?
RAG znamená retrieval-augmented generation, tedy generování odpovědi doplněné vyhledáváním v dokumentech. Pojem se používá pro postup i pro nástroje, které ho nabízejí.
Používá RAG i Gemini Notebook (dříve NotebookLM) nebo vlastní GPT?
Nástroje, kterým nahrajete dokumenty a ony z nich odpovídají s odkazy na zdroje, pracují na podobném principu. Google u Gemini Notebooku uvádí, že nejdřív vyhledá ve zdrojích nejrelevantnější informace a z nich sestaví odpověď s citacemi. Jak přesně vyhledávání uvnitř dělají, výrobci obvykle podrobně nepopisují.
Potřebuji pro RAG programovat?
Pro běžné použití ne, stačí nástroj, do kterého dokumenty nahrajete. Programování je potřeba, když si organizace staví vlastní systém nad svými daty.