Slovník AI pojmov
Čo je RAG?
RAG (Retrieval-Augmented Generation) je postup, pri ktorom sa pred odpoveďou modelu najprv vyhľadajú relevantné časti vašich dokumentov a spolu s otázkou sa pošlú jazykovému modelu.
Bez RAG odpovedá model len z toho, čo sa naučil pri trénovaní, a o vašej firme nevie nič. RAG pred každou odpoveďou vyhľadá v databáze najbližšie úryvky k otázke, zvyčajne pomocou embeddingov a vektorovej databázy.
Nájdené úryvky, napríklad odsek z cenníka alebo časť manuálu, sa vložia do promptu spolu s otázkou. Model potom odpovedá z tohto konkrétneho textu, nie z pamäti, a k odpovedi sa dá priložiť zdroj.
Kvalita odpovede tak závisí najmä od toho, aké dokumenty má systém k dispozícii a ako presne dokáže nájsť tie správne časti. Chýbajúci alebo zastaraný obsah RAG nedoplní, len zníži riziko halucinácie.
Príklad z praxe
AI chatbot na webe dostane otázku o reklamácii. RAG nájde odsek z obchodných podmienok, model z neho zloží odpoveď a pripojí odkaz na stránku, odkiaľ text pochádza.