Slovník AI pojmov
Čo je Prompt?
Prompt je text, ktorým sa jazykovému modelu zadá úloha alebo otázka, vrátane inštrukcií, akým spôsobom a v akom tóne má odpovedať.
Kvalita odpovede modelu výrazne závisí od formulácie promptu. Konkrétne zadanie s kontextom, napríklad „odpovedaj ako zákaznícka podpora, zdvorilo, v slovenčine, len z priloženého textu“, dá presnejší výsledok než všeobecná otázka.
Vo firemnom nasadení má chatbot alebo agent takzvaný systémový prompt, ktorý sa nastaví raz: definuje rolu, tón, hranice, napríklad „neposkytuj zdravotné rady“, a spôsob, akým má model pracovať s dodaným kontextom. Otázka konkrétneho zákazníka sa k nemu pridáva pri každej odpovedi.
Pri RAG sa do promptu automaticky vkladajú aj nájdené úryvky z vašich dokumentov, takže model dostáva presné zadanie aj konkrétny podklad naraz. Dobre nastavený prompt je jeden z hlavných dôvodov, prečo dva chatboty nad rovnakým modelom odpovedajú inak.
Príklad z praxe
Systémový prompt chatbota môže znieť: „Odpovedaj len z priloženého kontextu. Ak informáciu nemáš, povedz to a ponúkni kontakt na firmu.“ Toto jedno nastavenie platí pre každú konverzáciu.