Slovník AI pojmov
Čo je Human-in-the-loop?
Human-in-the-loop je princíp, pri ktorom AI agent alebo chatbot pred vykonaním citlivého kroku, napríklad platby alebo odoslania ponuky, počká na schválenie človekom.
Automatizácia nemusí byť buď úplne automatická, alebo úplne ručná. Human-in-the-loop rozdeľuje prácu tak, že rutinné kroky robí agent sám a pri vopred určených, citlivejších krokoch sa zastaví a čaká na potvrdenie.
Pri nasadení zvyčajne najprv beží celý proces v testovacom režime, kde človek kontroluje každý výstup agenta. Po overení, že výsledky sedia, prechádzajú na schválenie naostro už len vybrané kroky, napríklad odoslanie platby alebo zmluvy, kým bežné kroky agent vykoná sám.
Táto medzivrstva zároveň znižuje dôsledky prípadnej halucinácie alebo chyby: aj keď agent navrhne nesprávny krok, nevykoná sa bez toho, aby si ho niekto všimol a zastavil.
Príklad z praxe
Agent na spracovanie objednávok pripraví návrh potvrdenia a faktúru, ale odoslanie faktúry nad určitú sumu čaká na kliknutie účtovníčky.