Digee / Wiki / Zavádění ve firmě
Vysvětlení
Human-in-the-loop: člověk rozhoduje.
Human-in-the-loop (česky volně „člověk ve smyčce“) je princip, kdy AI práci připraví a člověk ji zkontroluje a schválí. Je to nejbezpečnější způsob, jak začít AI používat v provozu – a často i ten nejrychlejší.
Ve zkratce
- Agent připraví, člověk rozhodne – u všeho, kde jde o peníze, podmínky nebo citlivé údaje.
- Hranice se určují předem pro každý úkol zvlášť.
- Jak roste důvěra, může agent časem dělat víc sám.
Na této stránce
Princip na jednom příkladu
Do realitní kanceláře přijde poptávka. Agent ji přečte, doplní chybějící údaje od zájemce, porovná ji s nabídkou a připraví návrh odpovědi s termíny prohlídky. Makléř jen zkontroluje a odešle.
Agent tu udělal 80 % mechanické práce. Rozhodnutí – co a komu nabídnout – zůstalo u člověka.
Tři úrovně samostatnosti
| Úroveň | Co dělá agent | Co dělá člověk | Kdy použít |
|---|---|---|---|
| 1. Návrh | Připraví podklad nebo odpověď | Zkontroluje, upraví, odešle | Na začátku a u citlivých věcí |
| 2. Výjimky | Běžné případy vyřídí sám | Řeší jen to, co agent označí | Když se agent osvědčí na jednoduchých případech |
| 3. Dohled | Pracuje samostatně | Namátkově kontroluje přehledy | Jen u nízkého rizika a jasných pravidel |
Většina firemních úkolů začíná na úrovni 1. Posun dál je rozhodnutí vedení, ne technologie.
Kde má vždy rozhodovat člověk
- Peníze – platby, slevy, cenové nabídky, reklamace.
- Podmínky a závazky – smlouvy, sliby zákazníkům, termíny.
- Citlivé údaje – zdraví, osobní situace, děti.
- Nejasné situace – stížnosti, konflikty, cokoli nového.
- Rozhodnutí o lidech – výběr uchazečů, hodnocení, přístup ke službám.
Poslední bod má i právní rozměr: GDPR omezuje rozhodování, které je založené čistě na automatickém zpracování, a AI Act vyžaduje lidský dohled u vysoce rizikových systémů.
Jak hranice nastavit v praxi
- Popište úkol krok za krokem, jak ho dnes děláte.
- U každého kroku určete: připraví agent, nebo rozhodne člověk?
- Stanovte, kdy má agent práci vždy předat (např. částka nad limit, stížnost, chybějící údaj).
- Určete, kdo schvaluje a jak rychle.
- Po měsíci provozu vyhodnoťte, kde agent chyboval a kde by mohl dělat víc.
Přesně tak postupujeme při zavádění – viz jak pracujeme.
Časté otázky
Neztrácí se úspora času, když musí člověk všechno schvalovat?
Většinou ne. Kontrola připraveného návrhu trvá zlomek času oproti jeho ruční přípravě. Navíc lze časem běžné případy pustit bez schvalování a člověk řeší jen výjimky.
Kdo nese odpovědnost za chybu agenta?
Firma, stejně jako za práci zaměstnance nebo jiného nástroje. Proto se u důležitých kroků nastavuje schvalování člověkem a o práci agenta se vede záznam.
Jak poznám, že agent může dělat víc sám?
Když na úkolu delší dobu chybuje minimálně a chyby jsou snadno opravitelné. Rozhodnutí by mělo vycházet z dat z provozu, ne z pocitu.
Chcete vědět, kde AI ušetří čas právě vám?
Projdeme s vámi běžný týden a najdeme první úkol, který má smysl předat agentovi. Nezávazně.
Související články
Co je AI agent
AI agent je program, který nejen odpovídá, ale sám dotáhne úkol: přečte e-mail, najde údaje, připraví výstup a předá ho člověku ke schválení.
→Vysvětlení · 3 minHalucinace AI: proč si AI vymýšlí
Proč AI občas sebejistě napíše nepravdu a jak to ve firmě ošetřit: práce s vlastními podklady, citace zdrojů a kontrola člověkem.
→Přehled · 3 minAI Act: co evropská regulace AI znamená pro firmy
Evropské nařízení o umělé inteligenci (AI Act) srozumitelně: kategorie rizika, termíny účinnosti včetně odkladu z roku 2026, povinnosti firem a sankce.
→