Do společné firemní schránky může během jednoho dopoledne přijít nová poptávka, dotaz k rozpracované zakázce, hlášení poruchy, reklamace, faktura i nabídka dodavatele. Všechny zprávy vypadají v e-mailu podobně, ale každá potřebuje jiného vlastníka, jinou evidenci a jiný další krok.
AI může první třídění zrychlit. Ze zprávy připraví návrh kategorie, vytáhne důležité údaje a doporučí, kam případ předat. Nemá však sama rozhodnout, co firma zákazníkovi slíbí, kdo nese odpovědnost ani zda je reklamace oprávněná. Bezpečný princip je jednoduchý: AI navrhne, člověk potvrdí a systém teprve potom provede předání.
Problém není plná schránka, ale zpráva bez vlastníka
Pořádek ve schránce neznamená jen prázdnou složku „Doručená pošta“. Zpráva je provozně zpracovaná až tehdy, když firma ví, k jakému případu patří, kdo drží další krok a kde se bude sledovat výsledek.
U ručního třídění se snadno zamění podobně znějící situace. Věta „po montáži stále zatéká“ může být reklamace dokončené práce, nový servisní požadavek nebo doplnění otevřené zakázky. Předmět e-mailu ani jméno odesílatele samy nestačí. Rozhoduje kontext: existující smlouva či zakázka, datum předání, popsaný stav, přílohy a to, co zákazník skutečně požaduje.
Článek o sdílené firemní schránce popisuje přístupy, zastupitelnost a odpovědnost týmu. AI triáž je až další vrstva. Pomáhá připravit předání, ale nemůže napravit schránku, ve které nikdo není vlastníkem příchozí agendy.
Nejdřív taxonomie zpráv, potom AI třídění e-mailů
Model nemá dostat neurčité zadání „roztřiď poštu“. Firma nejdřív potřebuje několik kategorií, které odpovídají jejím skutečným procesům. Každá kategorie musí mít popsané povinné minimum, cílové místo a roli, která návrh potvrdí.
| Kategorie | Co má AI navrhnout | Kam případ směřuje | Co potvrzuje člověk |
|---|---|---|---|
| Nová poptávka | Požadovanou službu, místo, kontakt, termín a chybějící podklady | CRM nebo evidence poptávek | Zda jde o reálnou příležitost a kdo ji převezme |
| Zpráva k zakázce | Pravděpodobnou zakázku, téma, požadovanou změnu a další datum | Karta existující zakázky | Správnou vazbu a dopad na rozsah, cenu nebo termín |
| Servisní požadavek | Objekt či zařízení, popis stavu, provozní dopad a dostupnost kontaktu | Požadavkový nebo servisní systém | Prioritu, odpovědnou roli a způsob reakce |
| Možná reklamace | Zakázku, tvrzenou vadu, datum přijetí a uvedené důkazy | Evidence reklamací ke kontrole | Procesní a odborné posouzení; AI nerozhoduje o oprávněnosti |
| Doklad nebo dodavatelská zpráva | Typ dokumentu, protistranu, referenci a přítomnost přílohy | Schvalování dokladů, nákup nebo zakázka | Správnost přiřazení a další schvalovací krok |
| Nejasné nebo ostatní | Důvod nejistoty a chybějící kontext | Fronta pro ruční posouzení | Kategorii, vlastníka nebo bezpečné odložení |
Taxonomie nemá kopírovat organizační strukturu. Kategorie „obchod“, „realizace“ a „účtárna“ říkají, komu se zpráva pošle, ale nepopisují, jaký případ vznikl. Vhodnější je nejdřív pojmenovat význam zprávy a teprve potom určit tým nebo osobu.
AI může klasifikovat a vytěžit údaje, ne převzít odpovědnost
Použitelný návrh nesmí obsahovat jen štítek. Má ukázat, z čeho klasifikace vychází a co se nepodařilo určit. U každé zprávy může připravit:
navrženou kategorii a případnou druhou možnost;
krátké shrnutí bez nových tvrzení;
zdrojové věty nebo přílohy, ze kterých návrh vychází;
vytažené údaje v předem dané struktuře;
možnou vazbu na klienta, objekt, zakázku nebo objednávku;
chybějící nebo rozporné informace;
doporučenou frontu a roli pro lidské potvrzení.
NIST AI Risk Management Framework doporučuje předem popsat úlohu systému, hranice použití, role lidí a způsob dohledu. Součástí řízení má být také měření nejistoty, testování v podmínkách podobných skutečnému provozu a možnost výstup opravit, obejít nebo systém odstavit. Pro firemní schránku to znamená, že AI výstup je pracovní návrh, nikoli nový zdroj pravdy.
Generativní model navíc může vytvořit věrohodně znějící, ale chybný údaj. NIST tento jev označuje jako „confabulation“. Proto nestačí, že klasifikace působí sebejistě. Důležitější je možnost dohledat původní zprávu, porovnat vytažené hodnoty a označit situaci, kdy podklad nestačí.
Nejistý případ nesmí zmizet mezi jistými
Největší provozní hodnotu nemusí mít automatické zpracování běžných zpráv, ale včasné oddělení výjimek. AI by měla umět říct „nelze spolehlivě určit“ a předat zprávu do ruční fronty.
Samotné procento jistoty není univerzální řešení. Hodnota 92 % může vypadat přesně, ale bez kalibrace na vlastních datech firmy nic nezaručuje. Pro pilot je praktičtější spojit několik podmínek:
chybí povinné pole pro danou kategorii;
zpráva odpovídá dvěma různým procesům;
nenašla se jednoznačná zakázka nebo existuje více možných shod;
příloha odporuje textu e-mailu;
odesílatel žádá změnu ceny, termínu, rozsahu nebo bankovního spojení;
obsah může mít bezpečnostní, právní nebo reputační dopad.
Takový případ se nemá automaticky zahodit ani označit jako spam. Systém vytvoří viditelný stav „čeká na posouzení“, přiřadí vlastníka fronty a uchová důvod, proč automatické předání neproběhlo.
Bezpečný tok od zprávy k potvrzenému případu
1. Uchovat originál a technický kontext
Původní e-mail, odesílatel, čas přijetí, přílohy a technické identifikátory zůstávají dohledatelné. AI návrh nesmí originál přepsat. Pokud se později ukáže chyba, firma potřebuje rozlišit obsah zprávy, výstup nástroje a lidské rozhodnutí.
2. Zpracovat jen potřebnou část
Do AI služby nemá automaticky putovat celé historické vlákno, všechny přílohy a kompletní karta zákazníka. Vstup se omezuje na údaje potřebné pro klasifikaci a extrakci. Pokud obsahuje osobní údaje, musí firma respektovat mimo jiné omezení účelu, minimalizaci dat, přesnost, dobu uchování a přiměřené zabezpečení podle článku 5 GDPR.
3. Vytvořit návrh ve stálém formátu
Výstup má pevná pole, ne pokaždé jiný odstavec. Vedle kategorie obsahuje zdroj, chybějící údaje, navrženou vazbu a důvod případné nejistoty. Stejná struktura umožní porovnávat opravy a poznat, kde model chybuje.
4. Nechat člověka potvrdit význam a vlastníka
Kontrolující vidí originál i návrh. Potvrdí nebo opraví kategorii, vazbu na případ a odpovědnou osobu. Zvlášť posoudí obchodní slib, prioritu, oprávněnost reklamace, změnu rozsahu a text odpovědi zákazníkovi.
5. Založit nebo doplnit záznam bez duplicity
Teprve potvrzený návrh založí poptávku, servisní požadavek nebo reklamaci, případně doplní existující zakázku. Před vytvořením nového záznamu se kontroluje možná shoda podle odesílatele, reference, objektu a otevřených případů. Zdrojový e-mail zůstane k záznamu připojený.
6. Připravit odpověď, ale neposílat ji bez kontroly
AI může navrhnout potvrzení přijetí nebo seznam doplňujících otázek. Finální odpověď ale potvrzuje člověk, protože vytváří očekávání zákazníka. Automatická věta nesmí bez schválení slíbit termín výjezdu, uznat reklamaci, potvrdit cenu ani přijmout změnu zakázky.
E-mail a příloha jsou nedůvěryhodný vstup
Příchozí obsah nevytváří firma a nelze předpokládat, že je bezpečný jen proto, že vypadá jako běžná zpráva. OWASP u AI aplikací upozorňuje na nepřímou prompt injection: instrukce ukrytá v externím textu, souboru nebo obrázku může ovlivnit chování modelu jinak, než provozovatel zamýšlel.
AI proto nemá podle obsahu e-mailu získat právo odeslat zprávu, smazat záznam, změnit bankovní údaje, otevřít libovolný interní dokument nebo obejít oprávnění. Bezpečnější návrh odděluje externí obsah od systémových pravidel, omezuje přístup na nezbytné zdroje a vyžaduje lidské schválení citlivých akcí.
Přílohy se navíc mají kontrolovat běžnými bezpečnostními prostředky dřív, než se jejich obsah použije. Obrázek, PDF ani kancelářský dokument není důvěryhodnější vstup než text zprávy. Pokud systém přílohu neumí bezpečně načíst, označí ji k ručnímu zpracování místo domýšlení obsahu.
Auditní stopa musí ukázat opravu i předání
U každého zpracovaného e-mailu má být dohledatelné:
který originál a které přílohy byly vstupem;
jakou kategorii, údaje a vazbu navrhla AI;
co systém označil jako nejisté;
kdo návrh zkontroloval a co opravil;
který záznam vznikl nebo byl doplněn;
komu byl případ předán a v jakém stavu;
zda a kým byla odeslána odpověď.
Historie nemá sloužit k hodnocení lidí podle počtu kliknutí. Je to nástroj pro zlepšení procesu. Ukáže například, že zprávy jednoho typu často končí ve špatné kategorii, že chybí vazba na objekt nebo že taxonomie nerozlišuje důležitou výjimku.
Pilot má měřit opravy, ne počet zpracovaných e-mailů
První nasazení je vhodné omezit na jednu schránku, několik kategorií a návrhový režim bez automatického odesílání. Před pilotem se ručně označí reprezentativní vzorek zpráv včetně snadných případů, nejasností, příloh, změn zakázek a zpráv, které nepatří nikam.
Užitečné provozní ukazatele jsou:
podíl návrhů, u nichž člověk opravil kategorii;
podíl chybných nebo víceznačných vazeb na klienta či zakázku;
počet zpráv správně odložených k ručnímu posouzení;
čas od přijetí zprávy k potvrzenému vlastníkovi;
počet duplicitně založených případů;
počet zpráv s citlivou změnou, které systém správně nezpracoval automaticky;
nejčastější chybějící údaje, kvůli nimž předání stojí.
Počet „automaticky zpracovaných“ zpráv sám o sobě kvalitu neukazuje. Vysoká automatizace může jen rychleji rozeslat chyby. Pilot dává smysl tehdy, když snižuje dohledávání a současně nezvyšuje počet špatných přiřazení, duplicit a neoprávněných akcí.
Lidé, kteří návrhy potvrzují, musí rozumět možnostem i omezením systému. Aktuální Q&A Evropské komise k AI gramotnosti zdůrazňuje opatření pro znalosti a dovednosti osob, které AI ve firmě používají, s ohledem na jejich zkušenost a kontext nasazení. Praktické zaškolení proto patří do pilotu stejně jako technická konfigurace; tento článek ale nenahrazuje právní posouzení konkrétního nasazení.
Modelový příklad: jedna zpráva, dvě možné kategorie
Zákazník napíše: „Po včerejším servisu klimatizace znovu hlásí stejnou chybu. Technik říkal, že se případně objedná nový díl.“ AI najde zákazníka, objekt a včerejší servisní zásah. Navrhne kategorii „možná reklamace“ a alternativu „pokračování servisního požadavku“. Upozorní, že v textě není jasné, zda byl zásah uzavřený, co obsahoval servisní protokol a zda je díl součástí původního plnění.
Vedoucí servisu otevře protokol, potvrdí správný proces a přiřadí případ konkrétnímu člověku. Teprve potom vznikne záznam s dalším krokem a schválená odpověď zákazníkovi. AI zkrátila hledání a připravila souvislosti. Nerozhodla však o oprávněnosti reklamace ani o tom, co firma slíbí.
Jak začít bez autonomního e-mailového asistenta
Vybrat jednu společnou schránku a popsat současné předávání zpráv.
Navrhnout pět až sedm kategorií podle skutečných případů, ne podle oddělení.
U každé kategorie určit povinná pole, cílový systém a kontrolující roli.
Připravit reprezentativní vzorek včetně nejistých a rizikových zpráv.
Spustit AI pouze v návrhovém režimu a zaznamenávat lidské opravy.
Upravit taxonomii, pravidla nejistoty a oprávnění podle výsledků.
Automatizovat jen úzké kroky, které mají stabilní výsledek a bezpečný návrat při chybě.
Pokud firma zatím neumí zachytit ani běžnou poptávku z více kanálů, má smysl nejdřív sjednotit odpovědnosti a evidenci. AI není náhradou za proces. Je vrstvou, která může zrychlit čtení a přípravu podkladů, když už existuje místo, kam se potvrzený případ předá.
Shrnutí: AI třídí návrhy, firma řídí případy
AI ve firemní schránce dává smysl tehdy, když zkrátí cestu od příchozí zprávy k člověku, který má udělat další krok. Potřebuje jasnou taxonomii, pevný výstup, viditelnou nejistotu, omezená oprávnění, auditní stopu a měření oprav na skutečných zprávách.
Bezpečný začátek není autonomní asistent, který čte, rozhoduje a odpovídá. Je to kontrolovaný tok: AI navrhne klasifikaci a údaje, člověk potvrdí význam a vlastníka a systém provede dohledatelné předání. Praktické AI zaškolení pro firemní tým může takový pilot postavit nad reálnou schránkou a sjednotit pravidla pro kontrolu, data i výjimky.
Zdroje a metodika
NIST AI Risk Management Framework Core – vymezení úloh, lidského dohledu, měření nejistoty, testování a provozního monitoringu.
NIST Generative AI Profile – rizika věrohodně působících chybných výstupů generativní AI.
Nařízení (EU) 2016/679 – zásady zpracování osobních údajů, zejména článek 5.
OWASP LLM01:2025 Prompt Injection – externí obsah jako nedůvěryhodný vstup, omezení oprávnění a lidské schválení rizikových akcí.
Evropská komise: AI Literacy – Questions & Answers – aktuální informace k AI gramotnosti osob pracujících s AI systémy.
