Co je AI agent? 7 příkladů toho, co dělá ve firmě

Co je AI agent a co ve firmě dělá?

Od pevně naprogramovaného postupu AI agenta odlišuje to, kdo určuje další krok: volí ho jazykový model, stejně jako nástroj, který k němu použije. Nástrojem je třeba vyhledávání v archivu dokumentů, dotaz do podnikového systému ERP nebo založení požadavku v helpdesku.

Hranici popisuje Anthropic v článku „Building effective agents“: u pracovního postupu (workflow) běží model a nástroje předem danými cestami v kódu, agent si svůj postup a použití nástrojů řídí sám. V praxi dělají agenti AI hlavně kancelářskou práci s proměnlivými vstupy: čtou, porovnávají, dohledávají, vyplňují záznamy, píší návrhy a předávají výsledek správnému člověku.

Jak AI agent funguje?

AI agent pracuje ve smyčce: zvolí krok, zavolá nástroj, zkontroluje výsledek a podle něj rozhodne o dalším kroku.

1. Start: běh spustí událost, třeba nový e-mail nebo zpráva v datové schránce, nebo pokyn člověka.
2. Plán: model rozloží úkol a zvolí první krok.
3. Nástroj: agent se dotáže systému nebo do něj zapíše, pokud na to má oprávnění.
4. Kontrola: výsledek volání nástroje ukáže, kam se agent dostal. Podle Anthropicu je tato zpětná vazba z prostředí klíčová v každém kroku.
5. Konec: agent skončí, počká na člověka v kontrolním bodě, nebo ho zastaví podmínka, například nejvyšší počet opakování.

Tato volnost něco stojí. Anthropic uvádí vyšší náklady a riziko, že se chyby v dalších krocích nabalují. Úzká oprávnění, záznam každého kroku a podmínky zastavení proto patří do stavby agenta od začátku.

Jaké jsou příklady AI agentů ve firmě?

Dobrým příkladem jsou úkoly s volně psanými vstupy a daty ve více systémech: přijaté faktury s odchylkou, reklamace, poptávky, návrhy smluv, požadavky na IT a žádosti o zaměstnání. Nejdůležitější je poslední sloupec tabulky: tam práce agenta končí.

Jak vypadá hlídání zdrojů s AI v provozu?

Dva naše projekty hlídají zdroje pro právníky: Eurowag dostává denně relevantní legislativní změny s posouzením AI, pro Rowan Legal agenti průběžně vyhledávají relevantní judikaturu. Sedmým příkladem agenta je Rowan Legal, Eurowag uvádíme pro srovnání jako denní monitoring s AI. V obou případech AI navrhne, co je důležité, a právní posouzení zůstává na člověku. Jako službu nabízíme monitoring legislativy.

Eurowag: monitoring legislativy pro pohonné hmoty a telematiku

• Co ho spustí: pevný denní plán.
• Co čte: legislativní rejstříky EU, ČR a SR, právní newslettery a informace o lobbistických aktivitách, filtrované podle obchodního profilu Eurowagu.
• Výstup: denní e-mail se semaforem (červená, oranžová, zelená) a odkazy přímo na odstavec ve zdrojovém PDF.
• Člověk: právníci hodnotí každou položku a AI tuto zpětnou vazbu využívá při dalších posouzeních. Co ze změny plyne, rozhoduje právní tým.

Rowan Legal: judikatura pro advokátní kancelář

• Co je spustí: agenti běží nepřetržitě na pozadí.
• Co čtou: judikaturu, kterou sami vyhledávají.
• Výstup: relevantní rozhodnutí pro advokáty.
• Člověk: zda se rozhodnutí na věc použije, posoudí advokát.

Kdy musí u AI agenta rozhodnout člověk?

V zásadě tehdy, když má rozhodnutí pro dotčenou osobu právní účinky nebo se jí obdobným způsobem významně dotýká. Čl. 22 GDPR dává subjektu údajů právo nebýt předmětem takového rozhodnutí, pokud je založené výhradně na automatizovaném zpracování. Bod odůvodnění 71 uvádí jako příklady automatizované zamítnutí on-line žádosti o úvěr a postupy elektronického náboru bez lidského zásahu.

Výjimky jsou tři: rozhodnutí je nezbytné k uzavření nebo plnění smlouvy s danou osobou, povoluje ho právo, které zároveň stanoví vhodná ochranná opatření, nebo je založené na jejím výslovném souhlasu. U smlouvy a souhlasu musí firma zajistit alespoň právo na lidský zásah, právo vyjádřit názor a právo rozhodnutí napadnout. Zpracování osobních údajů právnických osob GDPR nepokrývá (bod odůvodnění 14), takže faktura od s.r.o. pod čl. 22 nespadá. Limit pro schválení si u ní určíte sami.

Kliknutí na „Schválit“ ještě není lidské rozhodnutí. Pokyny WP251 rev.01 Pracovní skupiny pro ochranu údajů zřízené podle článku 29 požadují dohled, který není jen symbolickým gestem, a člověka s pravomocí a způsobilostí rozhodnutí změnit. Soudní dvůr EU v rozsudku C-634/21 (SCHUFA) ze 7. prosince 2023 označil za automatizované individuální rozhodování už automatizované stanovení skóre obchodní informační agenturou, pokud na něm rozhodujícím způsobem závisí, zda třetí osoba s danou osobou uzavře smluvní vztah, bude z něj plnit, nebo ho ukončí. V praxi to znamená, že člověk u schválení potřebuje podklady, čas a právo rozhodnout jinak.

AI Act vychází z účelu. Mezi vysoce rizikové systémy řadí příloha III mimo jiné systémy AI k analýze a třídění žádostí o zaměstnání a k hodnocení uchazečů a systémy k hodnocení úvěruschopnosti fyzických osob. Povinnosti pro ně platí podle nařízení (EU) 2026/1744 od 2. prosince 2027. Zavádějící subjekty pak musí pověřit lidským dohledem osoby s nezbytnou způsobilostí, odbornou přípravou a pravomocí (čl. 26 odst. 2). Agent, který provádí jen přípravný úkol, může podle čl. 6 odst. 3 vysoce rizikový nebýt, nikdy však tehdy, když provádí profilování fyzických osob.

Když agent přímo komunikuje s lidmi, platí od 2. srpna 2026 také čl. 50 odst. 1: systém musí být navržený tak, aby se dozvěděli, že komunikují se systémem AI, pokud to není zřejmé. Kde hranice leží ve vašem případě, posoudí váš právník. My ji technicky nastavíme a zdokumentujeme.

Kdy úkol potřebuje AI agenta?

Úkol potřebuje AI agenta teprve tehdy, když nestačí pevná pravidla a samotná odpověď je málo. Sám Anthropic radí hledat nejjednodušší řešení, což může znamenat agenta vůbec nestavět.

Test má pět otázek, ptejte se v tomto pořadí:

1. Dá se postup celý zapsat jako pravidla? Pak stačí pevná automatizace.
2. Stačí na konci odpověď a člověk jedná sám? Pak stačí chatový asistent.
3. Je počet kroků předem jasný? Pak stačí pevný postup s modelem v jednotlivých krocích. Pokud závisí na obsahu, mluví to pro agenta.
4. Dá se výsledek zkontrolovat dřív, než se projeví? Pokud ne, úkol zůstává na člověku.
5. Opakuje se úkol natolik často, aby se vyplatila stavba i provoz? Spočítejte hodiny týdně.

Přesně to dělá náš jednodenní workshop AI agenti pro firmy: úkoly sepíšeme s odhady vašich lidí. Pokud nenajdeme aspoň 20 hodin týdně práce, kterou mohou převzít agenti, workshop neplatíte.

Časté otázky

Je ChatGPT AI agent?

V běžném chatu ne: ptáte se, model odpovídá a jednáte vy. Agentem se model stane, až když smí používat nástroje a sám volí kroky. Rozhoduje tedy nastavení, ne název produktu.

Vztahuje se AI Act i na AI agenty?

Ano, ale ne pod tímto názvem. Slovo „agent“ se v textu nařízení nevyskytuje. Agent obvykle spadá pod pojem „systém AI“ z čl. 3 bodu 1 a povinnosti se řídí účelem. Stejný agent se tak u faktur posuzuje jinak než u žádostí o zaměstnání.

Co AI agenti neumí?

O vaší firmě vědí jen to, co je v napojených systémech a v zadání. Mohou špatně přečíst dokument nebo chybně použít pravidlo a působit přitom jistě. Každý agent proto potřebuje záznam kroků a místo, kde se chyba zachytí dřív, než způsobí škodu.

Musí člověk schvalovat každý krok?

Ne, jinak se přínos ztratí. Bez schválení může běžet to, co se významně nedotýká žádné osoby a dá se snadno opravit, třeba přiřazení požadavku nebo uložení dokumentu. Schválení potřebuje platba nad limit, změna smlouvy a vše, co se týká práv konkrétní osoby.