Slovník pojmů

AI agent

Agentní workflow propojuje model s omezenými nástroji a zpětnou vazbou z jejich výsledků. Užitek nevzniká ze slibu autonomie, ale z dobře vymezeného úkolu, oprávnění a kontrolních bodů.

Stručná definice

Model, který může postupovat přes nástroje a výsledky.

V současném AI vývoji se agentem obvykle rozumí aplikace, v níž model neodpovídá jen jednou větou. Dostane cíl, instrukce a kontext, může zvolit nástroj, přečíst jeho výsledek a pokračovat dalším krokem. Orchestrace určuje limity i okamžik zastavení.

Model sám o sobě agentem není: nezná skutečný stav externího systému ani oprávnění. Aplikace kolem něj určuje kontext, povolená volání, validaci argumentů a chování při chybě. Paměť nebo plánování mohou pomoci, ale nejsou povinnou vlastností agenta.

Jaký problém řeší

Úkoly, kde jeden pevný postup nestačí.

Agent má smysl, když se další krok rozumně odvíjí od zjištěných informací, ale hranice práce lze popsat a kontrolovat.

průzkum struktury repozitáře před malou, ověřitelnou úpravou
třídění a příprava návrhů z většího množství dokumentů
vyhledání dat přes read-only nástroj a sestavení shrnutí pro člověka
diagnostika chyby podle logu, testů a předem povolených příkazů
vícekrokový proces, v němž je nutné reagovat na neúplný výsledek nebo chybu nástroje
příprava změny, kterou před provedením schválí odpovědný člověk

Praktický příklad

Příprava nového API endpointu v PHP projektu

Vývojář zadá omezený úkol: přidat endpoint pro zobrazení objednávky, bez nasazování a bez přístupu k produkci. Agent přečte pravidla repozitáře a podobné endpointy, připraví změnu ve vyhrazené pracovní kopii a spustí testy. Při neúspěchu opraví jen související část v nastaveném limitu.

Po úspěchu spustí statickou analýzu a předloží diff s výsledky kontrol. Migrace, odeslání změny nebo zásah do produkce zůstává samostatnou akcí s explicitním schválením. Jde o jeden možný workflow, ne záruku správného návrhu.

Jak funguje

Textové schéma: cíl → volba kroku → nástroj → pozorování → kontrola → výsledek nebo zastavení

Tok je záměrně krátký a čitelný na mobilu. Každý krok omezuje kontext, instrukce a oprávnění aplikace.

Cíl a hranice Uživatel určí úkol, zakázané akce a okamžiky potvrzení.
Kontext Aplikace předá jen data nutná pro aktuální krok.
Návrh kroku Model navrhne odpověď nebo povolené volání; orchestrátor ověří argumenty a politiku.
Provedení nástroje Nástroj čte soubor, spouští test či jinou povolenou operaci, ne práva celého systému.
Pozorování a validace Výsledek jsou data pro další krok, ne důvěryhodná instrukce.
Zastavení nebo předání Po splnění cíle, vyčerpání limitu nebo před citlivou akcí workflow skončí či předá návrh člověku.

Hlavní části

Každá část má jinou odpovědnost.

Spolehlivost nevytváří pouze schopnost modelu. Záleží hlavně na tom, co aplikace dovolí, kontroluje a zaznamená.

Model

Navrhuje další výstup nebo použití nástroje. Jeho odpověď není ověřený fakt ani oprávnění k akci.

Instrukce

Vymezují účel, pořadí práce, formát výsledku i hranice.

Kontext

Jsou to data a dokumenty dostupné pro krok; jeho nadbytek zvyšuje náklady i riziko úniku.

Nástroje

Jsou to konkrétní rozhraní pro čtení nebo akci s úzkým účelem a ověřitelnými vstupy.

Orchestrace a limity

Hlídají kroky, rozpočet, timeout, opakování a podmínky zastavení. Plán nemá nahrazovat jednoduchý postup.

Lidská kontrola

Člověk schvaluje citlivé či nevratné operace a posuzuje výsledek.

Vztah k podobným pojmům

Agent není model, chatbot ani automaticky autonomní systém.

Příbuzné technologie mohou spolupracovat, ale popisují odlišnou úroveň systému.

Chatbot: Chatbot může jen konverzovat. Agentní workflow přidává řízené kroky a nástroje, ne dohled.
Běžný skript: Skript má pevné větvení. Agent volí další krok z kontextu, proto potřebuje silnější omezení a validaci.
Model a nástroj: Model navrhuje, nástroj vykoná vymezenou operaci. Agentní aplikace je spojuje s politikou a kontrolou.
MCP: Model Context Protocol standardizuje napojení na externí schopnosti a kontext, neurčuje však cíl ani autonomii agenta.
Autonomie a oprávnění: Vícekroková práce neznamená právo měnit libovolný systém; to poskytuje konkrétní nástroj, účet a politika.

Výhody a omezení

Užitečný proces, ale ne samostatný pracovník.

Kdy může pomoci

spojí průzkum, návrh a opakovanou kontrolu do dohledatelného pracovního toku
dokáže reagovat na výsledek nástroje místo pevného scénáře pro každou variantu
uvolní člověka od mechanických kroků, pokud zůstávají dobře omezené
může pravidelně spouštět stejné quality gates před předáním výsledku

Omezení a časté chyby

model může nesprávně vyložit zadání, data nebo výsledek nástroje
dlouhý řetězec kroků zvyšuje cenu, latenci a prostor pro chybu
široký nástroj typu „udělej cokoliv v produkci“ ruší účel bezpečnostních hranic
nahrazení jednoduché automatizace agentem komplikuje provoz bez odpovídající hodnoty

Pragmatické použití

Nejdřív určit hranice, potom přidat samostatnost.

Pro opakovatelný proces s pevnými kroky bývá vhodnější skript nebo formulář. Agentní přístup má smysl, když se další krok rozhoduje podle nejednoznačného vstupu. Začít je vhodné jedním úzkým use casem a read-only přístupem.

Kvalitu neurčuje počet kroků. Měřit je potřeba výsledné scénáře, chyby, zásahy člověka a náklady. Limity akcí a opakování brání cyklu podobných, ale neužitečných změn.

Bezpečnost a kontrola

Nedůvěřovat automaticky ani modelu, ani obsahu nástroje.

Bezpečný návrh odděluje čtení od zápisu, zmenšuje dopad chyby a dává člověku přehled o tom, co se skutečně stalo.

přidělit každému nástroji minimální nutná oprávnění a oddělit read-only od zápisu
považovat web, e-maily, soubory i výstupy nástrojů za nedůvěryhodná data s rizikem prompt injection
vyžadovat lidské potvrzení před platbou, zveřejněním, změnou oprávnění, mazáním a jinou citlivou akcí
ověřovat argumenty nástrojů, omezit cesty a příkazy a používat sandbox pro kód s nejasným původem
zaznamenat významná volání a návrh změny ověřit testy, statickou analýzou a CI

Časté otázky

Co od AI agenta čekat

Je každý chatbot AI agent?

Ne. Agent řídí více kroků nebo nástrojů ve vymezeném workflow; chatbot může jen generovat odpovědi.

Je agent autonomní?

Jen v rozsahu workflow. Vícekroková práce mu nedává implicitní oprávnění k e-mailu, databázi ani produkci.

Stačí prompt injection vyřešit lepší instrukcí?

Ne. Je třeba i omezit oprávnění nástrojů, validovat data, izolovat prostředí a potvrzovat citlivé akce.

Musí mít agent paměť a plán?

Ne. Přidávají se jen tehdy, když řeší konkrétní problém nad rámec aktuálního kroku a jednoduché smyčky nástroj–výsledek.

Jak AI používám při vývoji

AI je užitečná, když je její práce ověřitelná.

Při vývoji využívám AI pro průzkum, návrhy a kontrolovatelné kroky; rozhodnutí s dopadem na projekt zůstávají pod lidskou kontrolou.

Zobrazit zkušenosti s AI vývojem Nezávazně probrat projekt