Kde mizí tvoje tokeny: 5 důvodů + 6 okamžitých oprav (2026)

Voláš LLM API, faktury rostou a přitom máš pocit, že model dělá jen zlomek toho, za co platíš. Nejsi sám.

Analýza reálných AI API sessionů ukazuje, že více než 50 % tokenů se spotřebuje ještě předtím, než AI napíše první slovo odpovědi. Nejde o to, že by modely byly předražené. Jde o to, kde přesně tokeny zmizí — a že většina týmů to vůbec nesleduje.

V červnu 2026 se situace ještě zostřila: kontextová okna narostla na stovky tisíc tokenů, agentní frameworky se standardizují kolem MCP a každý nástroj přináší vlastní schéma. Cena za nedbalost tedy roste.

Tady je 5 konkrétních příčin, seřazených podle dopadu, a 6 oprav, které můžeš aplikovat hned.

01Tool schema bloat: desítky tisíc tokenů za nic

Pokud používáš AI s nástroji (function calling, MCP servery, agentní frameworky), každý request tahá s sebou definice všech dostupných nástrojů. Celé jejich schéma, popis, parametry.

U typické Claude Code sessiony to znamená 40 000–60 000 tokenů samotných definic nástrojů na každý request — ještě předtím, než přijde tvůj dotaz nebo jakýkoliv kód. S rozšiřujícím se ekosystémem MCP serverů tento overhead rychle roste. Nainstaluješ-li si například servery pro GitHub, databázi, Slack, Notion a pár interních nástrojů, můžeš se snadno dostat nad 80 000 tokenů jen na schématech.

Co s tím:

• Neposílej všechna schémata vždy. Implementuj tool search — dynamické načítání jen těch nástrojů, které jsou relevantní pro aktuální kontext
• Zkrať popisy nástrojů na minimum. Model si poradí s "search files" místo pětiřádkového vysvětlení
• U agentů rozděl toolset podle fáze práce — jiné nástroje pro plánování, jiné pro implementaci, jiné pro testování
• Pravidelně audituj MCP servery: každý nový server může přidat tisíce tokenů
• Zvaž přepnutí na lehčí alternativy nástrojů, pokud jejich schémata narůstají neúměrně hodnotě

Redukce z 50 000 na 20 000 tokenů samotných schémat = úspora 60 % na každém requestu jen tímto krokem.

02Propadlá cache: 10× vyšší cena za jeden nevhodný okamžik

Prompt caching je jednou z největších pák na snížení nákladů — opakovaný obsah (systémové prompty, dokumentace, kontext projektu) platíš jen zlomek původní ceny. Zní to skvěle. Ale v praxi je háček.

Cache u Claude vyprší za 5 minut (nebo 1 hodinu za příplatek). Pokud máš dlouhé sessiony s pomalejším tempem práce, cache ti vyprší přesně tehdy, kdy na ni spoléháš.

Reálná čísla: v delších sessions 50–60 % requestů narazí na vypršenou cache — a zaplatí 10× víc, než by muselo.

Co s tím:

• Slaď workflow s TTL cache. Kratší prompty → kratší pauzy mezi requesty
• Pro déle běžící projekty investuj do 1hodinové cache (stojí to, pokud máš velký systémový prompt)
• Sleduj cache hit rate v telemetrii — pokud je nízký, buď zrychlíš tempo, nebo přehodnotíš, co cachovat
• Produkční API volání dávej do batchů, kde se cache lépe využije
• Naplánuj si blokovou práci: místo jednoho dotazu každých 10 minut udělej větší dávku najednou

03Zbytečné čtení souborů: platíš za to samé třikrát

Agentní AI systémy (a vývojáři, kteří ručně posílají soubory do kontextu) mají tendenci číst stejné soubory znovu a znovu. Model přečte config.ts v kroku 1, pak ho znovu v kroku 4, pak ještě jednou v kroku 7.

Každé načtení souboru = tokeny navíc. U projektu se soubory po stovkách řádků to rychle roste. Představ si soubor o 500 řádcích, který se načte pětkrát během jedné sessiony. To je 2 500 řádků přenesených zbytečně.

Co s tím:

• Udržuj working memory — seznam souborů, které model v aktuální session už četl. Před dalším čtením zkontroluj, jestli se soubor změnil
• Pracuj s diff-only operacemi — místo celého souboru posílej jen relevantní změny nebo konkrétní úseky
• Při ruční práci s AI: pokud odkazuješ na soubor, který model v konverzaci již viděl, neposílej ho znovu — postačí název a reference
• Používej semantic search v kódu místo načítání celých souborů
• Nastav pravidla pro tvého agenta: před čtením souboru se vždy zeptej, jestli už není v paměti

04Kvadratický růst kontextu: čím delší session, tím dražší každý krok

Tohle je nejzáludnější problém, protože není vidět na první pohled.

Každý request v konverzaci přenáší celou historii od začátku session. Zpráva v turnu 10 nese 10× více tokenů kontextu než zpráva v turnu 1. Dlouhá debugging session nebo vícehodinová práce s AI na projektu tak generuje kvadratický růst tokenů — ne lineární.

Prakticky: session s 50 turns může spotřebovat stovky tisíc tokenů jen na přenášení historické konverzace, kterou model z 80 % ani nepotřebuje.

Co s tím:

• Pravidelná kompakce: každých 10–15 turnů vygeneruj stručné shrnutí sessiony, zahoď historii a začni s čistým kontextem + shrnutím
• Používej /compact v Claude Code nebo ekvivalent ve tvém frameworku
• Rozděluj dlouhé úkoly na samostatné sessiony s jasně definovanými výstupy — místo jedné 3hodinové session tři hodinové s předáváním výsledků
• U API integrací implementuj sliding window — v kontextu drž jen posledních N relevantních turnů
• Sleduj počet turnů a průměrnou cenu za request — pokud roste, je čas komprimovat

05Přebujelé systémové prompty: platíš za ně při každém requestu

Systémový prompt jde s každým requestem. Je to jeden z mála míst, kde platíš fixní overhead na každé volání — bez ohledu na to, jak jednoduchý dotaz posíláš.

Typický problém: systémový prompt narostl organicky, nikdo ho neprořezal, a teď má 4 000+ tokenů plných instrukcí, které model ve většině kontextů vůbec nepotřebuje.

Při 1 000 requestech denně = 4 miliony tokenů jen na systémový prompt.

Co s tím:

• Audituj jednou za měsíc: projdi systémový prompt a ptej se ke každé části — "dostávám odpověď, kde tato instrukce viditelně pomohla?"
• Nahraď rozvláčné vysvětlení klíčovými slovy. Model rozumí zkratkám
• Rozděl instrukcím na statickou část (do cache) a dynamickou část (kontext aktuálního úkolu) — dynamiku nepotřebuješ cachovat
• Odstraň příklady, které už model zvládá bez nich
• Vyhoď duplicitní instrukce, které se překrývají s jinými částmi

06Bonusová oprava: Edit místo follow-up zprávy

Jedna z nejdražších zvyků v chatových rozhraních: posílat opravy jako novou zprávu. Zpráva v turnu 30 stojí 30× víc než zpráva v turnu 1. Místo "Ne, myslel jsem..." jako nová zpráva — klikni na Edit na původním promptu, oprav ho a znovu vygeneruj. Špatná výměna se smaže a neprodražuje každý další turn.

07Jak měřit spotřebu tokenů ve svém týmu

Než začneš optimalizovat, potřebuješ vidět čísla. Zde je několik způsobů, jak začít měřit:

• Telemetrie API volání: loguj počet tokenů na request, cache hit rate a délku systémového promptu
• Měsíční review: porovnej celkovou spotřebu tokenů s počtem dokončených úkolů
• A/B testování: vyzkoušej kompaktní systémový prompt na jednom projektu a porovnej náklady
• Nástroje: Anthropic Console, OpenAI Dashboard a Langfuse nabízejí detailní přehledy spotřeby

Bez měření jedeš naslepo. S měřením zjistíš, který z pěti problémů tě stojí nejvíc peněz.

08Kde začít

Pokud implementuješ AI API a chceš okamžitý dopad, prioritizuj takhle:

Nejlevnější oprava s největším okamžitým efektem: zeštíhlit systémový prompt a nastavit správnou strategii cache. Obě věci lze udělat za hodinu.

Největší dlouhodobá páka: tool search a compact kontextu — ale vyžadují víc inženýrské práce.

Reálný dopad správné kombinace: redukce průměrné ceny z 50 000 tokenů na request na 15 000–20 000 tokenů. To je 60–70 % úspora — bez ztráty kvality výstupů.

09Nejčastější chyby při optimalizaci tokenů

Když týmy začnou řešit spotřebu tokenů, často narazí na stejné pasti. Tady jsou tři, kterým se vyhni:

1. Příliš agresivní zkracování systémového promptu

Snížíš-li systémový prompt o 80 %, ale přitom odstraníš kritické instrukce, může se zhoršit kvalita výstupů. Optimalizace má být iterativní: změň, otestuj, měř.

2. Ignorování cache hit rate

Bez sledování cache netušíš, jestli tvá optimalizace vůbec funguje. Nastav si minimálně měsíční review v nástrojích, které používáš.

3. Snažení se ušetřit za každou cenu

Někdy je levnější model dražší na čase. Pokud ti Haiku ušetří 50 % tokenů, ale výsledek musíš opravovat dvakrát, neušetřil jsi nic. Tokenová optimalizace musí jít ruku v ruce s kvalitou.

10Shrnutí pro rychlé nasazení

Pokud si z tohoto článku odneseš jen jednu věc, ať je to tato: začni měřit. Bez dat optimalizuješ naslepo a pravděpodobně utratíš čas změnami, které nemají vliv. Druhá nejdůležitější věc: komprimuj systémový prompt a sleduj cache hit rate. Tyto dvě změny ti často vrátí desítky procent nákladů během jednoho týdne. Až budeš mít přehled, přejdi k tool search a strukturovanému řízení kontextu. Postupuj iterativně, měř dopad každé změny a udržuj kvalitu výstupů jako primární metriku.

Tokeny nemizí proto, že by AI dělala víc práce. Mizí proto, že přenášíš věci, které model nepotřebuje. V roce 2026, kdy se AI stává standardní součástí každého produktu, je optimalizace tokenů konkurenční výhodou.