Kontextové okno: kolik textu může model AI najednou přečíst v roce 2026

Kontextové okno je nejvyšší množství textu, měřené v tokenech, které velký jazykový model dokáže při tvorbě odpovědi najednou zohlednit. Do něj se počítá všechno: systémové instrukce, zpráva uživatele, historie konverzace, načtené dokumenty i odpověď, kterou model vytvoří. Jakmile je limit dosažen, starší obsah se musí vypustit nebo shrnout.

Berte to jako pracovní paměť modelu, ne jako dlouhodobé úložiště. Cokoli mimo okno je pro model v daném požadavku prostě neviditelné, a proto velikost a správa kontextového okna určují, co asistent AI skutečně zvládne.

Co je kontextové okno?

Kontextové okno určuje, kolik informací může model v jednu chvíli mít před očima. Nejde o trvalou paměť, ale o aktivní pracovní prostor pro jeden požadavek. Jakmile konverzace nebo sada dokumentů okno přesáhne, systém buď nejstarší části zkrátí, nebo je zhustí do shrnutí, protože původní tokeny se už nevejdou.

Proto se může chatbot zdát, že zapomněl začátek dlouhé konverzace. Nejstarší zprávy vypadly z okna, pokud nebyly výslovně zachovány. Pochopení této hranice vysvětluje velkou část toho, jak a proč se asistenti AI chovají tak, jak se chovají.

Tokeny: jednotka kontextového okna

Kontextová okna se měří v tokenech, ne ve slovech nebo znacích. Token může být znak, část slova, celé slovo nebo krátký symbol, který vytvoří tokenizér, obvykle pomocí kódování párů bajtů. Zhruba platí, že jeden token je asi čtyři znaky, neboli zhruba tři čtvrtiny anglického slova, i když se to liší podle jazyka a tokenizéru.

Protože se účtování i limity počítají v tokenech, stejná myšlenka vyjádřená stručně zabere z okna méně místa než zdlouhavá verze. U dlouhých dokumentů a dlouhých konverzací přímo určuje účinnost tokenů, kolik se vejde a kolik místa zbude na uvažování modelu a na jeho odpověď.

Jak kontextové okno funguje s pozorností

Transformerové modely zpracují všechny tokeny v okně najednou pomocí mechanismu pozornosti, kde každý token může potenciálně sledovat každý jiný token. To je mocné, ale drahé: náročnost pozornosti roste s druhou mocninou délky sekvence, takže 10000 tokenů znamená zhruba 100 milionů porovnání a 100000 tokenů zhruba 10 miliard.

Praktický strop nastavují dvě další omezení. Cache klíčů a hodnot roste s každým vygenerovaným tokenem a spotřebovává paměť grafické karty a šířka pásma mezi rychlou a pomalou pamětí se stává úzkým hrdlem. Tyto faktory dohromady vysvětlují, proč jsou kontextová okna omezená a proč větší okna stojí víc provozu. Základní návrh popisuje článek architektura transformer.

Jak velká jsou kontextová okna v roce 2026?

Velikost oken rychle vzrostla. Starší konfigurace GPT-4 nabízely 8192 tokenů, zatímco GPT-4o dosahuje 128000. Modely Claude nabízely 200000 tokenů a v novějších verzích až 1000000, a Gemini 1.5 Pro je zdokumentován až s 2000000 tokeny. Otevřené modely jako Llama 3.1 běžně podporují 128000.

Tyto údaje jsou inzerovaná maxima, ne záruka kvality v celém rozsahu. Větší okno umožňuje vejít se víc, ale jak ukazuje následující část, vejít se víc neznamená, že model všechno využije dobře. Čísla pocházejí z publikovaných zdrojů dodavatelů a analytiků, nikoli z odhadů.

Limity: problém ztráty uprostřed

Větší okna se zhoršují zdokumentovaným způsobem. Efekt ztráty uprostřed znamená, že modely dobře sledují začátek a konec vstupu, ale ztrácejí přesnost u informací umístěných doprostřed. Analýzy hlásí měřitelný pokles kvality u modelů s dlouhým kontextem už od zhruba 32000 tokenů a model s 200000 tokeny může degradovat hluboko pod svým limitem.

Praktické ponaučení, jak to říkají odborníci z praxe, zní nevěřit technickému listu a otestovat své skutečné použití na cílové délce. Malé, zaměřené kontexty drží pozornost stabilněji než velmi velké, plné okrajově relevantního textu. Další tokeny mohou dokonce přidat šum, který snižuje kvalitu uvažování.

Správa kontextu: RAG a paměťové systémy

Protože větší okna jsou drahá a nedokonalá, provozní systémy se na ně zřídka spoléhají samy. Generování obohacené o vyhledávání načte jen nejrelevantnější pasáže a vloží je do promptu, který tak zůstává malý a zaměřený. Sémantická cache znovu používá odpovědi na podobné dotazy a paměťové systémy agentů oddělují krátkodobou konverzaci od dlouhodobých znalostí.

Proto na dělení obsahu na části záleží i pro vydavatele. Rozdělení obsahu na čisté, samostatně srozumitelné sekce usnadňuje systému vyhledávání vložit správnou pasáž do omezeného okna, místo aby model musel prodírat celou stránkou.

Proč kontextové okno záleží na SEO a GEO

Pro generativní optimalizaci (GEO) je kontextové okno prostorem, o který váš obsah soutěží uvnitř odpovědi AI. Když asistent jako ChatGPT, Perplexity nebo Gemini načítá zdroje, do okna se dostane jen omezený počet tokenů, takže stručné, dobře strukturované pasáže, které na otázku odpovídají přímo, se použijí spíše.

To odměňuje přehledné dělení na části, psaní s odpovědí na prvním místě a těsnou relevanci, tedy stejné zásady, na nichž stojí obsah připravený pro LLM. Obsah, který plýtvá tokeny na vatu, se při načítání a skládání odpovědi spíš neuplatní. Obsah, který odpověď podá stručně, si své místo v okně vybojuje a s ním i šanci na citaci.

Závěr

Kontextové okno je rozpočet tokenů, který model používá ke čtení promptu a psaní odpovědi. Funguje jako pracovní paměť, ne jako trvalé úložiště. Omezují ho náklady na pozornost, paměť cache a šířka pásma, a i velká okna trpí efektem ztráty uprostřed, takže vejít se víc neznamená využít víc.

Pro vydavatele z toho plyne psát stručný, dobře rozdělený obsah s odpovědí na prvním místě, který přečká načtení do omezeného okna. Pomáhají tomu techniky jako generování obohacené o vyhledávání a čisté dělení obsahu na části. Zdroje: Redis a Bitfern.