Shrnutí pro správný kontext
Abyste z libovolného nástroje dostali co nejlepší odpověď / výstup, vždy jasně specifikujte zadání. AI nepřemýšlí obecně, ale vždy odpovídá v rámci toho, co ví z kontextu, který má k dispozici. Kvalita odpovědi tak je přímo úměrná relevantním informacím a zadáním na vstupu.
Výsledek druhého dotazu bude daleko lepší i přes to, že se pro účely tohoto webu stále držíme u stručných promptů.
Proč by vás mělo zajímat kontextové okno
Kontext pak nevzniká jen samotným promptem, ale také v rámci jedné konverzace, vlastní personalizací (jak jsme řešili v předchozí části) nebo v určité míře i historií všech chatů.
Možná jste si už sami všimli toho, že u delších konverzací najednou chatbot ztratil nit a začal po skvělých odpovědích tak trochu vařit z vody nebo odpovídat mimo mísu. V tu chvíli jste dosáhli kapacity tzv. kontextového okna.
Technické pozadí tokenizace a počtu tokenů pro nás teď nejsou podstatné. Stačí nám vědět, že se jedná o množství informací, které si AI „pamatuje“ a bere v úvahu v jednom okamžiku při odpovědi. V rámci dané konverzace tak máme přidělenou určitou kapacitu, kdy je daný nástroj schopen udržet daný kontext. Jakmile tuto kapacitu vyčerpáme, začne jakoby znovu. Rychle si projde předchozí konverzaci, aby pochopil co se řeší, ale už nedokáže tak dobře navázat.
Je to podobné, jako když budete řešit nějaký problém s technickou podporou. Pracovník do systému napíše pár bodů a odejde domů. Na tento požadavek naváže nová směna, která už má k dispozici jen shrnutí a nezná celý příběh ani průběh komunikace. A začne daný problém s vámi řešit znovu.
Jak pracovat s limity kontextového okna?
Většina nástrojů vám bohužel neprozradí, že jste vyčerpali kapacitu. Nicméně obecně platí, že u složitějších úloh se vyplatí začínat nový chat, kde již pracujete s předchozím výsledkem, shrnutím, případně tyto informace budete opakovat a opět shrnovat v již existujícím chatu.
- Krátká konverzace → AI reaguje přesně
- Dlouhá konverzace → pokud překročí limit, AI zapomene začátek.
Po delší konverzaci nechte vytvořit shrnutí a dále s ním pracujte. Buď ve stejném nebo novém chatu. Nový chat dokáže někdy odstranit začarovaný kruh, do které se možná dostanete.
Složité úkoly rozdělte na etapy. Nechtějte hned zázraky, ale úkoly dávkujte postupně v jednotlivých krocích.
Výsledky, které máte, můžete použít jako zdroj výchozích informací. K tomu se ale ještě dostaneme.