Back to all articlesAI a agenti

Jak si AI agenti pamatují: Paměť, kontext a proč je to těžké

Jedním z největších rozdílů mezi přesvědčivým AI agentem a frustrujícím je paměť. Agent, který si pamatuje vaše omezení, preference a to, co už zkoušel, působí schopně. Ten, který v každém kroku začíná od nuly, působí rozbitě. Ale „paměť” v AI systémech není úplně to, co to slovo napovídá.

Proč agenti potřebují paměť

Agent pracuje ve smyčce: sleduje, rozhoduje, jedná, znovu sleduje. Aby tato smyčka dávala smysl, musí pozdější kroky vědět, co se stalo dříve. Paměť agentovi umožňuje:

  • Sledovat vícekrokový plán a jeho průběh.
  • Vyhnout se opakování akcí, které už zkoušel.
  • Použít vaše preference, aniž by mu to muselo být řečeno dvakrát.
  • Využít výsledky dřívějších volání nástrojů v pozdějších rozhodnutích.

Bez paměti je každý krok novým začátkem a agent nemůže stavět na vlastní práci.

Dva druhy paměti

Pomáhá rozlišovat paměť podle časové osy.

Krátkodobá (pracovní) paměť je kontext aktuálního rozhovoru nebo úkolu — dosavadní zprávy, plán, nedávné výsledky nástrojů. Ta sídlí v kontextovém okně modelu, které je omezené. Když je rozhovor příliš dlouhý, starší detaily jsou vytlačeny. Proto může agent vypadat, že „zapomněl” na něco, co jste řekli před hodinou.

Dlouhodobá paměť přetrvává mezi relacemi. Může jít o úložiště faktů o vás, předchozích projektech nebo získaných zkušeností. Agent si relevantní části vytáhne, když je potřebuje, podobně jako vy si můžete vzpomenout na poznámku ze starého sešitu.

Jak funguje dlouhodobá paměť

Většina systémů používá variantu běžného vzorce:

  1. Zachycení. Rozhodnout, co stojí za zapamatování — preference, rozhodnutí, užitečný fakt.
  2. Uložení. Uložit to někam trvale, často jako text s číselnou reprezentací (embeddingem), která zachycuje jeho význam.
  3. Vyvolání. Když přijde nový úkol, prohledat úložiště a najít související vzpomínky.
  4. Vložení. Přidat vyvolané vzpomínky do kontextu agenta, aby je mohl použít.

Právě ve fázi vyvolání se skrývá většina výzvy. Pokud vyvoláte příliš málo, agent přehlédne to, na čem záleží. Pokud vyvoláte příliš mnoho, plýtváte kontextem a mate ho nepodstatnými detaily.

Co si agenti pamatují — a co by neměli

Ne vše si zaslouží uchovat. Dobré paměťové systémy jsou selektivní:

  • Užitečné uchovat: vyjádřené preference, opakující se omezení, přijatá rozhodnutí, fakta potvrzená uživatelem.
  • Rizikové uchovat: citlivé osobní údaje, zastaralé informace, předpoklady, které uživatel nikdy nepotvrdil, jednorázové detaily, které později nebudou hrát roli.

Špatná hygiena paměti má reálné důsledky. Agent, který uloží chybný předpoklad a dál ho uplatňuje, bude dělat stejnou chybu znovu a znovu — sebevědomě. Agent, který si pamatuje citlivá data, která by neměl mít, vytváří problém se soukromím.

Proč je paměť skutečně těžká

Několik překážek dělá z paměti agentů dosud nevyřešený problém v praxi:

  • Konečný kontext. I velká kontextová okna mají své limity a přecpávání vším zhoršuje pozornost.
  • Relevantnost. Rozhodnutí, co vyvolat pro aktuální úkol, je bližší problému vyhledávání než jednoduchému vyhledání.
  • Konzistence. Vzpomínky si mohou odporovat nebo zastarat, jak se mění okolnosti.
  • Atribuce. Je těžké určit, která vzpomínka vedla k jakému rozhodnutí, což ztěžuje ladění.
  • Soukromí. Uživatelé musí vědět, co se pamatuje, musí to moci vidět a moci to smazat.

Praktická rozhodnutí při návrhu

Pokud stavíte nebo hodnotíte agenta, odhalí několik otázek, jak dobrá je jeho paměť ve skutečnosti:

  • Pamatuje si napříč relacemi, nebo jen v jedné konverzaci?
  • Můžete vidět a upravit, co o vás uložilo?
  • Shrnuje starý kontext místo toho, aby do něj cpal surovou historii?
  • Zapomíná nebo aktualizuje informace, které už nejsou pravdivé?
  • Umí vysvětlit, proč si něco vyvolalo?

Agenti s jasnou, kontrolovatelnou pamětí mívají větší důvěru než ti, kdo si v tichu pamatují všechno.

Shrnutí

Paměť agenta není jediná funkce, ale vrstva: krátkodobý kontext pro aktuální úkol, dlouhodobé úložiště trvalých faktů a vyvolání, které přináší správné části ve správný čas. Právě to mění řadu nesouvisejících odpovědí v souvislou, plynulou práci — ale není dokonalá a agenti, kteří s ní zacházejí dobře, jsou ti selektivní, transparentní a respektující to, co by neměli uchovávat.

Get Ball — Ball

Get Ball

Reading in English? Switch language in the menu.