Back to all articlesAI a agenti

Ako si AI agenti pamätajú: Pamäť, kontext a prečo je to ťažké

Jedným z najväčších rozdielov medzi presvedčivým AI agentom a frustrujúcim je pamäť. Agent, ktorý si pamätaje vaše obmedzenia, preferencie a to, čo už skúšal, pôsobí schopne. Ten, ktorý v každom kroku začína od nuly, pôsobí rozbite. Ale „pamäť” v AI systémoch nie je úplne to, čo to slovo napovedá.

Prečo agenti potrebujú pamäť

Agent pracuje v slučke: sleduje, rozhoduje, koná, opäť sleduje. Aby táto slučka dávala zmysel, musia neskoršie kroky vedieť, čo sa stalo skôr. Pamäť agentovi umožňuje:

  • Sledovať viackrokový plán a jeho priebeh.
  • Vyhnúť sa opakovaniu akcií, ktoré už skúšal.
  • Použiť vaše preferencie bez toho, aby mu to muselo byť povedané dvakrát.
  • Využiť výsledky skorších volaní nástrojov v neskorších rozhodnutiach.

Bez pamäte je každý krok novým začiatkom a agent nemôže stavať na vlastnej práci.

Dva druhy pamäte

Pomáha rozlišovať pamäť podľa časovej osi.

Krátkodobá (pracovná) pamäť je kontext aktuálneho rozhovoru alebo úlohy — doterajšie správy, plán, nedávne výsledky nástrojov. Tá sídli v kontextovom okne modelu, ktoré je obmedzené. Keď je rozhovor príliš dlhý, staršie detaily sú vytlačené. Preto môže agent vyzerať, že „zabudol” na niečo, čo ste povedali pred hodinou.

Dlhodobá pamäť pretrváva medzi reláciami. Môže ísť o úložisko faktov o vás, predchádzajúcich projektoch alebo získaných skúseností. Agent si príslušné časti vyvolá, keď ich potrebuje, podobne ako vy si môžete spomenúť na poznámku v starom zošite.

Ako funguje dlhodobá pamäť

Väčšina systémov používa variantu bežného vzorca:

  1. Zachytenie. Rozhodnúť, čo stojí za zapamätanie — preferencia, rozhodnutie, užitočný fakt.
  2. Uloženie. Uložiť to niekam trvalo, často ako text s číselnou reprezentáciou (embeddingom), ktorá zachytáva jeho význam.
  3. Vyvolanie. Keď príde nová úloha, prehľadať úložisko a nájsť súvisiace spomienky.
  4. Vloženie. Pridať vyvolané spomienky do kontextu agenta, aby ich mohol použiť.

Práve vo fáze vyvolania sa skrýva väčšina výzvy. Ak vyvoláte príliš málo, agent prehliadne to, na čom záleží. Ak vyvoláte príliš veľa, plytváte kontextom a mätiete ho nepodstatnými detailmi.

Čo si agenti pamätajú — a čo by nemali

Nie všetko si zaslúži uchovať. Dobré pamäťové systémy sú selektívne:

  • Užitočné uchovať: vyjadrené preferencie, opakujúce sa obmedzenia, prijaté rozhodnutia, fakty potvrdené užívateľom.
  • Rizikové uchovať: citlivé osobné údaje, zastaralé informácie, predpoklady, ktoré užívateľ nikdy nepotvrdil, jednorazové detaily, ktoré neskôr nebudú hrať rolu.

Zlá hygiena pamäte má reálne dôsledky. Agent, ktorý uloží chybný predpoklad a ďalej ho uplatňuje, bude robiť tú istú chybu znova a znova — sebaisto. Agent, ktorý si pamätaje citlivé údaje, ktoré by nemal mať, vytvára problém so súkromím.

Prečo je pamäť naozaj ťažká

Niekoľko prekážok robí z pamäte agentov dodnes nevyriešený problém v praxi:

  • Konečný kontext. Ani veľké kontextové okná nemajú neobmedzené možnosti a precpávanie všetkým zhoršuje pozornosť.
  • Relevantnosť. Rozhodnutie, čo vyvolať pre aktuálnu úlohu, je bližšie problému vyhľadávania než jednoduchému vyhľadaniu.
  • Konzistentnosť. Spomienky si môžu odporovať alebo zastarať, ako sa menia okolnosti.
  • Atribúcia. Je ťažké určiť, ktorá spomienka viedla k akému rozhodnutiu, čo sťažuje ladenie.
  • Súkromie. Užívatelia musia vedieť, čo sa pamätaje, musia to vidieť a musia to vedieť odstrániť.

Praktické rozhodnutia pri návrhu

Ak staviate alebo hodnotíte agenta, odhalí niekoľko otázok, aká dobrá je jeho pamäť v skutočnosti:

  • Pamätaje si naprieč reláciami, alebo len v jednej konverzácii?
  • Môžete vidieť a upraviť, čo o vás uložilo?
  • Zhrnuje starý kontext namiesto toho, aby doň cpalo surovú históriu?
  • Zabúda alebo aktualizuje informácie, ktoré už nie sú pravdivé?
  • Vie vysvetliť, prečo si niečo vyvolalo?

Agenti s jasnou, kontrolovateľnou pamäťou mávajú väčšiu dôveru ako tí, ktorí si v tichu pamätajú všetko.

Zhrnutie

Pamäť agenta nie je jediná funkcia, ale vrstva: krátkodobý kontext pre aktuálnu úlohu, dlhodobé úložisko trvalých faktov a vyvolanie, ktoré prináša správne časti v správny čas. Práve to mení radu nesúvisiacich odpovedí na súvislú, plynulú prácu — ale nie je dokonalá a agenti, ktorí s ňou zaobchádzajú dobre, sú tí selektívni, transparentní a rešpektujúci to, čo by nemali uchovávať.

Get Ball — Ball

Get Ball

Reading in English? Switch language in the menu.