Kuidas AI-agendid mäletavad: mälu, kontekst ja miks see on raske
Üks suurimaid erinevusi veenva AI-agendi ja frustreriva vahel on mälu. Agent, kes mäletab teie piiranguid, eelistusi ja seda, mida ta juba proovis, tundub võimekas. See, kes igal sammul algusest peale alustab, tundub katki. Aga „mälu” AI-süsteemides ei ole päris see, mida see sõna eeldab.
Miks agentidel on mälu vaja
Agent töötab tsüklis: jälgib, otsustab, tegutseb, jälgib uuesti. Selleks et tsükkel oleks mõttekas, peavad hilisemad sammud teadma, mis varem juhtus. Mälu võimaldab agendil:
- Jälgida mitmeastmelist plaani ja selle edenemist.
- Vältida juba proovitud tegevuste kordamist.
- Rakendada teie eelistusi ilma kahekordse meeldetuletuseta.
- Kasutada varasemate vahendikõnede tulemusi hilisemates otsustes.
Ilma mäluta on iga samm uus algus ega saa oma tööle tugineda.
Mälu kaks liiki
On kasulik eristada mälu ajalise ulatuse järgi.
Lühiajaline (töö-)mälu on praeguse vestluse või ülesande kontekst — senised sõnumid, plaan, viimased vahendite tulemused. See asub mudeli kontekstiaknas, mis on piiratud. Kui vestlus muutub liiga pikaks, tõrjutakse vanemad üksikasjad välja. Just sellepärast võib agent tunduda, et ta on „unustanud” midagi, mida ütlesite tund tagasi.
Pikaajaline mälu püsib seansside vahel. See võib olla faktide hoidla teie kohta, varasemate projektide kohta või saadud õppetundide kohta. Agent toob vajalikud osad vajadusel välja, nagu te võiksite meenutada märkust vanast märkmikust.
Kuidas pikaajaline mälu töötab
Enamik süsteeme kasutab ühise mustri varianti:
- Haaramine. Otsustada, mida tasub meelde jätta — eelistus, otsus, kasulik fakt.
- Salvestamine. Salvestada see kusagile püsivalt, sageli tekstina koos arvulise esitusega (manustusega), mis edastab selle tähenduse.
- Välja toomine. Kui saabub uus ülesanne, otsida hoidlast sellega seotud mälestusi.
- Süstimine. Lisada välja toodud mälestused agendi konteksti, et ta saaks neid kasutada.
Just väljatoomise sammus peitub suur osa raskusest. Liiga vähe välja tuues kaotab agent olulise. Liiga palju välja tuues kulutate konteksti ja segate teda ebaoluliste üksikasjadega.
Mida agendid mäletavad — ja mida ei peaks
Mitte kõik ei vääri säilitamist. Head mälusüsteemid on valivad:
- Kasulik säilitada: väljendatud eelistused, korduvad piirangud, juba tehtud otsused, faktid, mida kasutaja kinnitas.
- Riskantne säilitada: tundlikud isiklikud andmed, vananenud teave, eeldused, mida kasutaja kunagi ei kinnitanud, ühekordsed üksikasjad, millel hiljem pole tähtsust.
Halb mäluhügieen tekitab päris tagajärgi. Agent, kes salvestab vale eelduse ja rakendab seda pidevalt, teeb sama vea edasi — enesekindlalt. Agent, kes mäletab tundlikke andmeid, mida tal ei peaks olema, loob privaatsusprobleemi.
Miks mälu on tõeliselt raske
Mitmed takistused teevad agendi mälust praktikas lahendamata probleemi:
- Piiratud kontekst. Isegi suurtel kontekstiakendel on piirid ja nende täitmine kõigega halvendab tähelepanu.
- Asjakohasus. Otsustamine, millele praeguse ülesande puhul meenutada, sarnaneb rohkem otsinguprobleemiga kui lihtsa ülevaatusega.
- Järjepidevus. Mälestused võivad üksteisele vastu rääkida või vananeda, kui asjaolud muutuvad.
- Omistamine. On raske öelda, milline mälestus põhjustas millise otsuse, mis raskendab veaotsingut.
- Privaatsus. Kasutajad peavad teadma, mida mäletatakse, ning seda nägema ja kustutama saama.
Praktikalised kujundusvalikud
Kui ehitate või hindate agenti, paljastavad mõned küsimused selle mälu tegeliku taseme:
- Kas ta mäletab seansside vahel või ainult ühe vestluse sees?
- Kas saate näha ja muuta, mis ta teie kohta salvestas?
- Kas ta kokkuvõtstab vana konteksti selle asemel, et toore ajalugu sisse trukkida?
- Kas ta unustab või ajakohastab teavet, mis ei kehti enam?
- Kas ta oskab seletada, miks ta millelegi meenus?
Selge ja hallatava mäluga agendid on usaldusväärsemad kui need, kes vaikselt kõik meelde jätavad.
Kokkuvõtteks
Agendi mälu ei ole üks omadus, vaid tervelt hulk kihte: lühiajaline kontekst praeguse ülesande jaoks, pikaajaline hoidla püsivate faktide jaoks ning väljatoomine, mis toob õiged osad õigel ajal tagasi. Just see muudab rea lahknevaid vastuseid terviklikuks, katkematuks tööks — aga see on ebatäiuslik ja agentid, kes sellega hästi toime tulevad, on need, kes on valivad, läbipaistvad ja austavad seda, mida ei peaks hoidma.
Get Ball — Ball
Get Ball