Kaip AI agentai prisimena: atmintis, kontekstas ir kodėl tai sunku
Vienas didžiausių skirtumų tarp įtikinamo AI agento ir erzinančio yra atmintis. Agentas, kuris prisimena tavo apribojimus, tavo pageidavimus ir tai, ką jau bandė, atrodo pajėgus. Tas, kuris kiekviename žingsnyje pradeda iš pradžių, atrodo sugedęs. Bet „atmintis” AI sistemose nėra visai tai, ką šis žodis reiškia.
Kodėl agentams reikalinga atmintis
Agentas dirba cikle: stebi, nusprendžia, veikia, vėl stebi. Kad šis ciklas turėtų prasmę, vėlesni žingsniai turi žinoti, kas įvyko anksčiau. Atmintis leidžia agentui:
- Sekti daugiapakopį planą ir jo eigą.
- Nekartoti veiksmų, kuriuos jau bandė.
- Taikyti tavo pageidavimus be pakartotinio pasakymo.
- Panaudoti ankstesnių įrankių iškvietimų rezultatus vėlesniuose sprendimuose.
Be atminties kiekvienas žingsnis yra nauja pradžia, ir agentas negali remtis savo darbu.
Dviejų rūšių atmintis
Naudinga atskirti atmintį pagal laiko mastą.
Trumpalaikė (darbinė) atmintis — tai dabartinio pokalbio ar užduoties kontekstas: iki šiol pasakytos žinutės, planas, naujausi įrankių rezultatai. Ji gyvuoja modelio konteksto lange, kuris yra ribotas. Kai pokalbis per ilgas, senesnės detalės išstumiamos. Todėl agentas gali atrodyti „pamiršęs” ką nors, ką sakei prieš valandą.
Ilgalaikė atmintis išlieka tarp seansų. Tai gali būti faktų apie tave, ankstesnius projektus ar įgytas pamokas saugykla. Agentas prireikus išgauna atitinkamus gabalėlius, kaip tu prisimeni užrašą iš seno užrašų sąsiuvinio.
Kaip veikia ilgalaikė atmintis
Dauguma sistemų naudoja bendro modelio variantą:
- Fiksavimas. Nuspręsti, ką verta prisiminti — pageidavimą, sprendimą, naudingą faktą.
- Saugojimas. Išsaugoti patvariu būdu, dažnai kaip tekstą su skaitmeniniu atvaizdu (įterpiniu / embedding), perteikiančiu jo prasmę.
- Išgavimas. Kai atvyksta nauja užduotis, saugykloje ieškoti su ja susijusių atsiminimų.
- Įterpimas. Pridėti išgautus atsiminimus prie agento konteksto, kad jis galėtų juos panaudoti.
Išgavimo žingsnyje slypi didžioji dalis iššūkių. Paimi per mažai — agentas praleidžia svarbiausia. Paimi per daug — švaisti kontekstą ir painioji jį nereikalingomis detalėmis.
Ką agentai prisimena — ir ko neturėtų
Ne viską verta saugoti. Geros atminties sistemos yra atrankios:
- Naudinga saugoti: išreikšti pageidavimai, pasikartojantys apribojimai, jau priimti sprendimai, vartotojo patvirtinti faktai.
- Rizikinga saugoti: jautrūs asmens duomenys, pasenusi informacija, prielaidos, kurių vartotojas niekada nepatvirtino, vienkartinės detalės, kurios vėliau nebeturės reikšmės.
Prasta atminties higiena turi realių pasekmių. Agentas, kuris išsaugo neteisingą prielaidą ir ją nuolat taiko, toliau darys tą pačią klaidą — užtikrintai. Agentas, kuris prisimena jautrius duomenis, kurių neturėtų, sukelia privatumo problemą.
Kodėl atmintis iš tiesų sunki
Kelios kliūtys daro agento atmintį neišspręsta problema praktikoje:
- Ribotas kontekstas. Net dideli konteksto langai turi ribas, o jų prikimšimas viskuo silpnina dėmesį.
- Aktualumas. Nuspręsti, ką prisiminti konkrečiai užduočiai, labiau primena paieškos problemą nei paprastą žiūrėjimą.
- Nuoseklumas. Atsiminimai gali prieštarauti vieni kitiems arba pasenti aplinkybėms pasikeitus.
- Priskyrimas. Sunku pasakyti, kuris atsiminimas lėmė kurį sprendimą, o tai apsunkina derinimą.
- Privatumas. Vartotojai turi žinoti, kas prisimenama, galėti tai peržiūrėti ir galėti ištrinti.
Praktiniai projektiniai sprendimai
Jei kuri ar vertini agentą, keli klausimai atskleis, kaip gera iš tikrųjų jo atmintis:
- Ar jis prisimena tarp seansų, ar tik vieno pokalbio metu?
- Ar gali peržiūrėti ir pataisyti, ką jis apie tave išsaugojo?
- Ar jis apibendrina seną kontekstą, o ne kimša neapdorotą istoriją?
- Ar jis pamiršta ar atnaujina informaciją, kuri nebėra teisinga?
- Ar jis gali paaiškinti, kodėl ką nors prisiminė?
Agentai su aiškia, kontroliuojama atmintimi linkę būti patikimesni už tuos, kurie tyčia prisimena viską.
Apibendrinimas
Agento atmintis nėra viena savybė, o sluoksnis: trumpalaikis kontekstas dabartinei užduočiai, ilgalaikis patvarių faktų saugojimas ir išgavimas, grąžinantis reikiamus gabalėlius reikiamu metu. Ji paverčia nuoseklę nesusijusių atsakymų į darnų, nenutrūkstamą darbą — bet ji netobula, o agentai, kurie su ja gerai tvarkosi, yra atrankūs, skaidrūs ir gerbia tai, ko neturėtų saugoti.
Get Ball — Ball
Get Ball