Kā AI aģenti atceras: atmiņa, konteksts un kāpēc tas ir grūti
Viena no lielākajām atšķirībām starp pārliecinošu AI aģentu un nomācošu ir atmiņa. Aģents, kas atceras tavus ierobežojumus, tava preferences un to, ko tas jau ir mēģinājis, šķiet spējīgs. Tas, kas katru soli sāk no nulles, šķiet salauzts. Bet “atmiņa” AI sistēmās nav gluži tas, ko šis vārds liek domāt.
Kāpēc aģentiem nepieciešama atmiņa
Aģents darbojas cilpā: vēro, izlemj, rīkojas, atkal vēro. Lai šai cilpai būtu jēga, turpmākajiem soļiem jāzina, kas noticis iepriekš. Atmiņa ļauj aģentam:
- Sekot daudzsoļu plānam un tā progresam.
- Neatkārtot darbības, ko tas jau ir mēģinājis.
- Piemērot tavas preferences bez atkārtotas sacīšanas.
- Izmantot iepriekšējo rīku izsaukumu rezultātus turpmākajos lēmumos.
Bez atmiņas katrs solis ir jauns sākums, un aģents nevar balstīties uz savu darbu.
Divi atmiņas veidi
Ir noderīgi atšķirt atmiņu pēc laika mēroga.
Īstermiņa (darba) atmiņa ir pašreizējās sarunas vai uzdevuma konteksts — līdzšinējie ziņojumi, plāns, nesenie rīku rezultāti. Tā atrodas modeļa konteksta logā, kurš ir ierobežots. Kad saruna kļūst pārāk gara, vecākas detaļas tiek izspiestas. Tāpēc aģents var šķist “aizmirsis” kaut ko, ko tu teici pirms stundas.
Ilgtermiņa atmiņa saglabājas starp sesijām. Tā var būt faktu krājums par tevi, iepriekšējiem projektiem vai gūtajām mācībām. Aģents pēc vajadzības izgūst attiecīgos gabaliņus, līdzīgi kā tu atcerētos kādu piezīmi no vecas piezīmju grāmatiņas.
Kā darbojas ilgtermiņa atmiņa
Lielākā daļa sistēmu izmanto kādu kopēja modeļa variantu:
- Iegūšana. Izlemt, ko ir vērts atcerēties — preference, lēmums, noderīgs fakts.
- Uzglabāšana. Saglabāt to kaut kur ilgstoši, bieži kā tekstu ar skaitlisku attēlojumu (iegulšanu jeb embedding), kas uztver tā nozīmi.
- Izgūšana. Kad pienāk jauns uzdevums, meklēt krātuvē ar to saistītās atmiņas.
- Iekļaušana. Pievienot izgūtās atmiņas aģenta kontekstam, lai tas varētu tās izmantot.
Izgūšanas solis ir tas, kur slēpjas lielākā daļa izaicinājumu. Paņemt pārāk maz — aģentam trūks būtiskā. Paņemt pārāk daudz — tu tērē kontekstu un jauc to ar neatbilstošām detaļām.
Ko aģenti atceras — un ko tie nedrīkst
Ne viss ir pelnījis saglabāšanu. Labas atmiņas sistēmas ir selektīvas:
- Noderīgi saglabāt: izteiktās preferences, atkārtoti ierobežojumi, jau pieņemtie lēmumi, lietotāja apstiprināti fakti.
- Riskanti saglabāt: sensitīvi personiskie dati, novecojusi informācija, pieņēmumi, ko lietotājs nekad nav apstiprinājis, vienreizējas detaļas, kurām vēlāk nebūs nozīmes.
Slikta atmiņas higiēna rada reālas sekas. Aģents, kas uzglabā nepareizu pieņēmumu un to pastāvīgi piemēro, turpinās darīt vienu un to pašu kļūdu — pārliecinoši. Aģents, kas atceras sensitīvus datus, kurus tam nevajadzētu, rada privātuma problēmu.
Kāpēc atmiņa ir patiešām grūta
Vairāki šķēršļi padara aģenta atmiņu par neatrisinātu problēmu praksē:
- Ierobežots konteksts. Pat lieliem konteksta logiem ir robežas, un to pārpildīšana ar visu pasliktina uzmanību.
- Atbilstība. Izlemt, ko atcerēties konkrētajam uzdevumam, ir tuvāk meklēšanas problēmai nekā uzmeklēšanai.
- Konsekvence. Atmiņas var savstarpēji pretrunāties vai kļūt novecojušas, apstākļiem mainoties.
- Piedēvēšana. Ir grūti pateikt, kura atmiņa izraisīja kuru lēmumu, un tas apgrūtina atkļūdošanu.
- Privātums. Lietotājiem jāzina, kas tiek atcerēts, jāspēj to apskatīt un jāspēj dzēst.
Praktiski dizaina lēmumi
Ja tu veido vai novērtē aģentu, daži jautājumi atklās, cik laba ir tā atmiņa:
- Vai tas atceras starp sesijām vai tikai vienas sarunas ietvaros?
- Vai tu vari apskatīt un labot to, ko tas ir uzglabājis par tevi?
- Vai tas apkopo veco kontekstu, nevis pilda to ar neapstrādātu vēsturi?
- Vai tas aizmirst vai atjaunina informāciju, kas vairs nav patiesa?
- Vai tas var paskaidrot, kāpēc kaut ko atcerējās?
Aģenti ar skaidru, kontrolējamu atmiņu mēdz būt uzticamāki par tiem, kas klusībā atceras visu.
Secinājums
Aģenta atmiņa nav viena iezīme, bet gan slānis: īstermiņa konteksts pašreizējam uzdevumam, ilgtermiņa uzglabāšana pastāvīgiem faktiem un izgūšana, kas atgriež īstos gabaliņus īstajā laikā. Tā pārvērš virkni nesaistītu atbilžu saskaņotā, nepārtrauktā darbā — bet tā ir neperfekta, un aģenti, kas to paveic labi, ir tie, kas ir selektīvi, caurspīdīgi un ievēro to, ko nedrīkst saglabāt.
Get Ball — Ball
Get Ball