Hvernig AI-agentar muna: Minni, samhengi og af hverju það er erfitt
Einn stærsti munurinn á sannfærandi AI-agenti og pirrandi einum er minnið. Agentur sem man takmarkanir þínar, óskir þínar og hvað hann hefur þegar reynt finnst hæfur. Sá sem byrjar frá grunni í hverju skrefi finnst biluð. En „minni” í AI-kerfum er ekki alveg það sem orðið gefur til kynna.
Af hverju agentar þurfa minni
Agentur vinnur í lykkju: fylgjast með, ákveða, bregðast, fylgjast með aftur. Til að sú lykkja skynji þurfa síðari skref að vita hvað gerðist áður. Minnið gerir agenti kleift að:
- Halda utan um margþætta áætlun og framvindu hennar.
- Forðast að endurtaka aðgerðir sem hann hefur þegar reynt.
- Beita óskum þínum án þess að fá það sagt tvisvar.
- Nota niðurstöður fyrri verkfærakalla í síðari ákvörðunum.
Án minnis er hvert skref ný byrjun og agenturinn getur ekki byggt á eigin verki.
Tvær tegundir minnis
Gagnlegt er að aðgreina minni eftir tímalengd.
Skammtímaminni (vinnuminni) er samhengið í núverandi samtali eða verkefni — skilaboðin fram til nú, áætlunin, nýlegar niðurstöður verkfæra. Það býr í samhengisglugga líkansins, sem er takmarkaður. Þegar samtalið verður of langt eru eldri atriði ýtt út. Þess vegna getur agenturinn virst „gleyma” einhverju sem þú sagðir fyrir klukkustund.
Langtímaminni varðveitist milli lota. Það gæti verið safn staðreynda um þig, fyrri verkefni eða lærdóm sem dreginn hefur verið af reynslunni. Agenturinn sækir viðeigandi hluta þegar þörf krefur, eins og þú gætir fundið glósu í gömlum minnisbæklingi.
Hvernig langtímaminni virkar
Flest kerfi nota afbrigði af sameiginlegu mynstri:
- Fanga. Ákveða hvað er þess virði að muna — ósk, ákvörðun, gagnleg staðreynd.
- Geyma. Vista það einhvers staðar varanlega, oft sem texta með tölulegri framsetningu (embedding) sem fangar merkingu þess.
- Sækja. Þegar nýtt verkefni kemur, leita í safninu að minnum sem tengjast því.
- Skeytja. Bæta sóttum minnum við samhengið hjá agentanum svo hann geti notað þau.
Sóknar skrefið er þar sem mest af áskoruninni liggur. Sæktu of lítið og agenturinn missir af því sem skiptir máli. Sæktu of mikið og þú sóar samhengi og ruglar hann með óviðeigandi smáatriðum.
Hvað agentar muna — og hvað þeir ættu ekki að gera
Ekki allt á skilið að vera geymt. Góð minniskerfi eru sérhæfð:
- Gagnlegt að geyma: lýstar óskir, endurteknar takmarkanir, ákvarðanir sem þegar hafa verið teknar, staðreyndir sem notandinn staðfesti.
- Áhættusamt að geyma: viðkvæm persónuleg gögn, úreltar upplýsingar, forsendur sem notandinn staðfesti aldrei, einstaka smáatriði sem munu ekki skipta máli síðar.
Léleg meðferð á minni hefur raunverulegar afleiðingar. Agentur sem geymir ranga forsendu og heldur áfram að beita henni mun halda áfram að gera sama mistökið — af sjálfsöryggi. Agentur sem man viðkvæm gögn sem hann ætti ekki að hafa skapar persónuverndarvandamál.
Af hverju minnið er virkilega erfitt
Nokkrar hindranir gera minni agenta að óleystu vandamáli í framkvæmd:
- Takmarkað samhengi. Jafnvel stórir samhengisgluggar hafa mörk og að troða öllu í þá rýrir athyglina.
- Viðeigandi. Að ákveða hvað á að muna fyrir núverandi verkefni er nær því að vera leitarvandamál en uppfletting.
- Samkvæmni. Minni geta stangast á eða orðið úrelt þegar aðstæður breytast.
- Aðrekjanleiki. Erfitt er að segja hvaða minni olli hvaða ákvörðun, sem gerir villuleit erfiða.
- Persónuvernd. Notendur þurfa að vita hvað er munað, geta séð það og geta eytt því.
Hagnýt hönnunarval
Ef þú ert að byggja eða meta agent geta nokkrar spurningar leitt í ljós hversu gott minnið hans raunverulega er:
- Mann það milli lota, eða aðeins innan eins samtals?
- Geturðu séð og breytt því sem það hefur geymt um þig?
- Tekur það saman gamalt samhengi frekar en að troða hrári sögu inn?
- Gleymir það eða uppfærir upplýsingum sem eru ekki lengur sannar?
- Getur það útskýrt af hverju það sótti eitthvað fram?
Agentar með skýrt, stjórnanlegt minni hafa tilhneigingu til að vera traustverðugri en þeir sem muna allt hljóðlega.
Niðurstaðan
Minni agenta er ekki einn eiginleiki heldur stafla: skammtímasamhengi fyrir núverandi verkefni, langtímageymsla fyrir varanlegar staðreyndir og sókn sem færir réttu hlutana aftur á réttum tíma. Það er það sem breytir röð af ótengdum svörum í samhangandi, samfellda vinnu — en það er ófullkomið og þeir agentar sem meðhöndla það vel eru þeir sem eru sérhæfðir, gegnsæir og virða það sem þeir eiga ekki að geyma.
Get Ball — Ball
Get Ball