Back to all articlesAI dan ejen

Bagaimana AI Agent Mengingat: Memori, Konteks, dan Mengapa Ia Sukar

Satu perbezaan terbesar antara AI agent yang meyakinkan dan yang mengecewakan ialah memori. Agent yang mengingati kekangan, keutamaan anda, dan apa yang telah dicuba terasa cekap. Agent yang bermula dari kosong pada setiap langkah terasa rosak. Tetapi “memori” dalam sistem AI tidak sama seperti yang dikatakan oleh perkataan itu.

Mengapa agent memerlukan memori

Agent berfungsi dalam satu gelung: memerhati, memutuskan, bertindak, memerhati semula. Agar gelung itu masuk akal, langkah kemudian perlu mengetahui apa yang berlaku lebih awal. Memori membolehkan agent:

  • Menjejak pelan berbilang langkah dan kemajuannya.
  • Mengelakkan pengulangan tindakan yang sudah dicuba.
  • Menggunakan keutamaan anda tanpa perlu diberitahu dua kali.
  • Menggunakan hasil panggilan alat sebelum ini dalam keputusan seterusnya.

Tanpa memori, setiap langkah ialah permulaan baharu, dan agent tidak boleh membina di atas kerja sendiri.

Dua jenis memori

Berguna untuk memisahkan memori mengikut jangka masa.

Memori jangka pendek (memori kerja) ialah konteks perbualan atau tugas semasa — mesej setakat ini, pelan, hasil alat terbaru. Ia tinggal dalam tetingkap konteks model, yang terhad. Apabila perbualan terlalu panjang, butiran lama tersingkir. Inilah sebabnya agent kelihatan seolah-olah “terlupa” sesuatu yang anda katakan sejam lalu.

Memori jangka panjang berterusan merentas sesi. Ia mungkin simpanan fakta tentang anda, projek sebelum ini, atau pengajaran yang dipelajari. Agent mengambil bahagian yang relevan apabila perlu, seperti anda mengingati nota daripada buku nota lama.

Bagaimana memori jangka panjang berfungsi

Kebanyakan sistem menggunakan variasi corak biasa:

  1. Tangkap. Putuskan apa yang layak diingati — keutamaan, keputusan, fakta yang berguna.
  2. Simpan. Simpan di tempat yang kekal, selalunya sebagai teks dengan perwakilan angka (embedding) yang menangkap maknanya.
  3. Ambil. Apabila tugas baharu tiba, cari dalam simpanan memori yang berkaitan dengannya.
  4. Suntik. Masukkan memori yang diambil ke dalam konteks agent supaya ia boleh menggunakannya.

Langkah pengambilan ialah tempat kebanyakan cabaran terletak. Ambil terlalu sedikit dan agent terlepas perkara penting. Ambil terlalu banyak dan anda membazirkan konteks serta mengelirukannya dengan butiran yang tidak relevan.

Apa yang diingati agent — dan apa yang tidak patut

Tidak semua perkara layak disimpan. Sistem memori yang baik bersifat selektif:

  • Layak disimpan: keutamaan yang dinyatakan, kekangan berulang, keputusan yang telah dibuat, fakta yang disahkan pengguna.
  • Berisiko disimpan: data peribadi sensitif, maklumat lapuk, andaian yang tidak pernah disahkan pengguna, butiran sekali pakai yang tidak penting kemudiannya.

Kebersihan memori yang buruk mempunyai akibat sebenar. Agent yang menyimpan andaian yang salah dan terus menggunakannya akan terus membuat kesilapan yang sama — dengan yakin. Agent yang mengingati data sensitif yang tidak sepatutnya ada padanya menimbulkan masalah privasi.

Mengapa memori benar-benar sukar

Beberapa halangan menjadikan memori agent masih masalah yang belum selesai dalam amalan:

  • Konteks terhad. Walaupun tetingkap konteks besar ada batasnya, dan mengisinya dengan segala-galanya melemahkan perhatian.
  • Kerelevanan. Memutuskan apa untuk diingati bagi tugas semasa lebih mirip masalah carian daripada carian mudah.
  • Konsistensi. Memori boleh bercanggah antara satu sama lain atau menjadi lapuk apabila keadaan berubah.
  • Atribusi. Sukar untuk mengetahui memori mana yang menyebabkan keputusan mana, menjadikan penyahpepijatan sukar.
  • Privasi. Pengguna perlu mengetahui apa yang diingati, boleh melihatnya, dan boleh memadamnya.

Pilihan reka bentuk praktikal

Jika anda sedang membina atau menilai agent, beberapa soalan menunjukkan seberapa baik memori itu sebenarnya:

  • Adakah ia mengingat merentas sesi, atau hanya dalam satu perbualan?
  • Bolehkah anda melihat dan mengedit apa yang disimpannya tentang anda?
  • Adakah ia meringkaskan konteks lama dan bukannya menyumbam sejarah mentah?
  • Adakah ia melupakan atau mengemas kini maklumat yang tidak lagi benar?
  • Bolehkah ia menjelaskan mengapa ia mengingati sesuatu?

Agent dengan memori yang jelas dan boleh dikawal cenderung lebih dipercayai daripada yang diam-diam mengingati segalanya.

Kesimpulan

Memori agent bukan satu ciri, tetapi satu timbunan: konteks jangka pendek untuk tugas semasa, simpanan jangka panjang untuk fakta kekal, dan pengambilan yang membawa bahagian yang tepat pada masa yang tepat. Ia yang menukarkan siri respons yang terputus-putus menjadi kerja yang koheren dan berterusan — tetapi ia tidak sempurna, dan agent yang mengendalikannya dengan baik ialah yang selektif, telus, dan menghormati apa yang tidak patut disimpan.

Get Ball — Ball

Get Ball

Reading in English? Switch language in the menu.