Back to all articlesهوش مصنوعی و عامل‌ها

چگونه عامل­های هوش مصنوعی به خاطر می­سپارند: حافظه، زمینه و دشواری آن

یکی از بزرگ­ترین تفاوت­ها میان یک عامل هوش مصنوعی متقاعدکننده و یک عامل ناامیدکننده، حافظه است. عاملی که محدودیت­ها، ترجیحات و تلاش­های قبلی شما را به خاطر می­سپارد، توانمند به نظر می­رسد. عاملی که در هر مرحله از صفر شروع می­کند، خرابه به نظر می­رسد. اما «حافظه» در سیستم­های هوش مصنوعی دقیقاً همان چیزی نیست که این واژه القا می­کند.

چرا عامل­ها به حافظه نیاز دارند

عامل در یک حلقه کار می­کند: مشاهده، تصمیم، اقدام، مشاهده دوباره. تا این حلقه معنا داشته باشد، مراحل بعدی باید بدانند در مراحل قبل چه اتفاقی افتاده است. حافظه به عامل اجازه می­دهد:

  • پیگیری برنامه چندمرحله­ای و پیشرفت آن.
  • جلوگیری از تکرار اقداماتی که قبلاً امتحان کرده.
  • اعمال ترجیحات شما بدون اینکه دوباره گفته شود.
  • استفاده از نتایج فراخوانی­های قبلی ابزارها در تصمیم­های بعدی.

بدون حافظه، هر مرحله شروعی تازه است و عامل نمی­تواند بر کار خودش بنا کند.

دو نوع حافظه

مفید است که حافظه را بر اساس بازه زمانی جدا کنیم.

حافظه کوتاه­مدت (کاری) زمینه گفت­وگو یا وظیفه جاری است — پیام­ها تاکنون، برنامه، نتایج اخیر ابزارها. این در پنجره زمینه مدل قرار دارد که محدود است. وقتی گفت­وگو بیش از حد طولانی می­شود، جزئیات قدیمی­تر بیرون رانده می­شوند. به همین دلیل است که عامل ممکن است چیزی را که یک ساعت پیش گفته­اید، «فراموش» کند.

حافظه بلندمدت در میان جلسات باقی می­ماند. ممکن است مجموعه­ای از حقایق درباره شما، پروژه­های قبلی یا درس­های آموخته باشد. عامل در صورت نیاز قطعات مرتبط را بازیابی می­کند، شبیه به زمانی که یادداشتی را از یک دفترچه قدیمی به خاطر می­آورید.

حافظه بلندمدت چگونه کار می­کند

بیشتر سیستم­ها از گونه­ای از الگوی رایج استفاده می­کنند:

  1. ثبت. تصمیم­گیری درباره اینکه چه ارزشی دارد به خاطر سپرده شود — یک ترجیح، یک تصمیم، یک واقعیت مفید.
  2. ذخیره. آن را در جایی پایدار نگهداری کردن، اغلب به صورت متن همراه با نمایش عددی (embedding) که معنای آن را دربر می­گیرد.
  3. بازیابی. وقتی وظیفه تازه­ای می­رسد، جستجو در ذخیره­گاه برای یافتن خاطرات مرتبط با آن.
  4. تزریق. اضافه کردن خاطرات بازیابی­شده به زمینه عامل تا بتواند از آن­ها استفاده کند.

مرحله بازیابی جایی است که بخش عمده چالش نهفته است. خیلی کم بازیابی کنید، عامل آنچه مهم است را از دست می­دهد. خیلی زیاد بازیابی کنید، زمینه را هدر می­دهید و با جزئیات نامربوط او را گیج می­کنید.

آنچه عامل­ها به خاطر می­سپارند — و نباید بسپارند

همه چیز شایسته نگهداری نیست. سیستم­های حافظه خوب گزینشگرند:

  • ارزشمند برای نگهداری: ترجیحات ابرازشده، محدودیت­های تکرارشونده، تصمیم­های اتخاذشده، حقایقی که کاربر تأیید کرده است.
  • پرخطر برای نگهداری: داده­های شخصی حساس، اطلاعات منسوخ، فرضیاتی که کاربر هرگز تأیید نکرده، جزئیات یک­باره­ای که بعداً اهمیتی نخواهند داشت.

بهداشت ضعیف حافظه پیامدهای واقعی دارد. عاملی که فرض اشتباهی را ذخیره و مرتباً اعمال می­کند، همان اشتباه را بارها و بارها — با اطمینان — تکرار می­کند. عاملی که داده­های حساسی را که نباید داشته باشد به خاطر می­سپارد، مشکل حریم خصوصی ایجاد می­کند.

چرا حافظه واقعاً دشوار است

چند مانع، حافظه عامل را در عمل به مسئله­ای حل­نشده تبدیل می­کند:

  • زمینه محدود. حتی پنجره­های زمینه بزرگ هم حدی دارند و پر کردن آن­ها با هر چیزی، توجه را تضعیف می­کند.
  • ارتباط­مندی. تصمیم­گیری درباره اینکه برای وظیفه جاری چه چیزی بازیابی شود، بیشتر شبیه یک مسئله جستجو است تا یک جستجوی ساده.
  • سازگاری. خاطرات می­توانند با یکدیگر تناقض داشته باشند یا با تغییر شرایط منسوخ شوند.
  • انتساب. تشخیص اینکه کدام خاطره منجر به کدام تصمیم شده دشوار است، که اشکال­زدایی را سخت می­کند.
  • حریم خصوصی. کاربران باید بدانند چه چیزی ذخیره می­شود، بتوانند آن را ببینند و بتوانند آن را حذف کنند.

تصمیم­های طراحی عملی

اگر عاملی می­سازید یا ارزیابی می­کنید، چند سؤال مشخص می­کند حافظه آن واقعاً چقدر خوب است:

  • آیا در میان جلسات به خاطر می­سپارد، یا فقط درون یک گفت­وگو؟
  • آیا می­توانید آنچه درباره شما ذخیره کرده ببینید و ویرایش کنید؟
  • آیا زمینه قدیمی را خلاصه می­کند به جای آنکه تاریخچه خام را انباشته کند؟
  • آیا اطلاعاتی را که دیگر درست نیست فراموش می­کند یا به­روز می­کند؟
  • آیا می­تواند توضیح دهد چرا چیزی را بازیابی کرده است؟

عامل­هایی با حافظه شفاف و قابل­کنترل، معمولاً قابل­اعتمادتر از عامل­هایی­اند که همه چیز را بی­سروصدا به خاطر می­سپارند.

سخن پایانی

حافظه عامل یک ویژگی واحد نیست، بلکه مجموعه­ای است: زمینه کوتاه­مدت برای وظیفه جاری، ذخیره­سازی بلندمدت برای حقایق پایدار، و بازیابی­ای که قطعات درست را در زمان درست بازمی­گرداند. همین است که مجموعه­ای از پاسخ­های پراکنده را به کاری منسجم و پیوسته تبدیل می­کند — اما کامل نیست، و عامل­هایی که با آن خوب برخورد می­کنند، آن­هایی­اند که گزینشگر و شفاف­اند و به آنچه نباید نگه دارند، احترام می­گذارند.

Get Ball — Ball

Get Ball

Reading in English? Switch language in the menu.