هم‌هوش — خودآموز هوش مصنوعی

فصل ۳ از ۸

پیشرفت ترم
۰٪

در این فصل چه یاد می‌گیری#

احتمالاً این را حس کرده‌ای: وسطِ یک گفت‌وگوی بلند، مدل ناگهان چیزی را که اولش بهش گفته بودی «فراموش می‌کند» — یک اسم، یک قاعده، یک قید — با اینکه واضح گفته بودی‌اش. نه بی‌دقتی می‌کند، و نه واقعاً مثلِ آدم چیزی را به‌خاطر می‌سپارد و بعد فراموش می‌کند. در ترم ۱ با context window به‌عنوان یک ایده آشنا شدی؛ اینجا عملی‌اش می‌کنی — دقیقاً می‌فهمی مدل گفت‌وگو را کجا نگه می‌دارد، چرا گفت‌وگوهای بلند سرریز می‌کنند، و دو راهِ مشخص که نگذاری چیزِ مهم از میز بیفتد.

یک برشِ آموزشی از میزِ کارِ مدل به‌شکلِ یک وایت‌بردِ پُر که گفت‌وگو به‌صورتِ دسته‌ای کارتِ پیام رویش چیده شده: قدیمی‌ترین کارت از لبهٔ بالا سُر می‌خورد و محو می‌شود، کارتِ تازه‌ای پایین اضافه می‌شود، و کنارش یک کارتِ فشردهٔ خلاصه جای یک دستهٔ بلند را گرفته

آخر این فصل می‌توانی:

  • توضیح بدهی مدل گفت‌وگو را کجا نگه می‌دارد و چرا هر بار همه‌چیز را از نو می‌خواند
  • بگویی context window در عمل یعنی چه و چرا وسطِ گفت‌وگوی بلند فراموش می‌کند
  • با «دوباره‌گفتنِ» نکتهٔ مهم، جلوی فراموشی را بگیری
  • با «خلاصه‌کردنِ حافظه» یک گفت‌وگوی بلند را جمع‌وجور و ماندگار کنی

قبل از شروع#

  • از فصل ۳ ترم ۱: context window — مدل هر بار فقط مقدارِ محدودی متن را می‌تواند «کنارِ هم نگه دارد».
  • از فصل ۲ ترم ۱: مدل بینِ گفت‌وگوها «حافظه» ندارد؛ آنچه دارد الگوست، نه یادداشتِ تو.

فقط یک مرورگر و دستیارِ هوش مصنوعی‌ات (با کلیدِ رایگانِ خودت) لازم داری.

۱. مدل تو را به‌خاطر نمی‌سپارد#

یک غریبهٔ کمک‌کننده را تصور کن که یک وایت‌برد جلویش دارد. هر بار که حرف می‌زنی، او تو را از حافظه‌اش به‌یاد نمی‌آورد؛ به‌جایش کلِ وایت‌بردِ جلویش را می‌خواند (هر چه تا حالا گفته شده)، بعد جواب می‌دهد، بعد حرفِ تازه‌ات را روی برد می‌نویسد.

مدل هم همین است. مثلِ یک دوست، حافظهٔ جاری از گفت‌وگوی تو ندارد. هر نوبت، کلِ گفت‌وگوی تا اینجا را از نو می‌خواند — هم پیام‌های تو، هم جواب‌های خودش — و بعد حدس می‌زند چه می‌آید. دو نتیجهٔ قابلِ‌امتحان دارد:

  • بینِ گفت‌وگوهای جدا خودِ مدل حافظه‌ای ندارد. اگر دستیارت قابلیتِ «حافظه» نداشته باشد، گفت‌وگوی تازه از گفت‌وگوی قبلی‌ات خبر ندارد. بعضی دستیارها چنین قابلیتی دارند و چند یادداشت را بینِ گفت‌وگوها ذخیره می‌کنند، و در بعضی‌شان این قابلیت از اول روشن است. این یک دفترچهٔ چسبانده‌شده است، نه به‌یادآوردنِ خودِ مدل. پس تنظیماتِ دستیارت را ببین تا بدانی چه چیزی در آن می‌رود و چطور خاموش می‌شود.
  • داخلِ یک گفت‌وگو همه‌چیز روی وایت‌برد است — و وایت‌برد اندازهٔ ثابتی دارد.

۲. پنجرهٔ زمینه: میزِ کارِ مدل#

آن وایت‌بردِ اندازه‌ثابت همان context window است — در ترم ۱ به‌عنوان ایده دیدی‌اش، حالا آن چیزِ ملموس. هر چه مدل می‌تواند هم‌زمان «ببیند» — کلِ گفت‌وگوی تو، به‌علاوهٔ هر سندِ بلندی که چسبانده‌ای — باید روی همان برد جا شود. جادار است، ولی بی‌نهایت نیست.

و قلبِ عملیِ ماجرا اینجاست: وقتی گفت‌وگو از اندازهٔ برد بزرگ‌تر شود، برای جا بازکردنِ خطوطِ تازه، قدیمی‌ترین خطوط پاک می‌شوند. هر چه پاک شود، مدل دیگر اصلاً نمی‌بیندش. این «فراموشی» مثلِ یک خاطرهٔ غم‌انگیز نیست؛ آن خط از برد بیرون رفته، پس از دیدِ مدل انگار اصلاً نبوده. (اینجا عمداً هیچ عددی نمی‌گویم — اندازهٔ این پنجره با هر نسخهٔ مدل عوض می‌شود و یک عددِ فرّار است که باید در زمانِ استفاده چکش کنی، نه از حفظ.)

یک نکتهٔ صادقانهٔ دیگر: حتی قبل از اینکه چیزی کاملاً از برد بیفتد، نکته‌هایی که وسطِ یک گفت‌وگوی خیلی بلند دفن شده‌اند کم‌اعتمادتر از نکته‌های تازه به‌کار می‌روند. پس یک گفت‌وگوی بلند می‌تواند کم‌کم «نخِ ماجرا را گم کند»، نه فقط ناگهان.

یک نکتهٔ دیگر: دستیارها با پرشدنِ برد یک‌جور رفتار نمی‌کنند. بعضی خطوطِ قدیمی را کنار می‌گذارند، بعضی آن‌ها را خودکار خلاصه می‌کنند و بعضی می‌گویند گفت‌وگوی تازه باز کن. نتیجه یکی است: چیزی که دقیقاً گفته بودی دیگر دقیقاً جلوی چشمِ مدل نیست.

قبل از ادامه، جواب بده: اگر مدل هر بار کلِ گفت‌وگو را از نو می‌خواند، وقتی گفت‌وگو از اندازهٔ میز بزرگ‌تر شود، چه اتفاقی برای اولین حرف‌هایت می‌افتد؟

۳. چرا وسطِ گفت‌وگوی بلند فراموش می‌کند#

حالا ببینش. یک هشدارِ صادقانه: context windowِ مدل‌های بزرگِ امروز خیلی جادار است و با چند پیامِ کوتاه به لبه‌اش نمی‌رسی. پس این آزمایش ممکن است فراموشی را نشان ندهد. اولِ یک گفت‌وگوی طولانی این را بگو:

من به بادام‌زمینی حساسیتِ شدید دارم. در هر دستورِ غذایی که می‌دهی،
حتماً این را رعایت کن.

مدل معمولاً چیزی شبیهِ این می‌گوید:

حتماً. حواسم هست که هیچ دستوری بادام‌زمینی نداشته باشد.

بعد گفت‌وگو را طولانی کن: چند دستورِ غذایی، جایگزین‌ها، سؤال‌های پراکنده، و چند درخواستِ جوابِ بلند. هرچه متن بیشتر، احتمالِ افتادنِ قیدِ اول بیشتر. خیلی بعدتر بپرس:

یک دسرِ سادهٔ سریع پیشنهاد بده.

🤔 اول حدس بزن: به‌نظرت مدلت هنوز قید را رعایت می‌کند؟ حدست را بنویس و بعد بفرست.

وقتی قید از برد بیفتد، جوابی شبیهِ این می‌آید (این نمونه است؛ مدلِ تو شاید تا مدت‌ها قید را نگه دارد):

یک انتخابِ عالی نان‌تُست با کرهٔ بادام‌زمینی و موز است؛ فقط چند دقیقه وقت می‌برد.

این همان چیزی است که ممنوع کرده بودی. دستورِ اولت از برد افتاده، یا آن‌قدر ته دفن شده که کم‌اعتماد به‌کار رفته، پس از دیدِ مدل تو هرگز آن را نگفتی. این همان فراموشی است، و اینجا فقط آزاردهنده نیست، از آن دسته لغزش‌هاست که واقعاً اهمیت دارد.

اگر مدلت قید را نگه داشت، این یعنی برد هنوز جا داشته، نه اینکه خطری نیست. همین را یادداشت کن و با تمرینِ کاغذیِ بخشِ ۲ مکانیزم را به‌یاد بیاور.

✅ وارسی: به مدل اعتماد نکن که قیدهای مهمت را در طولِ یک گفت‌وگوی بلند نگه دارد. وقتی یک تصمیم اهمیت دارد (یک حساسیت، یک بودجه، یک قاعده)، خودت خروجی را دوباره چک کن — لحنِ آرامِ مدل به این معنی نیست که هنوز یادش هست. سه قانونِ ثابتِ این دوره: «اول خودت فکر کن» — «وارسی کن، خط به خط» — «مدل مطمئن است؛ دلیل نمی‌شود درست باشد».

۴. راه‌حلِ اول: مهم را دوباره بگو#

ارزان‌ترین راه‌حل: نکتهٔ کلیدی را دقیقاً همان‌جا که مهم است دوباره بگو، به‌جای اینکه امید ببندی از بالای برد جان سالم به در برده باشد. درست قبل از درخواستت:

یادت باشد بادام‌زمینی برایم ممنوع است. حالا یک دسرِ سادهٔ سریع پیشنهاد بده.

چون یادآوری حالا تازه روی برد است (و خطوطِ نزدیک‌تر مطمئن‌تر به‌کار می‌روند)، مدل رعایتش می‌کند. این یک حقه نیست؛ این کارکردن هماهنگ با رفتارِ context window است. یک قاعدهٔ سرانگشتی: هرچه یک قید مهم‌تر و گفت‌وگو بلندتر، آن را نزدیک‌تر به خودِ درخواستت تکرار کن.

۵. راه‌حلِ دوم: حافظه را خلاصه کن#

وقتی گفت‌وگو واقعاً بلند می‌شود، دوباره‌گفتنِ همه‌چیز شدنی نیست. راهِ بهتر: خلاصه کن. از خودِ مدل بخواه:

تا اینجا دربارهٔ چه چیزهایی توافق کردیم؟ همه‌چیزِ مهم را در چند خطِ کوتاه
خلاصه کن: قیدها، تصمیم‌ها، و کارهای باقی‌مانده.

یک خلاصهٔ کوتاه بهت می‌دهد. حالا می‌توانی یک گفت‌وگوی تازه باز کنی (بردِ خالی) و آن خلاصه را به‌عنوان اولین پیام بچسبانی — یا همین‌جا ادامه بدهی، در حالی که پنجاه پیامِ درهم‌ریخته را با پنج خطِ چکیده عوض کرده‌ای.

چرا این کار می‌کند، مستقیم به context window وصل است: یک خلاصه در برابرِ گفت‌وگوی خام کوچک است، پس چیزِ مهم روی برد جان به در می‌برد و شلوغی می‌رود. همین «خلاصه کن و جلو ببر» دقیقاً همان کاری است که گفت‌وگوهای طولانی برای کنارآمدن با یک بردِ اندازه‌ثابت انجام می‌دهند.

⚠️ مواظب باش: یک گفت‌وگوی بلند و قابلیتِ «حافظه»ی دستیار می‌توانند بی‌سروصدا کلی جزئیاتِ شخصی جمع کنند — اسمت، سلامتی، کار، برنامه‌هایت. در ردهٔ رایگان ممکن است همین داده برای آموزش استفاده شود. قبل از اینکه خلاصه را ذخیره کنی یا «حافظه» را روشن کنی، تصمیم بگیر با ماندنِ چه چیزهایی روی برد راحتی. چیزهای حساس را بیرون بگذار.

🔧 اگر جواب نگرفتی: اگر مدل ادعا کرد «قبلاً بهت گفتم که...» و تو یادت نیست چنین چیزی گفته باشی، احتمالاً دارد بازسازی می‌کند (یک توهمِ کوچک)، چون متنِ واقعیِ قبلی از برد بیرون رفته. برگرد بالا و خودِ گفت‌وگو را نگاه کن؛ به متنِ واقعی اعتماد کن، نه به «یادآوریِ» مدل.

واژه‌های تازهٔ این فصل#

کلمه تلفظ به حروف فارسی یعنی چه
context window کانتِکست ویندو مقدارِ متنی که مدل می‌تواند هم‌زمان کنارِ هم ببیند و به‌کار ببرد؛ وقتی پُر شود، قدیمی‌ترین بخش‌ها از دید خارج می‌شوند

تمرین‌ها

اول خودت فکر کن یا امتحان کن — بعد اینجا را باز کن.

در فصل بعد#

دیدی که مدل فراموش می‌کند، و از ترم ۱ می‌دانی دانشش سرِ یک تاریخ متوقف می‌شود. فصلِ بعد می‌بینی چطور می‌شود به مدل یک دانشِ تازه و مشخص داد که اصلاً رویش آموزش ندیده — با کنارِ دستش گذاشتنِ یک «کتابخانه» که می‌تواند از آن چیزها را بردارد — و چرا همین کار توهم را کم می‌کند.

به آخر این فصل رسیدی!

اگر ساختی و جواب داد، این دکمه مال توست.