هم‌هوش — خودآموز هوش مصنوعی

فصل ۴ از ۸

پیشرفت ترم
۰٪

در این فصل چه یاد می‌گیری#

تا اینجا مدل را مثل کسی دیده‌ای که همه‌چیز را تا یک تاریخ خوانده و بعد کتاب‌ها را بسته؛ از آن به بعد فقط از حافظه جواب می‌دهد. ولی اگر بخواهی از رویِ سندِ خودت جواب بگیری، یا از خبری تازه‌تر از آن تاریخ، چه؟ اینجاست که RAG وارد می‌شود: راهی که پیش از جواب‌دادن، متنِ مربوط را پیدا می‌کند و باز جلوی مدل می‌گذارد. آخرِ این فصل می‌فهمی چرا همان مدلی که انگار می‌تواند «سندِ تو را بخواند» یا با «منبعِ روز» جواب بدهد، در پشتِ پرده اول چیزی را پیدا می‌کند و بعد جواب می‌سازد — و چرا این کار توهم را کم می‌کند، ولی از بین نمی‌برد.

یک میزِ مطالعه با یک کتابِ باز در وسط، که یک بازوی مکانیکی از دلِ یک قفسهٔ کارت‌های مرجع یک کارتِ مشخص را بیرون کشیده و روی صفحهٔ باز گذاشته؛ یک نخِ نازک آن کارت را به همان صفحه وصل می‌کند

آخر این فصل می‌توانی:

  • بگویی RAG یعنی چه و چرا به آن «مدل + کتابخانه» می‌گویند
  • توضیح بدهی retrieval چطور با embedding تکهٔ درستِ متن را پیدا می‌کند
  • بگویی چرا یک جوابِ بندشده به سند، از یک جوابِ حافظه‌ای کم‌توهم‌تر است
  • یک جوابِ RAG را که به سندِ درست ولی بندِ اشتباه استناد کرده، شناسایی کنی

قبل از شروع#

  • از ترم ۱ فصل ۱: مدل جواب را همان لحظه تولید می‌کند؛ از یک انبارِ آمادهٔ واقعیت‌ها جست‌وجویش نمی‌کند.
  • از ترم ۱ فصل ۲: مدل فقط تا یک knowledge cutoff می‌داند و از رویدادهای بعد از آن خبر ندارد.
  • از فصل ۲ همین ترم: embedding یعنی معنا به‌صورتِ مختصات؛ دو متنِ هم‌معنا مختصاتِ نزدیک به هم دارند.
  • از فصل ۳ همین ترم: context window حافظهٔ کوتاه‌مدتِ مدل است و ظرفیتش محدود.

مثل بقیهٔ فصل‌های آزمایشگاهی، فقط یک مرورگر و دستیارِ هوش مصنوعی‌ات (با کلیدِ رایگانِ خودت) لازم داری.

۱. مشکل: مدل از سندِ تو و از امروز خبر ندارد#

یک سؤالِ ساده بپرس که جوابش فقط در یک جای مشخص است: «قانونِ مرخصیِ شرکتِ ما چند روز است؟» یا «نتیجهٔ بازیِ دیشب چه شد؟». مدل هیچ‌کدام را نمی‌داند — قانونِ داخلیِ شرکتِ تو هیچ‌وقت جزوِ متنی که مدل رویش آموزش دیده نبوده، و بازیِ دیشب بعد از knowledge cutoff اتفاق افتاده. مدل در این حالت دو کارِ محتمل می‌کند: یا صادقانه می‌گوید «نمی‌دانم»، یا — که خطرناک‌تر است — یک جوابِ باورپذیر می‌بافد.

اسمِ این حالت را بگذار امتحانِ کتاب‌بسته: مدل از حافظه جواب می‌دهد، بی‌آنکه منبعی جلویش باز باشد. برای دانشِ عمومی که بارها در آموزش دیده بد نیست، ولی برای دانشِ تازه یا خصوصی — که اصلاً در حافظه‌اش نیست — همین‌جا توهم زاده می‌شود.

۲. ایدهٔ RAG: امتحان را کتاب‌باز کن#

راهِ حل ساده است: قبل از اینکه مدل جواب بدهد، متنِ مربوط را پیدا کن و کنارِ سؤال جلویش بگذار. امتحانِ کتاب‌بسته را تبدیل کن به امتحانِ کتاب‌باز. اسمِ این کار RAG است.

RAG سه‌قدمی است. اول، retrieval: از دلِ یک مجموعه متن (سندِ تو، مقاله‌ها، صفحه‌های یک سایت) تکه‌های مربوط به سؤال بیرون کشیده می‌شوند. دوم، آن تکه‌ها کنارِ سؤالِ تو داخلِ context window گذاشته می‌شوند. سوم، مدل با نگاه به همان تکه‌ها جواب می‌سازد، نه فقط از حافظه. برای همین به RAG می‌گویند «مدل + کتابخانه»: مدل مغز است، و retrieval کتابداری که تکهٔ درست را به‌موقع جلویش می‌گذارد.

راستش تو یک‌بار در ترم ۳ همین کار را با دست کردی: وقتی یک سندِ بلند را داخلِ پرامپت چسباندی و گفتی «فقط بر اساسِ همین متن جواب بده»، خودت نقشِ retrieval را بازی کردی. RAG همان کار است، ولی خودکار و روی متنی که برای چسباندن خیلی بزرگ است.

۳. «پیدا کردن» چطور کار می‌کند: retrieval با embedding#

نکتهٔ ظریف اینجاست: retrieval چطور می‌فهمد کدام تکه به سؤالِ تو «مربوط» است؟ ساده‌ترین حدس این است که دنبالِ کلمهٔ مشترک بگردد. ولی این ضعیف است: اگر تو بپرسی «خودرو» و سند نوشته باشد «ماشین»، جست‌وجوی کلمه‌ای هیچ تطبیقی پیدا نمی‌کند، هرچند معنا یکی است.

اینجاست که embeddingِ فصل ۲ به کار می‌آید. هم سؤالِ تو و هم هر تکهٔ کتابخانه به مختصاتِ معنا تبدیل می‌شوند. بعد retrieval تکه‌هایی را برمی‌دارد که مختصاتشان به مختصاتِ سؤال نزدیک‌ترین است — یعنی از نظرِ معنا نزدیک‌ترین‌اند، نه از نظرِ کلمه. برای همین «خودرو» و «ماشین» پیدا هم می‌شوند: معنا نزدیک است، پس مختصات نزدیک است. هیچ ریاضی‌ای لازم نیست بدانی؛ فقط همین قدر که retrieval بر اساسِ نزدیکیِ معنا پیدا می‌کند، نه تطبیقِ حروف.

۴. چرا توهم را کم می‌کند#

حالا فرقِ کتاب‌باز و کتاب‌بسته را کنارِ هم بگذار. در امتحانِ کتاب‌بسته، مدل ادعاهایش را از حافظهٔ مه‌آلودش بیرون می‌کشد و همان‌جاست که چیز می‌بافد. در RAG، جوابِ مدل بند است به متنِ واقعی‌ای که جلویش گذاشته‌ای — به این می‌گویند grounding. مدل دیگر لازم نیست از خودش چیزی بسازد؛ فقط از رویِ متنِ داده‌شده می‌خواند و خلاصه می‌کند، و می‌تواند بگوید «این را از فلان بند برداشتم» تا تو همان بند را باز کنی.

یادت هست در ترم ۳ مدل چطور یک منبعِ علمیِ ساختگی با اسم و سال کامل ساخت؟ آن اتفاق در امتحانِ کتاب‌بسته افتاد. RAG دقیقاً همان حفره را کوچک می‌کند: به‌جای اینکه مدل منبع را بسازد، retrieval یک منبعِ واقعی دستش می‌دهد.

✅ وارسی: حتی وقتی مدل به یک بند استناد می‌کند، خودت همان بند را باز کن و بخوان. RAG جواب را به یک منبعِ واقعی بند می‌کند، ولی تضمین نمی‌کند مدل آن منبع را درست خوانده باشد.

۵. مرزها: RAG جواب را بند می‌کند، ولی درست‌بودنش را تضمین نمی‌کند#

حالا مهم‌ترین درسِ فصل. فرض کن یک دفترچهٔ راهنمای محصول را به یک دستیارِ RAG می‌دهی. این دفترچه دو نسخه از محصول را توضیح می‌دهد: در یک بخش «نسخهٔ خانگی» با گارانتیِ یک‌ساله، و در بخشی دیگر «نسخهٔ صنعتی» با گارانتیِ سه‌ساله. تو می‌پرسی «گارانتیِ این محصول چند سال است؟». جوابی که می‌گیری چیزی شبیهِ این است (خروجیِ تو ممکن است فرق کند):

طبقِ سندی که دادی، گارانتیِ این محصول سه سال است.
(منبع: بخشِ «گارانتی»، نسخهٔ صنعتی)

این جواب هم بند است، هم استناد دارد — و غلط است، چون تو نسخهٔ خانگی را داری که یک‌سال گارانتی دارد. خطا این‌بار توهمِ ساختگی نیست؛ retrieval بندِ شبیه ولی نامربوط را برداشته (بخشِ صنعتی که کلماتِ «گارانتی» بیشتری داشت) و سؤالِ تو هم مبهم بود. مدل با اطمینان به یک بندِ واقعی استناد کرد، ولی به بندِ اشتباه. اسمِ این را می‌شود گذاشت mis-cite: منبع واقعی است، ولی به کارِ سؤالِ تو نمی‌آید.

سه مرزِ RAG را همیشه یادت باشد:

  1. آشغال بدهی، آشغال می‌گیری. اگر خودِ سند غلط باشد، RAG وفادارانه همان غلط را تکرار می‌کند — چون کارش وفاداری به متن است، نه راستی‌آزماییِ متن.
  2. retrieval ممکن است تکهٔ درست را نیاورد. یا تکهٔ مربوط را اصلاً پیدا نکند، یا مثلِ مثالِ بالا تکهٔ شبیه ولی نامربوط را بیاورد.
  3. context window محدود است. فقط چند تکه جا می‌شود؛ اگر جواب در تکه‌ای باشد که جا نشد، مدل آن را نمی‌بیند.

✅ وارسی: جوابی را که RAG می‌دهد باور نکن تا بندی را که به آن استناد کرده خودت باز کنی و ببینی دقیقاً همان را می‌گوید که مدل ادعا کرد و به سؤالِ تو مربوط است. سه قانونِ ثابتِ این دوره: «اول خودت فکر کن» — «وارسی کن، خط به خط» — «مدل مطمئن است؛ دلیل نمی‌شود درست باشد».

قبل از ادامه، جواب بده: اگر مدل جوابی بدهد که هم به یک منبعِ واقعی استناد می‌کند و هم خیلی مطمئن است، آیا همین دو نشانه کافی است که درست باشد؟ چه چیزی هنوز باید خودت چک کنی؟

۶. کجا به کارت می‌آید#

RAG پشتِ خیلی از کارهایی است که تازگی «هوش مصنوعی» انجام می‌دهد: گفت‌وگو با یک فایلِ PDF، دستیاری که روی اسنادِ یک سازمان جواب می‌دهد، یا جوابی که «منبعِ روز» را با لینک می‌آورد. همه یک ترفندِ مشترک دارند: مدل را از حافظه‌اش جدا و به یک کتابخانهٔ واقعی وصل می‌کنند.

ولی درست به همین دلیل، عادتِ فصلِ قبل سرِ جایش می‌ماند: مدل جایی است که کار شروع می‌شود، نه جایی که تمام می‌شود. RAG سرعت و استناد را می‌دهد؛ درست‌بودنِ نهایی هنوز کارِ توست.

واژه‌های تازهٔ این فصل#

کلمه تلفظ به حروف فارسی یعنی چه
RAG اِر-اِی-جی روشی که پیش از جواب‌دادن، متنِ مربوط را از یک مجموعه پیدا می‌کند و جلوی مدل می‌گذارد تا مدل به‌جای حافظه، از رویِ آن متن جواب بسازد — «مدل + کتابخانه»
retrieval ری‌تری‌وال همان قدمِ «پیدا کردن» در RAG؛ بیرون‌کشیدنِ تکه‌های مربوط به سؤال از دلِ یک مجموعه متن، بر اساسِ نزدیکیِ معنا

تمرین‌ها

اول خودت فکر کن یا امتحان کن — بعد اینجا را باز کن.

در فصل بعد#

حالا می‌دانی چطور به مدل دانشِ تازه می‌دهند و چرا این کار توهم را کم می‌کند ولی حذف نمی‌کند. retrieval در واقع یک نمونه از کارِ بزرگ‌تری است: مدل به‌جای اینکه فقط حرف بزند، از یک ابزار استفاده می‌کند. فصلِ بعد این را کامل باز می‌کنیم: tool use و agent — مدلی که نه‌تنها یک ابزار، بلکه چند قدمِ پشتِ‌هم را خودش برمی‌دارد، و چرا همین قدرت آن را شکننده می‌کند.

به آخر این فصل رسیدی!

اگر ساختی و جواب داد، این دکمه مال توست.