هم‌هوش — خودآموز هوش مصنوعی

فصل ۸ از ۸

پیشرفت ترم
۰٪

در این فصل چه یاد می‌گیری#

این فصل مفهومِ تازه‌ای ندارد؛ پروژهٔ پایانیِ این ترم است. کارِ امروز این است که یک پاسخِ واقعی بگیری و قدم‌به‌قدم ردش را بزنی: از لحظه‌ای که prompt را می‌فرستی تا لحظه‌ای که response بیرون می‌آید، پاسخ از چند ایستگاه رد می‌شود، و تو کنارِ هر ایستگاه اسمِ مفهومی را که آنجا کار می‌کند می‌نویسی. آخرِ کار یک نقشهٔ ذهنی داری که کلِ «پشتِ پرده» را یک‌جا نشان می‌دهد. وقتی این نقشه در ذهنت جا بیفتد، هم بهتر از مدل کار می‌کشی و هم دقیق‌تر می‌فهمی کجا و چرا ممکن است بلغزد.

نقشهٔ برشی‌خوردهٔ یک خط‌تولید که یک پرسشِ واحد از چند ایستگاه پشتِ‌هم رد می‌شود و در انتها به یک پاسخ تبدیل می‌شود

آخر این فصل می‌توانی:

  • یک پاسخِ واقعی را از prompt تا response ایستگاه‌به‌ایستگاه ردیابی کنی
  • کنارِ هر ایستگاه، مفهومِ درستِ این ترم را نام ببری
  • نقطه‌ای را که ممکن است در آن توهم وارد شود روی نقشه پیدا کنی و بگویی کجا وارسی می‌کنی

قبل از شروع#

  • از فصل‌های این ترم: آموزش (pretraining و fine-tuning و RLHF)، embedding، context window، RAG، عامل و tool use.
  • از ترم ۱: token، اینکه پاسخ تولید می‌شود نه جست‌وجو، و hallucination.

لوازم: یک مرورگر، کلیدِ رایگانِ خودت، و یک برگه یا فایل که برگهٔ ردیابی‌ات شود. برگه شش ردیف دارد، به‌اسمِ همان شش ایستگاهی که پایین می‌بینی؛ روبه‌روی هر ایستگاه یک جای خالی می‌گذاری و بعد برای پاسخِ خودت پُرش می‌کنی.

پاسخی که ردش را می‌زنیم#

بیا یک پرسشِ مشخص را با هم دنبال کنیم تا نقشه ملموس شود. فرض کن این را فرستاده‌ای:

سه کتابِ خوب دربارهٔ نجوم برای نوجوان معرفی کن و یکی را کوتاه توضیح بده.

حالا این پرسش شش ایستگاه را طی می‌کند تا به پاسخ برسد.

۱. ایستگاه اول: پرامپت وارد می‌شود — context window (پشت‌صحنه تولید)

۱. ایستگاه اول: پرامپت وارد می‌شود — context window#

اولین چیزی که اتفاق می‌افتد این است که پرامپتت، به‌همراهِ کلِ گفت‌وگوی قبلی، در context window بسته‌بندی می‌شود — همان میزِ کارِ کوتاه‌مدتِ مدل که فصل ۳ دیدی. هرچه این میز شلوغ‌تر باشد، جای کمتری برای پرسشِ تازه می‌ماند. پس همین ابتدا، مدل نه فقط سؤالِ تو، بلکه هر چیزی را که تا حالا در این گفت‌وگو گفته شده جلوی رویش دارد.

۲. ایستگاه دوم: شکستن به token#

متن همان‌طور که هست وارد نمی‌شود؛ اول به token شکسته می‌شود. جملهٔ فارسیِ ما به تکه‌های ریز خرد می‌شود، و چون فارسی است، به tokenهای بیشتری از معادلِ انگلیسی‌اش تبدیل می‌شود — همان شکافی که فصل ۷ دیدی. این tokenها زبانِ واقعیِ مدل‌اند؛ از این‌جا به بعد مدل با تکه‌ها کار می‌کند، نه با حروف.

۳. ایستگاه سوم: معنا — embedding#

هر token به مختصاتی در فضای embedding تبدیل می‌شود (فصل ۲). این‌جا معنا شکل می‌گیرد: «نجوم» نزدیکِ «ستاره» و «کهکشان» می‌نشیند، «کتاب» نزدیکِ «خواندن». مدل حالا نه یک رشتهٔ حروف، بلکه یک بارِ معناییِ مختصات‌دار در دست دارد و می‌فهمد پرسش دربارهٔ چیست.

۴. ایستگاه چهارم (اختیاری): بازیابی و ابزار — retrieval و tool use#

این ایستگاه همیشه فعال نیست. اگر ابزاری که به‌کار می‌بری فقط یک مدلِ خالی باشد، پاسخ از حافظهٔ خودِ مدل می‌آید و مستقیم می‌رود ایستگاهِ بعد. ولی اگر RAG داشته باشد (فصل ۴)، همین‌جا به یک کتابخانهٔ بیرونی سر می‌زند، متنِ مرتبط را بازیابی می‌کند و به context window می‌افزاید. و اگر یک عامل باشد (فصل ۵)، ممکن است با tool use یک قدمِ واقعی بردارد — مثلاً وب را بگردد تا کتاب‌های واقعی پیدا کند. هر چیزی که این‌جا بازیابی شود، مثلِ سرنخِ تازه واردِ پاسخ می‌شود.

۵. ایستگاه پنجم: الگوها پاسخ را می‌بافند#

حالا قلبِ ماجرا. مدل token بعدی را پیش‌بینی می‌کند، بعد بعدی را، یکی‌یکی — درست همان‌طور که ترم ۱ دیدی. سه چیز به این پیش‌بینی‌ها شکل می‌دهند، و هر سه در فصل ۱ آمدند:

  • الگوهایی که در pretraining از حجمِ عظیمِ متن برداشت.
  • جهت‌گیری‌ای که fine-tuning به آن داد.
  • ادبی که RLHF یادش داد تا مؤدب و کمک‌کننده جواب دهد.

و یادت باشد از فصل ۶: کیفیتِ این بافت به یک چیزِ دیگر هم بستگی دارد — به اینکه مدل بزرگِ ابری باشد یا کوچکِ محلی. مدلِ کوچک همین‌جا سطحی‌تر می‌بافد.

۶. ایستگاه ششم: response — و وارسی#

tokenهای تولیدشده دوباره به متن برمی‌گردند و پاسخ جلوی تو ظاهر می‌شود. ولی این‌جا آخرِ ماجرا نیست، اولِ کارِ توست. چون پاسخ تولید شده نه جست‌وجو، ممکن است یکی از آن سه کتاب اصلاً وجود نداشته باشد — یک hallucinationِ تمام‌عیار با نامِ نویسنده و ناشرِ باورپذیر. نقشه‌ات دقیقاً همین‌جا به تو می‌گوید کجا باید بایستی و وارسی کنی.

✅ وارسی: هر ادعای واقعیِ پاسخ — این‌جا نامِ هر سه کتاب — را جدا کن و در یک منبعِ مستقل جست‌وجو کن که واقعاً وجود دارد. سه قانونِ ثابتِ این دوره: «اول خودت فکر کن» — «وارسی کن، خط به خط» — «مدل مطمئن است؛ دلیل نمی‌شود درست باشد».

نقشه را خودت بکش#

حالا پروژه: همین کار را برای یک پاسخِ واقعیِ خودت انجام بده.

  1. یک سؤالِ واقعی به مدل بده و یک پاسخ بگیر.
  2. برگهٔ ردیابی‌ات را بردار و شش ایستگاه را برای همین پاسخ پُر کن: در context window چه بود؟ کجا token و embedding کار کردند؟ آیا retrieval یا tool use رخ داد؟ کدام‌یک از pretraining/fine-tuning/RLHF پاسخ را شکل دادند؟
  3. روی نقشه یک نقطه علامت بزن که در آن ممکن است توهم وارد شود، و بنویس همان‌جا چطور وارسی می‌کنی.

وقتی این نقشه را یک بار خودت کشیدی، «پشتِ پرده» دیگر یک جعبهٔ سیاه نیست؛ یک خط‌تولیدِ قابلِ‌فهم است که تو نقاطِ ضعفش را می‌شناسی.

تمرین‌ها

اول خودت فکر کن یا امتحان کن — بعد اینجا را باز کن.

در فصل بعد#

تبریک — ترم ۴ تمام شد و حالا نقشهٔ کارِ درونیِ مدل را در ذهن داری. تا این‌جا مدل را همیشه از راهِ گفت‌وگو به‌کار گرفته‌ای. ترمِ بعد، «ساختن با هوش مصنوعی»، یک قدمِ متفاوت است: به‌جای حرف‌زدن با مدل، یک برنامهٔ کوچکِ خودت را به آن وصل می‌کنی و یک ابزارِ واقعی می‌سازی — این کار از راهِ API انجام می‌شود، همان دری که برنامه‌ها از آن با مدل حرف می‌زنند. این تنها ترمِ کدنویسیِ دوره است و یک شاخهٔ عمقِ اختیاری؛ اگر کد برایت تازه است اشکالی ندارد، مفهومش را می‌فهمی و هر وقت خواستی سراغِ ساختن می‌روی. آنچه در این چهار ترم ساختی — فهمِ اینکه مدل چیست، چطور باهاش حرف بزنی، جعبه‌ابزارش، و حالا پشتِ پرده‌اش — پایه‌ای است که ساختن رویش بنا می‌شود.

به آخر این فصل رسیدی!

اگر ساختی و جواب داد، این دکمه مال توست.