چطور یاد گرفت

در این فصل چه یاد می‌گیری#

در فصلِ قبل دیدی مدل جوابش را می‌سازد، نه اینکه از جایی پیدا کند. سؤالِ طبیعیِ بعدی این است: پس این توانایی را از کجا آورد؟ در این فصل می‌فهمی مدل چطور «یاد گرفت» — روی چه چیزی آموزش دید، چرا آنچه در آن مانده «الگو»ست نه «حافظه»، و چرا از یک نقطهٔ زمانی به بعد دیگر خبر ندارد. این‌ها ساده‌اند ولی همه‌چیزِ بعدی را روشن می‌کنند: می‌فهمی مدل کِی قابلِ‌اعتماد است و کِی نه.

آخر این فصل می‌توانی:

• به زبانِ ساده بگویی training یعنی چه
• توضیح بدهی چرا «الگو» با «حافظه» فرق دارد
• بگویی چرا کیفیت و پوششِ داده‌ها سرنوشتِ جوابِ مدل را تعیین می‌کند
• knowledge cutoff را در عمل نشان بدهی و خطای ناشی از آن را بگیری

قبل از شروع#

از فصل ۱: «مدل» یک ماشینِ پیش‌بینیِ متن است و جوابش را تولید می‌کند نه جست‌وجو.

از فصل ۱: prompt چیزی است که تو می‌فرستی و response چیزی که مدل پس می‌دهد.

لوازم مثلِ فصلِ قبل: یک مرورگر و یک دستیارِ هوش مصنوعی.

۱. مدل چطور «یاد گرفت»؟#

یک آدم را تصور کن که از بچگی تا حالا حجمِ باورنکردنی‌ای متن خوانده: کتاب، مقاله، صفحهٔ وب، گفت‌وگو. آن‌قدر که کم‌کم «حس» کرده کلمه‌ها چطور کنارِ هم می‌نشینند — که بعد از «آسمانِ» معمولاً «آبی» می‌آید، که یک نامه چطور شروع می‌شود، که جوابِ یک سؤالِ ریاضی چه شکلی دارد. مدل هم دقیقاً همین کار را کرده، فقط در مقیاسی که هیچ انسانی در عمرش به آن نمی‌رسد.

به این مرحله training می‌گویند: مدل حجمِ عظیمی از متن را می‌بیند و بارها و بارها تمرین می‌کند که «کلمهٔ بعدی» را حدس بزند. هر بار که اشتباه حدس می‌زند، کمی خودش را تنظیم می‌کند تا دفعهٔ بعد بهتر شود. بعد از میلیاردها بار تکرار، در حدس‌زدنِ کلمهٔ بعدی خیلی خوب می‌شود — و همان توانایی است که وقتی تو prompt می‌فرستی، تبدیل به یک responseِ روان می‌شود.

پس آن روانی و اطمینانی که در فصلِ ۱ دیدی، از یک ذهن نمی‌آید؛ از تمرینِ بی‌شمار روی متن می‌آید.

۲. الگو، نه حافظه#

اینجا مهم‌ترین سوءتفاهم را برطرف می‌کنیم. مدل آن همه متن را حفظ نکرده و مثلِ یک کتابخانه در کشوهایش نگه نداشته. چیزی که از training در مدل می‌ماند «الگو»ست: رابطه‌ها، ریتم‌ها، و اینکه چه چیزی معمولاً کنارِ چه چیزی می‌آید. متنِ اصلی رفته؛ فقط الگوهایش مانده.

برای همین است که مدل معمولاً نمی‌تواند یک جمله را کلمه‌به‌کلمهٔ دقیق از حفظ بگوید — بازسازی‌اش می‌کند، و در بازسازی گاهی می‌لغزد. امتحان کن. از مدل بخواه یک جملهٔ مشهور را عیناً نقل کند:

جملهٔ آغازینِ داستان «شازده کوچولو» را دقیقاً و کلمه‌به‌کلمه بنویس.

ممکن است جمله‌ای بدهد که نزدیک است ولی دقیقاً همان نباشد — چون از روی الگو بازسازی می‌کند، نه از روی یک نسخهٔ ذخیره‌شده.

✅ وارسی: این یک ادعای واقعی است، پس وارسی کن، خط به خط. جملهٔ مدل را با نسخهٔ چاپیِ کتاب مقابله کن. اگر یک کلمه هم فرق داشت، همان‌جا دیده‌ای که مدل «حافظه» نیست، «الگو»ست. مدل مطمئن است؛ دلیل نمی‌شود درست باشد.

این نکته کلِ فصلِ ۱ را کامل می‌کند: چون مدل به‌جای انبارِ متن یک مشت الگو دارد، جواب را می‌سازد — و همان ساختن است که هم خلاقیت می‌آورد هم خطا.

قبل از ادامه، جواب بده: اگر مدل متن‌ها را حفظ نکرده و فقط الگو دارد، چطور می‌تواند یک ضرب‌المثلِ خیلی معروف را کلمه‌به‌کلمه درست بگوید، ولی یک جملهٔ کم‌یاب را غلط؟ جواب: هر چه یک متن در training پرتکرارتر بوده، الگویش قوی‌تر است و بازسازی‌اش تقریباً بی‌خطا؛ متنِ کم‌یاب الگوی ضعیفی دارد و همان‌جاست که مدل جای خالی را با حدس پُر می‌کند.

۳. چرا داده‌ها تعیین‌کننده‌اند#

اگر آنچه مدل بلد است از متنی می‌آید که دیده، پس یک نتیجهٔ ساده و مهم دارد: مدل فقط به‌اندازهٔ داده‌هایش خوب است. موضوعی که در دادهٔ آموزشی زیاد و باکیفیت بوده، مدل خوب از پسش برمی‌آید. موضوعی که کم بوده یا داده‌اش پر از اشتباه بوده، مدل هم همان‌جا ضعیف و لغزنده است.

یک مثالِ مستقیم که خودت هر روز با آن روبه‌رویی: بیشترِ متنِ باکیفیتِ اینترنت انگلیسی است، نه فارسی. برای همین بسیاری از مدل‌ها در انگلیسی روان‌تر و دقیق‌ترند تا در فارسی. این عیبِ زبانِ فارسی نیست؛ نتیجهٔ آن است که چه چیزی و چقدر در training بوده. (این شکاف را در ترمِ ۴ کامل باز می‌کنیم؛ فعلاً فقط بدان علتش داده است.)

💡 نکته: وقتی جوابِ فارسیِ مدل ضعیف بود، لزوماً «مدل خراب است» نیست. گاهی همان سؤال به انگلیسی جوابِ بهتری می‌گیرد، دقیقاً چون داده‌اش بیشتر بوده. این یک ترفندِ عملی است که بعداً رویش کار می‌کنیم.

۴. knowledge cutoff: از یک جایی به بعد خبر ندارد#

training یک بارِ بزرگ است که در گذشته اتفاق افتاده و تا یک نقطهٔ زمانیِ مشخص ادامه داشته. به آن نقطه knowledge cutoff می‌گویند. هر چیزی که بعد از آن رخ داده، مدل اصلاً در training ندیده — پس نمی‌تواند واقعاً بداند.

مشکل اینجاست: مدل به‌جای اینکه صادقانه بگوید «نمی‌دانم»، گاهی همان کارِ فصلِ ۱ را می‌کند و یک جوابِ باورپذیر می‌سازد. از مدل دربارهٔ یک خبرِ خیلی تازه بپرس:

مهم‌ترین خبرِ این هفته در دنیا چه بود؟

ببین مدل چه داد. گاهی صادق است و می‌گوید به اخبارِ لحظه‌ای دسترسی ندارد. ولی گاهی، با همان اطمینانِ کامل، یک «خبر» می‌سازد — چیزی شبیهِ این:

این هفته نشستِ سالانهٔ سرانِ اقتصادی در ژنو برگزار شد و توافقی تازه دربارهٔ
قیمتِ انرژی امضا شد که بازارها به آن واکنشِ مثبت نشان دادند.

این خبر ممکن است اصلاً اتفاق نیفتاده باشد. مدل خبر را نمی‌داند، ولی چون بلد است متنِ خبرْمانند بسازد، یک خبرِ محتمل سرِ هم می‌کند. (خروجیِ تو ممکن است فرق کند؛ مدل هر بار جوابِ تازه می‌سازد.)

✅ وارسی: این «خبر» را با سه قانونِ ثابتِ دوره بسنج: «اول خودت فکر کن» — «وارسی کن، خط به خط» — «مدل مطمئن است؛ دلیل نمی‌شود درست باشد». مدل چطور می‌تواند خبرِ این هفته را بداند وقتی trainingاش برای گذشته است؟ هر ادعای خبری را با یک منبعِ خبریِ واقعی و امروزی مقابله کن. اگر جای دیگری نبود، ساختگی بوده.

۵. حالا فرقش را با چشمِ خودت ببین#

یک بار یک چیزِ قدیمی و پایدار بپرس، یک بار یک چیزِ کاملاً تازه:

آب در سطحِ دریا در چند درجه می‌جوشد؟

این را با اطمینان و درست جواب می‌دهد، چون موضوعی است که در training بارها و باکیفیت آمده. حالا همان را با یک سؤالِ خیلی تازه (یک رویدادِ همین چند روز) مقایسه کن. تفاوت را می‌بینی: مدل روی دانشِ پایدار و پرتکرار محکم است، و روی تازه یا کم‌یاب لغزنده. این یک نقشهٔ ذهنیِ طلایی است: قبل از باورِ هر جواب، از خودت بپرس این موضوع کدام دسته است.

واژه‌های تازهٔ این فصل#

در فصل بعد#

فهمیدی مدل روی متن آموزش می‌بیند و کلمهٔ بعدی را حدس می‌زند. ولی «کلمه» برای مدل دقیقاً چیست؟ جالب است بدانی مدل متن را نه به کلمه، که به تکه‌های ریزتری به اسمِ token می‌شکند — و همین است که توضیح می‌دهد چرا فارسی برایش سنگین‌تر است و چرا وسطِ گفت‌وگوی طولانی حواسش پرت می‌شود. فصلِ بعد سراغِ واحدِ واقعیِ کارِ مدل می‌رویم.