هم‌هوش — خودآموز هوش مصنوعی

فصل ۴ از ۹

پیشرفت ترم
۰٪

در این فصل چه یاد می‌گیری#

پژوهش یعنی جمع‌کردن، فهمیدن و سبک‌سنگین‌کردنِ اطلاعات — و اینجا هوش مصنوعی واقعاً کمکت می‌کند: یک متنِ بلند را برایت خلاصه می‌کند، از دلِ یک سندِ طولانی جوابِ دقیق بیرون می‌کشد، و کمکت می‌کند سؤالِ بهتری بپرسی. ولی همین فصل خطرناک‌ترین اشتباهِ پژوهشیِ مدل را هم رو می‌کند: منبعِ ساختگی — وقتی مدل یک مرجعِ کاملاً معتبربه‌نظر می‌سازد که اصلاً وجود ندارد. آخرِ فصل می‌دانی چطور مدل را دستیارِ پژوهشت کنی، و چرا همیشه باید به منبعِ اصلی برگردی.

یک کشوی فهرستِ کتابخانه که کارت‌های مرجع در آن ردیف شده‌اند؛ بیشترِ کارت‌ها با خط‌های نازک به کتاب‌های واقعیِ روی قفسه وصل‌اند، ولی یک کارت خطش به یک جای خالیِ قفسه می‌رسد که هیچ کتابی آنجا نیست، و یک ذره‌بین رویش ایستاده

آخر این فصل می‌توانی:

  • یک متنِ بلند را به مدل بدهی و خلاصه‌ای بگیری که به همان متن وفادار مانده
  • از یک سندِ طولانی سؤالِ مشخص بپرسی و جوابِ بندشده به همان سند بگیری
  • یک منبعِ ساختگی را که مدل با اطمینان ساخته، شناسایی کنی
  • عادت کنی هر ادعای پژوهشی را تا خودِ منبعِ اصلی دنبال کنی

قبل از شروع#

  • از ترم ۱ فصل ۱: مدل جواب را همان لحظه تولید می‌کند؛ مثل یک موتورِ جست‌وجو از یک انبارِ آمادهٔ واقعیت‌ها بیرونش نمی‌کشد.
  • از ترم ۱ فصل ۴: مدل گاهی با اطمینانِ کامل چیزی می‌سازد که پایه‌ای در واقعیت ندارد (hallucination).
  • از ترم ۲ فصل ۴: وارسی یعنی جواب را با یک منبعِ مستقلِ اصلی بسنجی، نه با خودِ مدل.

مثل بقیهٔ فصل‌های آزمایشگاهی، فقط یک مرورگر و دستیارِ هوش مصنوعی‌ات (با کلیدِ رایگانِ خودت) لازم داری.

۱. مدل موتورِ جست‌وجو نیست#

اول یک تفاوتِ بنیادی را روشن کنیم، چون تمامِ این فصل روی آن بنا می‌شود. یک موتورِ جست‌وجو صفحه‌های واقعیِ موجود را پیدا می‌کند و لینکِ منبع را جلویت می‌گذارد؛ پشتِ هر خطش یک صفحهٔ واقعی هست که می‌توانی بازش کنی. مدل این‌طور نیست. مدل از الگوهایی که در آموزش دیده، متنِ محتمل می‌سازد — و پشتِ کلماتش هیچ صفحه‌ای نیست، مگر آنکه خودت یکی را به آن داده باشی.

پس مدل در پژوهش دو حالتِ کاملاً متفاوت دارد. حالتِ اول: یک سؤالِ پژوهشی را «از حافظه‌اش» می‌پرسی («فلان موضوع را برایم توضیح بده»)؛ اینجا جواب بندشده به هیچ منبعِ مشخصی نیست و می‌تواند توهم باشد. حالتِ دوم: خودت یک متن یا سند را جلوی مدل می‌گذاری و فقط دربارهٔ همان می‌پرسی؛ اینجا جواب به چیزی بند است که خودت می‌توانی وارسی‌اش کنی. کلِ هنرِ پژوهش با هوش مصنوعی این است که کارت را هرچه بیشتر به سمتِ حالتِ دوم ببری، و حالتِ اول را همیشه وارسی کنی.

۲. خلاصه‌سازیِ یک متنِ بلند#

ملموس‌ترین کمکِ مدل در پژوهش، خلاصه‌کردن است. یک مقالهٔ بلند، یک گزارش، چند صفحه متن — همه را می‌چسبانی داخلِ پرامپت و خلاصهٔ فشرده می‌گیری. این پرامپت را در آزمایشگاه امتحان کن:

متنِ زیر یک مقالهٔ بلند است. در پنج جملهٔ کوتاه خلاصه‌اش کن، بعد سه نکتهٔ کلیدی‌اش
را فهرست کن. اگر جایی مقاله قطعی حرف نمی‌زند و «شاید» یا «به‌احتمال» می‌گوید،
همان تردید را در خلاصه نگه‌دار.

[متنِ مقاله را اینجا بچسبان]

چون متن را خودت داده‌ای، خلاصه به همان متن بند است و توهم خیلی کم می‌شود. ولی یک خطرِ ظریف می‌ماند: خلاصه می‌تواند بی‌سروصدا همان یک استثنا یا یک قیدِ مهم را بیندازد که کلِ معنا را عوض می‌کند، یا یک یافتهٔ محتاطانه را قطعی جا بزند. برای همین در پرامپت خواستیم تردیدها را نگه دارد — ولی به این هم نباید کورکورانه اعتماد کنی.

✅ وارسی: خلاصه را بخوان، بعد دو سه ادعای مهمش را بردار و با همان پاراگرافِ متنِ اصلی که خودت دادی تطبیق بده. مدل واقعاً همان را گفت که مقاله می‌گوید، یا کمی تندش کرد؟

۳. پرسش از یک سندِ بلند#

فراتر از خلاصه، می‌توانی از یک سند سؤالِ مشخص بپرسی — انگار سند را جلویت گذاشته‌ای و انگشتت را روی یک بند می‌گذاری: «اینجا چه نوشته؟». این برای متن‌های طولانی و خسته‌کننده مثل قرارداد، آیین‌نامه یا دفترچهٔ راهنما عالی است. نکته این است که مدل را مجبور کنی فقط از دلِ همان متن جواب بدهد:

این متنِ قرارداد را بخوان. فقط بر اساسِ همین متن جواب بده: آیا بندی دربارهٔ
فسخِ زودهنگام دارد؟ اگر دارد، عینِ جمله‌اش را نقل کن؛ اگر ندارد، بگو «در این
متن نیست». از خودت چیزی اضافه نکن.

[متنِ قرارداد را اینجا بچسبان]

سه قیدِ این پرامپت — «فقط بر اساسِ همین متن»، «عینِ جمله را نقل کن»، «اگر نبود بگو نیست» — کاری می‌کنند که مدل به‌جای بافتن، به متن بچسبد و اگر چیزی نبود اعتراف کند نه اینکه سرِ هم کند.

⚠️ مواظب باش: اگر سند خیلی بلند باشد، ممکن است از ظرفیتِ حافظهٔ کوتاه‌مدتِ مدل — همان context window — بیرون بزند و مدل وسطش را بی‌سروصدا نادیده بگیرد، بی‌آنکه بگوید. مکانیزمِ دقیقِ این حافظه را ترم ۴ کامل باز می‌کنیم؛ فعلاً همین‌قدر بدان که برای یک سندِ خیلی طولانی بهتر است تکه‌تکه بپرسی و به «همه‌اش را خواندم»ِ مدل اعتماد نکنی.

۴. منبعِ ساختگی: خطرناک‌ترین توهمِ پژوهشی#

حالا می‌رسیم به قلبِ این فصل. فرض کن برای یک مقاله یا تحقیق، از مدل منبعِ علمی می‌خواهی:

سه مقالهٔ علمیِ معتبر دربارهٔ تأثیرِ رنگِ دیوارِ کلاسِ درس بر سرعتِ یادگیریِ
نوجوانان معرفی کن. برای هرکدام نامِ نویسنده، سالِ انتشار، عنوانِ مقاله،
نامِ مجله و شمارهٔ صفحه را بنویس.

انتخابِ موضوع اتفاقی نیست و خودش نصفِ درس است: موضوع باید باریک و کم‌کارشده باشد. اگر دربارهٔ چیزی بپرسی که صدها مقالهٔ مشهور دارد — مثلاً تأثیرِ خواب بر یادگیری — مدل معمولاً ارجاع‌های واقعی می‌دهد، چون آن مقاله‌ها آن‌قدر پرتکرارند که الگویشان محکم در مدل نشسته. همین که به یک گوشهٔ کم‌رفت‌وآمد می‌روی، الگو ضعیف می‌شود و مدل جای خالی را پُر می‌کند. یک جوابِ واقع‌نما این است (خروجیِ تو ممکن است فرق کند):

1. Kankaanranta, M., & Mäntymaa, E. (2011). "The Impact of Classroom Colour on
   Learning Outcomes: A Systematic Review." Journal of Environmental Psychology,
   31(1), 18–29.
2. Akers, J. R. (2017). "The Impact of Classroom Color on Student Learning and
   Behavior in Middle School." Journal of Environmental Psychology, 51, 102–111.
3. Kwak, Y., Cho, C. H., & Jun, H. J. (2019). "The Effect of Classroom Color
   Schemes on Psychological and Cognitive Response." Building and Environment,
   162, 106–118.

بی‌عیب به‌نظر می‌رسد: نامِ نویسنده‌ها باورپذیر است، مجله‌ها واقعاً وجود دارند، شمارهٔ جلد و صفحه هم سرِ جایش است. حالا کارِ اصلی، و آن را روی خروجیِ خودت انجام بده: عنوانِ هر سه ارجاع را داخلِ گیومه در یک پایگاهِ علمی یا موتورِ جست‌وجوی مقاله بزن و کنارِ هرکدام یکی از دو کلمه را بنویس — «پیدا شد» یا «پیدا نشد».

هر عنوانی که در دو جست‌وجوی جدا پیدا نشد، به احتمالِ خیلی زیاد ساختهٔ مدل است؛ مقاله‌های فارسی و قدیمی گاهی فقط در پایگاه‌های خودشان هستند، پس یک جست‌وجوی خالی هنوز حکمِ قطعی نیست. دقت کن این با «پیدا نکرده» فرق دارد: مدل اصلاً جایی نگشته بود که چیزی پیدا نکند؛ از حافظه جواب داد، نه از یک کتابخانه، و متنی نوشت که آماری شبیهِ یک ارجاعِ واقعی است. این همان hallucination است، منتها این‌بار روپوشِ سفیدِ دانشمندها را پوشیده. و دقیقاً همان ظاهرِ رسمی و مرتب، گاردت را پایین می‌آورد.

بدترین حالت هم همین‌جاست: مدل اسمِ مجله‌های واقعی را روی مقاله‌های ناموجود می‌گذارد. پس «مجله را می‌شناسم» هیچ چیزی را ثابت نمی‌کند؛ باید خودِ عنوانِ مقاله را پیدا کنی.

💡 نکته: دو حالت هست که نباید گمراهت کنند. یک: اگر روی یک موضوعِ پرکار امتحان کردی و ارجاع‌های درست گرفتی، ذوق‌زده نشو و نتیجه نگیر «مدلِ من منبع نمی‌سازد» — تو فقط سؤالی پرسیدی که مدل جوابش را واقعاً داشت. دو: دستیارهای قوی‌تر و کندترِ امروز گاهی هوشمندانه‌تر رفتار می‌کنند: به‌جای ساختنِ سه مقالهٔ دقیقاً هم‌موضوع، اول می‌گویند «مقاله‌ای دقیقاً با این موضوع کم است» و بعد چند مقالهٔ واقعیِ نزدیک به موضوع معرفی می‌کنند. این رفتارِ خیلی بهتری است و باید تحسینش کرد — ولی وظیفهٔ تو را عوض نمی‌کند، چون همان مدل ممکن است سرِ یک عنوان یا یک شمارهٔ صفحه بلغزد. سنجهٔ درست همیشه یکی است: هر ارجاعی که قرار است در کارِ تو برود، باید خودت پیدایش کرده باشی. تفاوتِ موضوع و مدل فقط احتمال را عوض می‌کند، نه وظیفه را.

گاهی هم شکلِ دیگری دارد: نسبت‌دادنِ یک اثر یا حرف به کسی که آن را نساخته یا نگفته. مدل نامِ یک نویسندهٔ واقعی را برمی‌دارد و مقاله‌ای به او نسبت می‌دهد که هرگز ننوشته، یا یک جملهٔ قصار را به دهانِ آدمِ اشتباهی می‌گذارد. راهِ گرفتنش همان است.

✅ وارسی: هر منبعی را که مدل داد جدا کن و عینِ عنوان را در یک پایگاهِ مستقل جست‌وجو کن؛ اگر لینک یا شناسه‌ای داد، بازش کن و ببین به همان مقاله می‌رسد یا به هیچ. اگر در دو جا پیدا نشد، آن را ساختگی فرض کن و به کارت نبر، هرچند بی‌نقص به‌نظر می‌رسید. سه قانونِ ثابتِ این دوره: «اول خودت فکر کن» — «وارسی کن، خط به خط» — «مدل مطمئن است؛ دلیل نمی‌شود درست باشد».

قبل از ادامه، جواب بده: اگر مدل یک منبع با نامِ نویسنده، مجله، سال و شمارهٔ صفحهٔ کامل بدهد، آیا همین کامل و مرتب بودن دلیل می‌شود که واقعی است؟ چطور در یک دقیقه خلافش را ثابت می‌کنی؟

۵. همیشه به منبعِ اصلی برگرد#

از این فصل یک عادت بردار که در تمامِ پژوهش‌های عمرت به کارت می‌آید: مدل جایی است که پژوهش شروع می‌شود، نه جایی که تمام می‌شود. حتی وقتی منبعی که مدل نام می‌برد واقعی است، خلاصه یا نقلِ‌قولی که از آن می‌کند می‌تواند غلط باشد. پس این سه قدم را برو:

  1. سرنخ را بگیر. بگذار مدل موضوع را برایت بشکافد و اسمِ منبع‌های احتمالی را بدهد — این بخش را خوب انجام می‌دهد.
  2. منبعِ واقعی را پیدا کن. خودت آن منبع را در یک پایگاهِ مستقل پیدا و باز کن؛ اگر پیدا نشد، رویش حساب نکن و در کارت نیاورش.
  3. خودت بخوان و به منبع ارجاع بده. بخشِ مربوطه را خودت بخوان و در نوشته‌ات به آن منبع استناد کن، نه به مدل. مدل هیچ‌وقت خودش یک منبع نیست.

با همین سه قدم، از سرعتِ مدل بهره می‌بری بی‌آنکه اعتبارِ کارت را به یک ماشینِ حدس‌زننده بسپاری.

تمرین‌ها

اول خودت فکر کن یا امتحان کن — بعد اینجا را باز کن.

در فصل بعد#

حالا می‌توانی با مدل پژوهش کنی بی‌آنکه فریبِ منبعِ ساختگی را بخوری. فصلِ بعد از خواندن به نوشتن می‌رویم: مدل چطور به تو پیش‌نویس می‌دهد، متنت را ویرایش می‌کند و لحنش را عوض می‌کند — و مهم‌تر از همه، چطور از این کمک استفاده کنی بی‌آنکه صدای خودت در نوشته‌ات گم شود.

به آخر این فصل رسیدی!

اگر ساختی و جواب داد، این دکمه مال توست.