هم‌هوش — خودآموز هوش مصنوعی

فصل ۸ از ۸

پیشرفت ترم
۰٪

ترم ۱ · هوش مصنوعی واقعاً چیست؟

پروژه: یک مدل را بازجویی کن

فصل ۸پیش‌نمایش رایگان
۵ دقیقه مطالعه فصل ۸

در این فصل چه یاد می‌گیری#

این فصل مفهومِ تازه‌ای ندارد. کارِ امروز این است که هر چیزی را که در هفت فصلِ گذشته یاد گرفتی در یک نشست کنارِ هم بگذاری و یک کارِ واقعی بکنی: یک مدل را بازجویی کنی. نه با دشمنی — با کنجکاوی. در یک گفت‌وگوی هدایت‌شده، خودت سه چیز را از دلِ مدل بیرون می‌کشی و ثبت می‌کنی: یک توهم (فصل ۴)، یک مرز (فصل ۵)، و یک سوگیری (فصل ۷). آخرِ کار یک پروندهٔ کوچک داری که با دستِ خودت پُرش کرده‌ای — سندی که نشان می‌دهد فهمیده‌ای این ماشین کجا کار می‌کند و کجا نه.

یک ماشینِ برش‌خورده روی سینیِ آزمایش که سه میلهٔ باریک از سه نقطه واردش شده‌اند و یک ذره‌بین بالای آن قرار دارد

آخر این فصل می‌توانی:

  • در یک گفت‌وگوی هدفمند، یک توهم، یک مرز و یک سوگیری را خودت پیدا کنی
  • برای هرکدام بگویی چرا رخ داد، نه فقط اینکه رخ داد
  • یک «پروندهٔ بازجویی» بسازی که کلِ ترم ۱ را در یک صفحه جمع می‌کند

قبل از شروع#

  • از فصل ۴: توهم — پاسخِ مطمئن ولی غلط.
  • از فصل ۵: مرزها — knowledge cutoff و بی‌خبری از لحظهٔ حال.
  • از فصل ۷: سوگیری از داده.

لوازم: یک مرورگر، کلیدِ رایگانِ خودت، و یک جای ساده برای نوشتن (یک کاغذ یا یک فایل).

۱. بازجوییِ اول: یک توهم بگیر#

ترفندِ فصل ۴ را به‌کار ببر: چیزی بخواه که به‌احتمالِ زیاد اصلاً وجود ندارد. یک عنوانِ کتاب و یک اسمِ نویسنده را کاملاً از خودت دربیاور، و بعد بپرس:

کتابِ «باغِ آینه‌های خاموش» نوشتهٔ نیما فرهودی را در دو جمله خلاصه کن.

مدل به‌جای اینکه بگوید «چنین کتابی نمی‌شناسم»، معمولاً با اطمینان یک خلاصهٔ باورپذیر می‌سازد — چون کارش پیش‌بینیِ متنِ محتمل است، نه جست‌وجو. در پرونده‌ات ثبت کن: چه پرسیدی، مدل چه ادعایی کرد، و چرا این یک توهم است (کتاب وجود ندارد؛ مدل واژه‌به‌واژه یک متنِ محتمل بافت).

وارسی: چطور مطمئن شوی توهم است؟ اسمِ کتاب و نویسنده را در یک موتورِ جست‌وجو یا یک کتاب‌فروشیِ معتبر بزن. اگر هیچ ردی نبود، مدل ساخته‌اش.

۲. بازجوییِ دوم: به یک مرز بزن#

حالا مدل را به جایی ببر که نمی‌تواند بداند. از لحظهٔ حال بپرس یا یک حسابِ دقیق بخواه:

همین الان ساعت چند است و مهم‌ترین خبرِ امروز چه بود؟

مدل یا صادقانه می‌گوید به لحظهٔ حال دسترسی ندارد (knowledge cutoff، فصل ۵)، یا یک جوابِ کهنه و ساختگی می‌دهد. هر دو حالت درس است. اگر دوست داشتی، یک ضربِ چندرقمیِ سخت هم بخواه و با ماشین‌حساب چک کن تا ضعفِ حسابش را ببینی. ثبت کن: چه پرسیدی و مدل چطور به مرز خورد — اعتراف کرد، کهنه جواب داد، یا اشتباه حساب کرد؟

وارسی: جوابِ زمان‌دار یا عددی را با یک منبعِ زندهٔ واقعی بسنج — یک تقویم، یک سایتِ خبر، یا یک ماشین‌حساب.

۳. بازجوییِ سوم: یک سوگیری پیدا کن#

مثلِ فصل ۷، یک نقشِ شغلی یا اجتماعی را بدونِ جنسیت بخواه و چند بار اجرا کن:

یک داستانِ کوتاه دربارهٔ یک مدیرعاملِ موفق و دستیارش بنویس و به هرکدام اسمی بده.

چند بار اجرا کن و دنبالِ یک الگوی تکراری بگرد — مثلاً اینکه مدیرعامل تقریباً همیشه یک اسمِ مردانه می‌گیرد و دستیار یک اسمِ زنانه. ثبت کن: چه خواستی، چه الگویی دیدی، و چرا (دادهٔ آموزشی، فصل ۲).

وارسی: نقش‌ها را جابه‌جا بخواه و ببین الگو پابرجاست یا نه. اگر با عوض‌شدنِ نقش‌ها باز همان کلیشه برگشت، سوگیری را گرفته‌ای.

۴. پرونده را ببند#

حالا هر سه ستون پُر است. یک نگاهِ آخر به کلِ پرونده بینداز و یک چیز را ببین: در هر سه مورد، مدل با همان اطمینان حرف زد — چه وقتی درست می‌گفت، چه وقتی توهم می‌کرد، چه وقتی سوگیری داشت. این بزرگ‌ترین درسِ ترم ۱ است، و دقیقاً به‌همین‌خاطر سه قانونِ ثابتِ این دوره وجود دارند: «اول خودت فکر کن» — «وارسی کن، خط به خط» — «مدل مطمئن است؛ دلیل نمی‌شود درست باشد». تو امروز هر سه را عملی کردی.

تمرین‌ها

اول خودت فکر کن یا امتحان کن — بعد اینجا را باز کن.

در فصل بعد#

تبریک — ترم ۱ تمام شد. حالا می‌دانی هوش مصنوعی یک ماشینِ پیش‌بینی است نه جادو، می‌فهمی چرا اشتباه می‌کند، و از همان اولین گفت‌وگو عادتِ وارسی داری. تا اینجا فقط ساده با مدل حرف زدی. ترم ۲، «گفت‌وگوی مؤثر»، یادت می‌دهد خوب حرف بزنی: چطور نیت و زمینه‌ات را روشن بدهی تا جوابِ بهتری بگیری، چطور در چند دور جواب را پخته کنی، و چطور وارسی — همان مهارتی که این ترم شروعش کردی — را به قلبِ کارت تبدیل کنی. بازجویی تمام شد؛ حالا وقتِ همکاری است.

به آخر این فصل رسیدی!

اگر ساختی و جواب داد، این دکمه مال توست.