ریشه — خودآموز ریاضی از چهار عمل تا هوش مصنوعی

فصل ۶ از ۱۱

پیشرفت ترم
۰٪

ترم ۸ · تغییر و بهینه‌سازی: ریاضیِ یادگیریِ ماشین

کمینه و بیشینه

فصل ۶رایگان

در این فصل چه یاد می‌گیری#

با ۲۴ متر حصار، بزرگ‌ترین مساحتِ ممکن را محصور کن. این تمرینِ ستاره‌دارِ ترم ۵ فصل ۵ بود و آنجا با آزمون‌وخطا یا با رأسِ سهمی حلش کردی.

حالا ابزارِ عمومی‌اش را داری. و ابزارش یک جملهٔ ساده است: در بالاترین و پایین‌ترین نقطه‌های یک منحنی، مماس افقی است — یعنی مشتق صفر است.

این تمامِ بهینه‌سازی است. و بهینه‌سازی همان کاری است که آموزشِ هر مدلِ هوش مصنوعی انجام می‌دهد.

یک منحنی با یک قله و یک دره که در هر دو مماس افقی است

آخر این فصل می‌توانی:

  • نقطه‌های بحرانیِ یک تابع را پیدا کنی
  • کمینه را از بیشینه تشخیص بدهی
  • یک مسئلهٔ بهینه‌سازیِ واقعی را حل کنی

قبل از شروع#

  • از فصل ۳ و ۴: مشتق و قواعدش؛ مشتقِ دوم.
  • از ترم ۴ فصل ۴: شیبِ صفر یعنی تخت — و اینکه تخت لزوماً «ته» نیست.
  • از ترم ۳ فصل ۷: حلِ معادلهٔ درجه دو.

۱. نقطهٔ بحرانی#

جایی که است، نقطهٔ بحرانی نامیده می‌شود.

مثال: .

توجه کن چه کردی: مشتق را گرفتی (فصل ۴) و بعد یک معادله حل کردی (ترم ۳). هیچ ابزارِ تازه‌ای لازم نبود.

و از ترم ۴ فصل ۶ می‌دانی رأسِ این سهمی هم دقیقاً در است. ✓ دو روشِ کاملاً متفاوت، یک جواب.

✅ چک کن: نقطهٔ بحرانیِ کجاست؟ — ، پس .

۲. کمینه یا بیشینه؟#

از ترم ۴ فصل ۴ می‌دانی شیبِ صفر لزوماً «ته» نیست — قله هم شیبِ صفر دارد.

دو راهِ تشخیص:

راهِ اول — علامتِ مشتق در دو طرف.

  • اگر قبلش منفی و بعدش مثبت باشد: پایین می‌آمده و بالا رفته → کمینه.
  • اگر قبلش مثبت و بعدش منفی: بیشینه.

راهِ دوم — مشتقِ دوم. از فصل ۴ می‌دانی می‌گوید شیب چطور عوض می‌شود:

  • : شیب در حالِ زیادشدن، منحنی رو به بالا باز است → کمینه.
  • : بیشینه.
  • : آزمون جواب نمی‌دهد؛ باید از راهِ اول بروی.

برای مثالِ بالا: ، پس کمینه است.

⚠️ دامِ رایج: فرضِ اینکه هر نقطهٔ بحرانی کمینه یا بیشینه است. گاهی هیچ‌کدام نیست — تابعِ در مشتقِ صفر دارد ولی نه قله است و نه دره؛ فقط لحظه‌ای صاف می‌شود و ادامه می‌دهد. همان «فلاتِ وسطِ راه» که در ترم ۴ فصل ۴ هشدارش را دادیم.

✅ چک کن: برای ، نقطهٔ بحرانی کجاست و چه نوعی است؟ — پس ؛ و ، پس بیشینه.

۳. محلی در برابر سراسری#

کمینهٔ محلی: از همسایه‌هایش پایین‌تر است.

کمینهٔ سراسری: از همه‌جا پایین‌تر است.

مشتق فقط محلی را پیدا می‌کند — چون فقط اطرافِ نقطه را می‌بیند. برای یافتنِ سراسری باید همهٔ نقاطِ بحرانی را پیدا کنی و مقایسه‌شان کنی (و مرزهای بازه را هم بررسی کنی، اگر دامنه محدود باشد).

🌱 ریشه‌اش کجاست: این تمایز در یادگیری ماشین یک مسئلهٔ عملیِ بزرگ است. تابعِ هزینهٔ یک شبکهٔ عصبی هزاران کمینهٔ محلی دارد، و الگوریتم ممکن است در یکی از آن‌ها گیر کند بی‌آنکه بهترین را پیدا کرده باشد. فصل ۸ نشان می‌دهد چرا این در عمل کمتر از آنچه به‌نظر می‌رسد فاجعه‌بار است.

۴. یک مسئلهٔ واقعی#

مسئلهٔ حصار را حل کن. ۲۴ متر حصار، مستطیل، بیشترین مساحت.

۱. متغیر را انتخاب کن (ترم ۳ فصل ۹): یک ضلع را بگیر.

۲. رابطه را بنویس: محیط ۲۴ است، پس دو ضلع با هم ۱۲ می‌شوند و ضلعِ دیگر است.

۳. تابعِ هدف را بساز:

۴. مشتق بگیر و صفر کن:

۵. نوعش را بررسی کن: ، پس بیشینه. ✓

۶. به دنیای مسئله برگرد: ضلع‌ها ۶ و ۶ — یعنی مربع، با مساحتِ ۳۶.

💡 نکته: جوابِ مربع اتفاقی نیست: از میانِ همهٔ مستطیل‌های هم‌محیط، مربع بیشترین مساحت را دارد. و اگر شکل را آزاد بگذاری، دایره از مربع هم بهتر است — دلیلی که چرا حباب‌ها گِردند.

⚠️ دامِ رایج: پرش به مشتق‌گرفتن قبل از ساختنِ تابعِ هدف. قدم‌های ۱ تا ۳ سخت‌ترین بخش‌اند، نه قدمِ ۴ — دقیقاً همان چیزی که در ترم ۳ فصل ۹ دربارهٔ مدل‌سازی گفتیم.

۵. چرا این قلبِ یادگیری ماشین است#

آموزشِ یک مدل یعنی این:

۱. تابعی بساز که بگوید مدل چقدر بد کار می‌کند — تابعِ هزینه (فصل ۹).

۲. پارامترهایی پیدا کن که آن تابع را کمینه کنند.

قدمِ دوم دقیقاً همین فصل است. تنها تفاوت‌ها با مثالِ حصار این‌هاست:

  • به‌جای یک متغیر، میلیون‌ها پارامتر (فصل ۷).
  • به‌جای حلِ به‌صورتِ جبری — که برای میلیون‌ها متغیر ناممکن است — قدم‌به‌قدم به سمتِ پایین حرکت می‌کنی (فصل ۸).

💡 نکته: آن نکتهٔ دوم مهم است. در دنیای واقعی تقریباً هیچ‌وقت معادلهٔ را حل نمی‌کنند — نه چون بلد نیستند، بلکه چون برای توابعِ واقعی جوابِ بسته ندارد. به‌جایش سرازیری را دنبال می‌کنند، همان کاری که در ترم ۴ فصل ۴ چشم‌بسته روی تپه کردی.

تمرین‌ها

اول خودت فکر کن یا امتحان کن — بعد اینجا را باز کن.

در فصل بعد#

تا اینجا هر تابع یک ورودی داشت. ولی مدل‌های واقعی میلیون‌ها پارامتر دارند. فصل بعد نشان می‌دهد وقتی چند ورودی داری «شیب» چه معنایی پیدا می‌کند — و از دلش برداری بیرون می‌آید که جهتِ بیشترین شیب را نشان می‌دهد: gradient.

به آخر این فصل رسیدی!

اگر ساختی و جواب داد، این دکمه مال توست.