هم‌هوش — خودآموز هوش مصنوعی

فصل ۵ از ۹

پیشرفت ترم
۰٪

در این فصل چه یاد می‌گیری#

فصل ۷ ترم ۱ یک قانونِ ساده گذاشت: چیزی به ردهٔ رایگان نده که ناراحت می‌شوی جای دیگری ببینی‌اش. این فصل آن دانه را به یک درختِ کامل تبدیل می‌کند. می‌فهمی دادهٔ خودِ مدل از کجا آمده (و چرا دادهٔ تو هم می‌تواند بخشی از آن شود)، یک فهرستِ واقعی از چیزهایی که هرگز نباید بدهی می‌سازی، یاد می‌گیری قبل از چسباندنِ یک متن آن را پاک‌سازی کنی، و می‌بینی چرا حتی خودِ مدل دربارهٔ سیاستِ دادهٔ خودش قابلِ‌اعتماد نیست. آخرش هم رده‌های رایگان و پولی را نه از منظرِ کیفیت، بلکه از منظرِ داده کنارِ هم می‌گذاری — و می‌فهمی چه حقوقی داری و چه چیزی اصلاً حقِ تو نیست.

یک صندوقِ داده که از یک طرف با یک دریچهٔ باز به سرورِ ابری می‌ریزد و از طرفِ دیگر یک دستِ کوچک برچسب‌های شناسایی را از روی برگه‌ها برمی‌دارد و کنار می‌گذارد

آخر این فصل می‌توانی:

  • توضیح بدهی دادهٔ آموزشیِ مدل از کجا می‌آید و چرا دادهٔ تو می‌تواند به آن اضافه شود
  • یک فهرستِ روشن بگویی از داده‌هایی که هرگز نباید به مدل داد
  • یک متن را قبل از دادن به مدل پاک‌سازی کنی تا کمکِ لازم را بگیری بی‌آنکه راز لو برود
  • رده‌های رایگان و پولی را از منظرِ داده مقایسه کنی و حقوقِ واقعی‌ات را بشناسی

قبل از شروع#

  • از فصل ۲ ترم ۱: مدل روی حجمِ عظیمی از داده آموزش می‌بیند؛ داده تعیین‌کننده است.
  • از فصل ۵ ترم ۱: «رازِ شخصی به مدل نده» — این فصل کاملش می‌کند.
  • از فصل ۷ ترم ۱: ردهٔ رایگان ممکن است پرامپت و پاسخِ تو را برای آموزش استفاده کند.

مثلِ همیشه فقط یک مرورگر و دستیارِ هوش مصنوعی‌ات (با کلیدِ رایگانِ خودت) لازم داری.

۱. دادهٔ مدل از کجا آمد — و چرا دادهٔ تو هم می‌تواند بخشی‌اش شود#

مدل از هیچ یاد نگرفت. در pretraining (فصل ۱ ترم ۴) حجمِ سرسام‌آوری از متن و تصویر از اینترنت خوانده شد: سایت‌ها، کتاب‌ها، انجمن‌ها، مقاله‌ها. بخشِ زیادی از این‌ها بی‌آنکه از نویسنده‌شان اجازه بگیرند برداشته شده‌اند — همین نکته در فصل بعد (مالکیت) دوباره سر بازمی‌کند. فعلاً فقط این را نگه‌دار: دادهٔ مدل، دادهٔ آدم‌های واقعی بوده.

حالا نکتهٔ مهم برای تو: در ردهٔ رایگان، پرامپت و پاسخِ تو هم می‌تواند به دادهٔ آموزشیِ نسخه‌های بعدی اضافه شود. یعنی متنی که امروز می‌چسبانی، فردا می‌تواند تکه‌ای از آموزشِ یک مدلِ دیگر باشد. و اینجا نکتهٔ سختِ ماجراست: دکمهٔ undo وجود ندارد. وقتی داده‌ای وارد یک دورِ آموزش شد، دیگر نمی‌شود «فراموشش» کرد؛ در وزن‌های مدل حل می‌شود. پس تصمیمِ «این را بفرستم یا نه» یک تصمیمِ برگشت‌ناپذیر است، نه یک کارِ موقت.

قبل از ادامه، جواب بده: چرا «بعداً پاکش می‌کنم» برای داده‌ای که به ردهٔ رایگان دادی، یک نقشهٔ مطمئن نیست؟

۲. آنچه هرگز نباید بدهی — یک فهرستِ واقعی#

بعضی چیزها را حتی یک‌بار هم نباید در ردهٔ رایگان بچسبانی. این‌ها را حفظ کن:

  • رمز و کلیدها: رمزِ عبور، کدِ دوعاملی، کلیدِ خصوصیِ کیفِ پول، کلیدِ API خودت.
  • شناسه‌های رسمی: شمارهٔ ملی، شمارهٔ گذرنامه، شمارهٔ کارتِ بانکی، شماره‌حساب.
  • دادهٔ پزشکی: پروندهٔ سلامتِ خودت یا دیگران، نتیجهٔ آزمایش، تشخیص.
  • رازِ دیگران: پیامِ خصوصیِ یک دوست، اطلاعاتی که یک نفر محرمانه به تو گفته، عکسِ خصوصیِ کسی.
  • کارِ محرمانه: قراردادِ محرمانه، ایدهٔ منتشرنشدهٔ کسب‌وکار، کدِ داخلیِ شرکت، دادهٔ مشتری.
  • دادهٔ زیستی و مکانی: اثرِ انگشت، تصویرِ چهره برای شناسایی، آدرسِ دقیقِ خانه.

قاعدهٔ زیرِ همهٔ این‌ها یکی است: اگر لو رفتنِ یک داده می‌تواند به تو یا کسِ دیگری آسیب برساند، و تو کنترلِ کاملِ آن سرور را نداری، آن داده جای مدل نیست. این نصیحت نیست؛ هر ردیفِ این فهرست یک آسیبِ ملموس دارد.

⚠️ مواظب باش: خطرناک‌ترین حالت، دادهٔ دیگران است، نه خودت. تو می‌توانی برای خودت ریسک کنی، ولی وقتی پیامِ خصوصیِ یک دوست یا پروندهٔ یک همکار را می‌چسبانی، داری دربارهٔ داده‌ای تصمیم می‌گیری که مالِ تو نیست و اجازه‌اش را نداری.

۳. قبل از چسباندن، پاک‌سازی کن#

خبرِ خوب: تقریباً همیشه می‌توانی کمکِ مدل را بگیری بدونِ دادنِ بخشِ حساس. رازِ کار «پاک‌سازی» است — قبل از چسباندن، هر تکهٔ شناسایی‌کننده را با یک برچسبِ کلی جایگزین کن. مثلاً به‌جای اسم و شماره بگذار [نامِ مشتری] و [شمارهٔ حساب]. مدل برای فهمِ ساختارِ یک ایمیل یا خلاصهٔ یک قرارداد، تقریباً هیچ‌وقت به آن جزئیاتِ واقعی نیاز ندارد.

فرض کن می‌خواهی مدل این ایمیل را رسمی‌تر کند:

سلام مینا احمدی، پیرو تماسمان، مبلغ ۱۲٫۵ میلیون به شماره‌کارت ۶۰۳۷-۹۹۱...-... واریز شد.

نسخهٔ پاک‌سازی‌شده که می‌چسبانی این است:

این ایمیل را رسمی‌تر و کوتاه‌تر کن:
«سلام [نامِ گیرنده]، پیرو تماسمان، مبلغِ [مبلغ] به [شماره‌کارت] واریز شد.»

مدل همان کمکِ نوشتاری را می‌دهد، ولی هیچ‌کدام از داده‌های واقعی از دستگاهِ تو بیرون نرفته. بعد از گرفتنِ جواب، خودت برچسب‌ها را با مقادیرِ واقعی جایگزین می‌کنی. این عادت، مهم‌ترین مهارتِ عملیِ این فصل است.

💡 نکته: سه قانونِ ثابتِ این دوره اینجا هم حاضرند: «اول خودت فکر کن» — «وارسی کن، خط به خط» — «مدل مطمئن است؛ دلیل نمی‌شود درست باشد». قبل از چسباندنِ هر متن، «اول خودت فکر کن»: در این متن چه چیزی هست که نباید بیرون برود؟ یک نگاهِ ده‌ثانیه‌ای، جلوی یک اشتباهِ برگشت‌ناپذیر را می‌گیرد.

۴. مدل دربارهٔ سیاستِ دادهٔ خودش قابلِ‌اعتماد نیست#

یک اشتباهِ رایج: از خودِ مدل بپرسی «با دادهٔ من چه می‌کنی؟» و جوابش را قانون فرض کنی. در آزمایشگاه امتحانش کن:

آیا چیزهایی که من الان به تو می‌گویم برای آموزشِ مدل استفاده می‌شود؟

یک جوابِ واقع‌نما:

نه، نگران نباشید. گفت‌وگوهای شما خصوصی است و برای آموزش استفاده نمی‌شود.

این جواب می‌تواند کاملاً غلط باشد. چرا؟ دو دلیل که هر دو از قبل بلدی. اول، knowledge cutoff (فصل ۵ ترم ۱): مدل از سیاستِ امروزِ شرکت خبر ندارد؛ سیاست‌ها عوض می‌شوند و مدل تا لحظهٔ آخر به‌روز نیست. دوم، مدل شرکت نیست؛ یک ماشینِ تولیدِ متن است که جوابی محتمل و اطمینان‌بخش می‌سازد، نه گزارشی از قراردادِ واقعیِ سرویس. اینجا دقیقاً یک نمونهٔ «مطمئن ولی غلط» است.

✅ وارسی: سیاستِ داده را کجا راستی‌آزمایی می‌کنی؟ نه از خودِ مدل، بلکه از صفحهٔ رسمیِ حریمِ خصوصی و تنظیماتِ حسابِ همان سرویس. آنجا معمولاً یک گزینه هست به‌اسمِ چیزی مثلِ «استفاده از داده‌ها برای بهبودِ مدل» که می‌توانی خاموشش کنی، و توضیحِ اینکه داده چقدر نگه داشته می‌شود. منبعِ حقیقت، سند و تنظیماتِ سرویس است، نه حرفِ مدل دربارهٔ خودش.

۵. رایگان در برابر پولی، از منظرِ داده — و حقوقِ تو#

حالا رده‌ها را فقط از یک زاویه نگاه کن: داده.

  • ردهٔ رایگان معمولاً در ازای رایگان‌بودن، اجازه می‌گیرد که پرامپت و پاسخِ تو را برای بهترکردنِ مدل استفاده کند. اینکه با خروجی چه کارهایی مجازی به قراردادِ همان سرویس بسته است.
  • ردهٔ پولیِ API و ردهٔ کسب‌وکاری معمولاً برعکس است: در قرارداد تعهد می‌دهد که روی دادهٔ تو آموزش نمی‌دهد و داده را محدودتر نگه می‌دارد. ولی اشتراکِ پولیِ شخصی همیشه این‌طور نیست؛ در بعضی سرویس‌ها استفاده برای آموزش آنجا هم پیش‌فرض روشن است و باید خودت خاموشش کنی. پول‌دادن به‌تنهایی حریمِ خصوصی نمی‌خرد؛ قرارداد و تنظیماتِ همان رده تعیین‌کننده است.

عددِ دقیقِ این‌ها — چند روز نگه‌داری، کدام گزینه پیش‌فرض روشن است — مدام عوض می‌شود، پس هیچ‌وقت از حفظ به یک رقم تکیه نکن؛ در جدولِ زیر با برچسبِ «در زمان خواندن چک شود» نگهش می‌داریم.

از منظرِ داده کجا چک کنی نکته
آیا روی دادهٔ من آموزش می‌دهند؟ صفحهٔ حریمِ خصوصیِ سرویس در زمان خواندن چک شود
چند وقت داده را نگه می‌دارند؟ تنظیماتِ حساب در زمان خواندن چک شود
گزینهٔ خاموش‌کردنِ استفاده برای آموزش تنظیماتِ حساب در زمان خواندن چک شود

و حقوقِ داده‌ات: در خیلی جاها حق داری بدانی چه داده‌ای از تو دارند، حسابت را پاک کنی، و استفاده برای آموزش را خاموش کنی. ولی روی یک چیز حساب نکن: «پس‌گرفتنِ» داده‌ای که قبلاً وارد یک دورِ آموزش شده. پاک‌کردنِ حساب یا گفت‌وگو چیزی را از مدلی که آموزش دیده بیرون نمی‌کشد، و قانون‌ها هنوز دربارهٔ این مورد جوابِ روشنی نداده‌اند. برای همین بهترین دفاع، جلوی در است — «چه می‌فرستم»، نه «بعداً چطور پاکش کنم».

تمرین‌ها

اول خودت فکر کن یا امتحان کن — بعد اینجا را باز کن.

در فصل بعد#

تا اینجا دربارهٔ داده‌ای حرف زدیم که وارد مدل می‌شود. فصلِ بعد سراغِ چیزی می‌رود که بیرون می‌آید: خروجیِ مدل. سؤالِ ساده ولی پیچیده این است که مالکِ آن خروجی کیست، آیا می‌توانی بفروشی‌اش، و کپی‌رایتِ متن و تصویری که مدل ساخته چه وضعی دارد. آنجا صادقانه می‌گوییم که این‌ها در زمانِ نوشتنِ این کتاب هنوز حل‌نشده‌اند، و به‌جای قطعیتِ جعلی، یک قضاوتِ عملی به تو می‌دهیم.

به آخر این فصل رسیدی!

اگر ساختی و جواب داد، این دکمه مال توست.