از همین حالا مسئولانه

در این فصل چه یاد می‌گیری#

تا اینجا فهمیدی مدل چیست، چطور یاد گرفت، چرا گاهی توهم می‌کند و چه مرزهایی دارد. یک چیز مانده که باید از همان اولین گفت‌وگو همراهت باشد، نه در پایانِ دوره: مسئولیت. این فصل چیزی نمی‌سازد جز یک عادت — عادتی که تا هر وقت با هوش مصنوعی کار می‌کنی به‌کارت می‌آید. یاد می‌گیری چه داده‌ای را می‌شود به مدل داد و چه داده‌ای را هرگز، چرا خروجی‌اش گاهی جانب‌دار است، کِی اصلاً نباید سراغش رفت، و کِی باید صادقانه بگویی «این را با کمکِ هوش مصنوعی ساختم». هیچ‌کدام موعظه نیست؛ هرکدام یک خطرِ واقعی و ملموس است.

آخر این فصل می‌توانی:

• تشخیص بدهی چه داده‌ای را می‌شود به ردهٔ رایگان داد و چه داده‌ای را هرگز
• توضیح بدهی سوگیریِ مدل از کجا می‌آید و یک نمونه‌اش را در خروجی پیدا کنی
• سه موقعیت را نام ببری که اصلاً نباید تصمیم را به مدل بسپاری
• تصمیم بگیری کِی لازم است بگویی چیزی با کمکِ هوش مصنوعی ساخته شده

قبل از شروع#

• از فصل ۲: «مدل الگو را از داده‌اش یاد می‌گیرد» — کلیدِ فهمِ سوگیری همین است.
• از فصل ۴: توهم، و اینکه «اعتمادبه‌نفسِ مدل ربطی به درستی ندارد».
• از فصل ۵: «رازِ شخصی به مدل نده» — این فصل کاملش می‌کند.

مثل همیشه فقط یک مرورگر و دستیارِ هوش مصنوعی‌ات (با کلیدِ رایگانِ خودت) لازم داری.

۱. هرچه به مدل می‌دهی، جایی می‌رود#

وقتی با دستیارِ هوش مصنوعی حرف می‌زنی، پرامپت و پاسخ روی سرورِ یک شرکت پردازش می‌شوند، نه روی دستگاهِ خودت. این تا اینجا عادی است. سؤالِ مهم این است که با آن داده چه می‌کنند — و این‌جا رده‌ها فرق دارند.

ردهٔ رایگان (مثلِ کلیدِ رایگانی که خودت برای این دوره می‌سازی) معمولاً به شرکت اجازه می‌دهد پرامپت و پاسخِ تو را برای بهتر کردنِ مدل‌های بعدی استفاده کند، و استفادهٔ تجاری‌اش را هم منع می‌کند. ردهٔ پولی معمولاً این کار را نمی‌کند. یعنی چیزی که در ردهٔ رایگان می‌نویسی ممکن است تکه‌ای از دادهٔ آموزشیِ بعدی شود — و دکمهٔ undo ندارد. کلید هم مالِ خودِ توست؛ پس مسئولیتِ آنچه با آن می‌فرستی هم با توست.

پس یک قانونِ ساده: چیزی به ردهٔ رایگان نده که ناراحت می‌شوی جای دیگری ببینی‌اش — شمارهٔ ملی، رمز، پروندهٔ پزشکیِ خودت یا دیگران، پیامِ خصوصیِ یک دوست، ایدهٔ منتشرنشدهٔ کسب‌وکارت، یا یک قراردادِ محرمانه.

⚠️ مواظب باش: قبل از اینکه یک متنِ طولانی را در مدل بچسبانی (مثلِ یک ایمیلِ کاری یا یک قرارداد)، یک‌بار بخوانش و اسم، شماره و هر چیزِ شناسایی‌کننده را بردار. مدل برای کمک به فهمِ آن متن معمولاً به این جزئیات نیازی ندارد.

قبل از ادامه، جواب بده: اگر متنِ یک قراردادِ محرمانه را در ردهٔ رایگان بچسبانی تا خلاصه‌اش کند، بدترین چیزی که ممکن است بشود چیست؟ — ممکن است آن متن به دادهٔ آموزشیِ بعدی برود و دیگر کاملاً در کنترلِ تو نباشد.

۲. سوگیری: مدل همان را بازتاب می‌دهد که در داده‌اش بود#

از فصل ۲ یادت هست که مدل الگو را از دریای متنی که رویش آموزش دید یاد گرفت، نه حقیقتِ محض را. حالا نتیجهٔ ناخوشایندش: اگر در آن داده یک تصویرِ کجِ دنیا بود، مدل همان کجی را یاد می‌گیرد و پس می‌دهد. به این کجی می‌گویند bias — سوگیری. بهترین راهِ دیدنش این است که خودت یک نمونه‌اش را بیرون بکشی. در آزمایشگاه این را بپرس:

یک داستان کوتاه بنویس دربارهٔ یک جراحِ برجسته و پرستاری که کنارش کار می‌کند.
به هرکدام یک اسم بده.

ببین مدل چه می‌دهد. یک خروجیِ واقع‌نما (خروجیِ تو ممکن است فرق کند، چون مدل قطعی نیست):

دکتر رضا کریمی، جراحِ باتجربهٔ بیمارستان، امروز هم عملِ سختی پیشِ رو داشت.
خانم مینا احمدی، پرستارِ بخش، ابزارها را با دقت آماده می‌کرد تا...

دقت کن چه شد: تو هیچ جنسیتی نخواستی، ولی مدل بی‌آنکه بپرسی جراح را یک مرد و پرستار را یک زن کرد. چرا؟ چون در آن دریای متن، جراح‌ها بیشتر مرد و پرستارها بیشتر زن توصیف شده بودند. مدل این را یک الگو دید و بازتابش داد. این حقیقتِ دنیا نیست — سوگیریِ داده است.

✅ وارسی: سوگیری را چطور می‌بینی؟ همان پرامپت را چند بار پشتِ‌هم اجرا کن و ببین آیا تقریباً همیشه جراح مرد می‌شود. بعد نقش‌ها را برعکس بخواه («یک پرستارِ مرد و یک جراحِ زن») و واکنشِ مدل را نگاه کن. اگر یک الگوی تکراری دیدی، با سوگیری روبه‌رویی.

💡 نکته: سه قانونِ ثابتِ کلِ این دوره اینجا هم دقیقاً کار می‌کنند: «اول خودت فکر کن» — «وارسی کن، خط به خط» — «مدل مطمئن است؛ دلیل نمی‌شود درست باشد». مدل با همان لحنِ مطمئن که یک واقعیتِ درست می‌گوید، یک کلیشه هم می‌گوید. اطمینانش سوگیری را درست نمی‌کند.

سوگیری فقط یک داستان نیست. اگر روزی از مدل بخواهی رزومه‌ها را غربال کند یا بگوید «یک مهندسِ خوب چه شکلی است»، همان کلیشه می‌تواند به یک آدمِ واقعی آسیب برساند. برای همین موضوعِ جدی‌ای است، نه یک شوخی.

۳. کِی اصلاً نباید سراغش رفت#

هر کاری کارِ هوش مصنوعی نیست. سه موقعیت را بشناس که در آن‌ها باید دست نگه داری:

1. تصمیم‌های پرخطر که به یک انسانِ متخصص نیاز دارند — دوزِ دارو، تشخیصِ پزشکی، مشاورهٔ حقوقیِ یک پروندهٔ واقعی، ایمنیِ برق و ساختمان. مدل توهم می‌کند (فصل ۴) و در حساب و منطقِ دقیق ضعیف است (فصل ۵)؛ اینجا یک اشتباهِ مطمئن می‌تواند گران تمام شود. مدل می‌تواند برایت توضیح بدهد، ولی تصمیمِ نهایی و وارسی با یک انسانِ متخصص است.
2. بحران و لحظهٔ حساس — اگر تو یا کسی در خطرِ فوری است، مدل جای یک انسانِ واقعی را نمی‌گیرد. مدل از لحظهٔ حالِ تو خبر ندارد (فصل ۵) و نمی‌تواند واقعاً کمک برساند. سراغِ یک انسان برو.
3. واقعیتی که هم مهم است هم نمی‌توانی وارسی‌اش کنی — اگر جوابِ مدل را نمی‌شود با یک منبعِ معتبر چک کرد و اشتباهش برایت گران است، به آن جواب تکیه نکن. مدل برای پیش‌نویس و ایده عالی است، برای «حرفِ آخر» در یک موضوعِ مهم نه.

قانونِ کلی ساده است: هرچه هزینهٔ اشتباه بالاتر، سهمِ انسان در وارسی بیشتر.

۴. صداقت: بگو که با کمکِ هوش مصنوعی ساخته شده#

آخرین تکه ربطی به داده ندارد، به دیگران دارد. وقتی چیزی را که مدل کمک کرده بسازی به کسی می‌دهی یا جایی منتشر می‌کنی، گاهی لازم است شفاف باشی که هوش مصنوعی در آن نقش داشته:

• تکلیفِ مدرسه یا دانشگاه: اگر متنی را که مدل نوشت به‌نامِ کارِ خودت تحویل بدهی، در بیشترِ جاها این تقلبِ علمی حساب می‌شود — یک خطرِ واقعی، نه یک نصیحت. قاعدهٔ همان‌جا را بپرس؛ خیلی جاها کمک‌گرفتن مجاز است، به‌شرطِ اینکه اعلامش کنی.
• تصویر یا صدای ساختگی: تصویری که یک مدلِ تصویر ساخته (فصل ۶)، اگر آن را جای یک عکسِ واقعی جا بزنی، دیگران را فریب می‌دهد. همین حکم دربارهٔ صدای ساختگی هم برقرار است.
• متنی که به‌نامِ یک انسانِ دیگر منتشر می‌شود: اگر خواننده خیال کند خودِ آن آدم نوشته، فریب خورده است.

چرا مهم است؟ چون فصل ۱ گفت مدل جواب را تولید می‌کند، از جایی نقل نمی‌کند. یک خروجیِ تولیدشده می‌تواند خیلی واقعی به‌نظر برسد؛ صداقت همان چیزی است که مرزِ واقعی و ساختگی را برای دیگران روشن نگه می‌دارد. قاعدهٔ ساده: هرجا نگفتن باعث می‌شود کسی چیزِ اشتباهی باور کند، بگو.

واژه‌های تازهٔ این فصل#

در فصل بعد#

اینجا ترم ۱ تقریباً تمام است — یک فصل مانده، و آن یک فصلِ عادی نیست: یک پروژه. در فصل بعد یک مدل را بازجویی می‌کنی. در یک گفت‌وگوی هدایت‌شده، خودت یک توهم، یک مرز و یک سوگیری را از دلِ مدل بیرون می‌کشی و ثبت می‌کنی — همه‌چیزِ این ترم در یک نشست. چیزِ تازه‌ای یاد نمی‌گیری؛ آنچه بلدی را محکم می‌کنی.