هم‌هوش — خودآموز هوش مصنوعی

فصل ۲ از ۹

پیشرفت ترم
۰٪

در این فصل چه یاد می‌گیری#

فصلِ قبل با یک جعل روبه‌رو شدی. مشکلِ بزرگ‌تر جای دیگری است: مقیاس. قبل از هوش مصنوعی، ساختنِ محتوای جعلیِ باورپذیر خرج داشت — وقت، مهارت، آدم — و همین خرج یک ترمزِ طبیعی بود. حالا یک نفر می‌تواند در یک بعدازظهر صدها مقاله، نظر و تصویرِ جعلی بسازد، هرکدام با لحن و جزئیاتِ متفاوت. این فصل می‌گوید این سیل چطور ساخته می‌شود، فرقِ misinformation و disinformation چیست، و مهم‌تر از همه: چطور یک ادعا را تا خودِ منبعش دنبال کنی و ببینی رد دارد یا به هیچ‌جا نمی‌رسد. این سوادِ رسانه‌ایِ عصرِ هوش مصنوعی است.

یک برگهٔ کوچک در بالا که به یک ماشینِ تکثیر خورانده می‌شود و در پایین به دسته‌ای برگهٔ همسان تبدیل می‌شود؛ یک نخِ نازک از برگه‌های تکثیرشده به یک قابِ خالیِ منشأ در بالا برمی‌گردد که هیچ‌چیز داخلش نیست

آخر این فصل می‌توانی:

  • فرقِ misinformation و disinformation را توضیح بدهی
  • بگویی چرا هوش مصنوعی مقیاسِ محتوای جعلی را عوض کرده
  • یک ادعا را قدم‌به‌قدم تا منبعش دنبال کنی
  • تشخیص بدهی کِی یک ادعا «ردِ واقعی ندارد»

قبل از شروع#

  • از فصل ۱ همین ترم: رسانهٔ جعلیِ واقع‌نما شدنی است، و دیدن دیگر یعنی باور نیست.
  • از فصل ۴ ترم ۲: وارسی — تطبیق با منبعِ اصلی و سؤالِ «از کجا می‌دانی درست است؟».
  • از فصل ۴ ترم ۱: توهم — مدل می‌تواند یک منبع، نقلِ‌قول یا مطالعه را کاملاً از خودش بسازد، با لحنی کاملاً مطمئن.

مثل همیشه فقط یک مرورگر و دستیارِ هوش مصنوعی‌ات (با کلیدِ رایگانِ خودت) لازم داری.

۱. مسئله مقیاس است، نه فقط جعل#

فرض کن یک محصولِ بی‌کیفیت می‌خواهد خوب به‌نظر برسد. قدیم، نوشتنِ نظرهای جعلیِ باورپذیر کارِ سختی بود؛ هر نظر باید دستی نوشته می‌شد و زود تکراری و لو می‌رفت. حالا یک نفر می‌تواند از مدل بخواهد صدها نظرِ پنج‌ستارهٔ متفاوت بسازد — هرکدام با لحن، طول و جزئیاتِ جدا، انگار صدها آدمِ واقعی نوشته‌اندش.

همین الگو همه‌جا تکرار می‌شود: صدها کامنتِ جعلی برای عوض‌کردنِ حسِ عمومی دربارهٔ یک موضوع، ده‌ها مقالهٔ کوتاه که همه یک ادعای دروغ را می‌گویند، یا یک تصویرِ ساختگی که کنارِ یک خبرِ ساختگی نشسته تا واقعی‌تر به‌نظر برسد. اینجا خودِ حجم سلاح است. وقتی یک ادعا را در پنجاه جای مختلف می‌بینی، حسِ درستی پیدا می‌کند — ولی این فقط یک توهمِ ذهنی است. تکرار یک ادعا را درست نمی‌کند؛ فقط آشناتر می‌کند.

۲. دو نوع: misinformation و disinformation#

همهٔ اطلاعاتِ غلط یک‌جور نیستند، و فرقشان به نیت است.

misinformation یعنی اطلاعاتِ نادرست که بی‌قصدِ بد پخش می‌شود. کسی خبری را باور کرده و از سرِ خیرخواهی برای دوستانش می‌فرستد، بی‌آنکه بداند غلط است. خودش هم یک قربانی است.

disinformation یعنی اطلاعاتِ نادرست که عمداً و برای فریب ساخته و پخش می‌شود. اینجا یک نیتِ آگاهانه پشتِ کار است — سود، قدرت، یا آسیب‌زدن.

هوش مصنوعی هر دو را تقویت می‌کند: disinformation را ارزان و انبوه می‌کند، و چون محتوای جعلی حالا خیلی باورپذیرتر است، پخش‌شدنِ misinformation را هم راحت‌تر می‌کند. چرا فرقشان مهم است؟ چون واکنشت فرق می‌کند: با دوستی که ندانسته خبرِ غلط فرستاده، مثلِ یک فریب‌کارِ عمدی رفتار نمی‌کنی. ولی برای دفاع، روش یکی است: ردِ ادعا را بگیر.

۳. یک ادعا را تا منبعش دنبال کن#

این قلبِ فصل است. بیا یک ادعای ویروسیِ نمونه را با هم رد بگیریم — همان کاری که در آزمایشگاه می‌کنی. فرض کن این را می‌بینی:

«مطالعه‌ای در یک دانشگاهِ معتبر نشان داد خوردنِ روزانهٔ [یک خوراکیِ خاص] حافظه را تا یک‌سوم تقویت می‌کند» — همراهِ یک عکس از یک آزمایشگاه و لینک به یک «سایتِ خبری».

باورپذیر به‌نظر می‌رسد. حالا خط‌به‌خط ردش را بگیر:

  1. دنبالِ خودِ مطالعه بگرد. اسمِ مطالعه چیست؟ چه کسی نوشته؟ در کدام مجله چاپ شده؟ اگر جوابِ هیچ‌کدام نیست و فقط «یک دانشگاهِ معتبر» گفته شده، اولین پرچمِ قرمز همین‌جاست.
  2. سایتِ خبری را نگاه کن. کِی ساخته شده؟ صفحهٔ «دربارهٔ ما» دارد؟ نویسنده اسم و سابقه دارد؟ سایتی که چند هفتهٔ پیش ساخته شده و هیچ نویسنده‌ای ندارد، منبع نیست.
  3. عکس را وارسی کن. نشانه‌های فصل ۱ را رویش بگرد و جست‌وجوی معکوسِ تصویر بزن. شاید عکس اصلاً ساختگی باشد یا مالِ جای دیگری.
  4. منبعِ معتبرِ مستقل بگرد. اگر واقعاً چنین مطالعه‌ای بود، یک خبرگزاری یا مرکزِ علمیِ معتبرِ دیگر هم آن را داشت. اگر هیچ‌کسِ معتبری آن را ندارد، این خودش جواب است.

نتیجه: زنجیره به هیچ‌جا نمی‌رسد. و این مهم‌ترین درسِ فصل است: یک ادعای واقعی معمولاً یک ردِ قابلِ‌دنبال‌کردن دارد، و نبودِ رد یک زنگِ خطرِ جدی است. تا وقتی رد را پیدا نکرده‌ای، بگو «تأیید نشده» و بازنشرش نکن. گاهی یک ادعای درست هم هنوز رد ندارد، چون تازه است.

قبل از ادامه، جواب بده: اگر یک ادعا را در ده جای مختلف دیدی ولی هیچ‌کدام به یک منبعِ اصلیِ نام‌دار وصل نبودند، این ده تکرار ادعا را معتبر می‌کند؟ — نه؛ ممکن است هر ده تا از یک منبعِ جعلیِ واحد کپی شده باشند.

۴. مدل چطور همین سیل را می‌سازد#

بیا خودت ببینی این محتوای جعلی چقدر آسان ساخته می‌شود. در آزمایشگاه این را از مدل بخواه:

یک خبرِ کوتاهِ باورپذیر بنویس: یک مطالعهٔ جدید نشان داده یک خوراکیِ روزمره حافظه را
تقویت می‌کند. از زبانِ یک روزنامه‌نگار، با یک نقلِ‌قول از یک متخصص و نامِ یک دانشگاه.

یک خروجیِ واقع‌نما (خروجیِ تو ممکن است فرق کند):

پژوهشی تازه در دانشگاه فلان‌جا نشان می‌دهد مصرفِ روزانهٔ گردو می‌تواند عملکردِ
حافظه را به‌طورِ چشمگیری بهبود دهد. دکتر مینا رستمی، سرپرستِ این پژوهش، می‌گوید:
«نتایج ما شگفت‌انگیز بود؛ شرکت‌کنندگان پس از هشت هفته پیشرفتِ روشنی نشان دادند.»

حالا نگاه کن مدل چه کرد: یک دانشگاه، یک نامِ متخصص («دکتر مینا رستمی»)، یک نقلِ‌قول، و یک نتیجهٔ دقیق — و هیچ‌کدام از جایی نقل نشده. مدل همه را از خودش ساخت (همان توهمِ فصل ۴ ترم ۱)، ولی متن کاملاً معتبر و حرفه‌ای به‌نظر می‌رسد. حالا تصور کن کسی که می‌خواهد فریب بدهد، همین پرامپت را صد بار با صد خوراکیِ مختلف اجرا کند. این یعنی تولیدِ انبوهِ جعل، با یک دکمه. اگر دستیارت زیرِ خبر نوشت «این ساختگی است» یا اصلاً امتناع کرد، سازنده‌اش این رفتار را در آن گذاشته. ولی چنین یادداشتی با یک حذف پاک می‌شود، و هر مدلی چنین مرزی ندارد.

✅ وارسی: هر «مطالعه»، «متخصص» یا «آمار» که در یک متن می‌بینی یک ادعای واقعی است و باید مستقل وارسی شود. نام را در یک منبعِ معتبر جست‌وجو کن؛ اگر آن آدم، آن دانشگاه یا آن مطالعه بیرون از همان متن هیچ ردی ندارد، به احتمالِ زیاد ساختگی است. مدل گاهی نامی می‌سازد که از قضا آدمِ واقعیِ بی‌ربطی هم دارد، پس فقط وجودِ اسم را نسنج؛ ببین آن آدم واقعاً همین حرف را زده یا نه. سه قانونِ ثابتِ این دوره اینجا هم برقرارند: «اول خودت فکر کن» — «وارسی کن، خط به خط» — «مدل مطمئن است؛ دلیل نمی‌شود درست باشد».

۵. سوادِ رسانه‌ای، به‌شکلِ یک عادت#

دفاع در برابر این سیل یک ترفند نیست، چند عادتِ ساده است که با هیچ نسلِ تازه‌ای از مدل‌ها کهنه نمی‌شود:

  • قبل از باور یا بازنشر، مکث کن و منبع را پیدا کن. ادعا را در یک جای معتبرِ مستقل بگرد، و به منبعِ اصلی برگرد — نه به کسی که فقط آن را فوروارد کرده.
  • به احساست دقت کن. محتوایی که تو را خیلی عصبانی یا خیلی هیجان‌زده می‌کند، بیشتر برای همین طراحی شده؛ احساسِ شدید سرعتِ بازنشر را بالا می‌برد و وارسی را پایین. همان‌جا یک نفس بکش.
  • تکرار دلیل نیست. پنجاه‌بار دیدنِ یک ادعا آن را درست نمی‌کند.

و یک نکتهٔ توانمندکننده، نه یک نصیحت: تو خودت یک حلقه در این زنجیره‌ای. اگر یک ادعای وارسی‌نکرده را بازنشر کنی، برای مدتی به یک بلندگوی رایگانِ همان جعل تبدیل شده‌ای — بی‌آنکه بخواهی. مکثِ چندثانیه‌ای برای وارسی، همین را متوقف می‌کند. این کوچک‌ترین کاری است که بیشترین اثر را دارد.

واژه‌های تازهٔ این فصل#

کلمه تلفظ به حروف فارسی یعنی چه
misinformation میس‌اینفورمیشن اطلاعاتِ نادرست که بی‌قصدِ بد پخش می‌شود (فرستنده خودش هم فریب خورده)
disinformation دیس‌اینفورمیشن اطلاعاتِ نادرست که عمداً و با قصدِ فریب ساخته و پخش می‌شود

تمرین‌ها

اول خودت فکر کن یا امتحان کن — بعد اینجا را باز کن.

در فصل بعد#

اگر جعل این‌قدر خوب و انبوه شده، شاید امیدوار باشی یک ابزار بتواند تشخیصش بدهد. فصلِ بعد — که یک فصلِ کوتاه‌تر و مهم است — دقیقاً همین امید را بررسی می‌کند: چرا «آشکارسازِ هوش مصنوعی» آن چیزی نیست که فکر می‌کنی، چرا می‌تواند یک آدمِ بی‌گناه را متهم کند، و چرا مسئولیتِ قضاوت را نباید به یک ابزار سپرد.

به آخر این فصل رسیدی!

اگر ساختی و جواب داد، این دکمه مال توست.