دیپ‌فیک و رسانهٔ جعلی

در این فصل چه یاد می‌گیری#

سال‌ها یک عکس تقریباً یک مدرک بود. اگر عکسی از یک اتفاق داشتی، آن اتفاق افتاده بود. حالا این فرض دیگر امن نیست: یک مدلِ هوش مصنوعی می‌تواند در چند ثانیه تصویری واقع‌نما از رویدادی بسازد که هرگز رخ نداده، یا صدایی از زبانِ کسی که آن حرف‌ها را هرگز نزده. این فصل نه برای ترساندنِ توست و نه برای اینکه به همه‌چیز بدبین شوی؛ برای این است که یک مهارتِ آرام یاد بگیری. می‌فهمی deepfake چیست، چند نشانه‌ای که هنوز خیلی از جعل‌ها را لو می‌دهند کدام‌اند، چرا «دیدن یعنی باور» دیگر یک قانونِ مطمئن نیست، و مهم‌تر از همه: وقتی نشانه‌ها تمام شدند، چه عادتی از تو محافظت می‌کند.

آخر این فصل می‌توانی:

• بگویی deepfake چیست و چرا با یک عکسِ دستکاری‌شدهٔ قدیمی فرق دارد
• چند نشانهٔ رایج را در یک تصویر، صدا یا ویدیوی جعلی پیدا کنی
• توضیح بدهی چرا «دیدن یعنی باور» دیگر یک فرضِ مطمئن نیست
• به‌جای تکیه بر نشانه‌ها، منشأ و زمینهٔ یک رسانه را وارسی کنی

قبل از شروع#

• از فصل ۶ ترم ۱: مدل‌های generative محتوا را تولید می‌کنند، از جایی کپی نمی‌کنند — پس می‌توانند چیزی بسازند که اصلاً وجود نداشته.
• از فصل ۳ ترم ۳: ساختِ صدای جعلیِ یک آدمِ واقعی شدنی است؛ آنجا فقط مرزش را گذاشتیم، اینجا تشخیص و دفاع را کامل می‌کنیم.
• از فصل ۴ ترم ۱: مدل با اعتمادبه‌نفسِ کامل هم می‌تواند غلط بگوید — این را در بخشِ آخر همین فصل به کار می‌گیریم.

مثل همیشه فقط یک مرورگر و دستیارِ هوش مصنوعی‌ات (با کلیدِ رایگانِ خودت) لازم داری.

۱. یک عکس دیگر خودش مدرک نیست#

دستکاریِ عکس تازه نیست؛ از قدیم بوده. ولی قدیم یک ترمز داشت: جعلِ باورپذیر وقت، مهارت و ابزار می‌خواست. کسی که می‌خواست یک عکسِ قانع‌کننده بسازد باید ساعت‌ها کار می‌کرد و کارِ حرفه‌ای بلد بود. همین سختی، تعدادِ جعل‌ها را کم نگه می‌داشت.

آن ترمز حالا برداشته شده. یک مدلِ تصویرِ generative می‌تواند در چند ثانیه، رایگان، و بدونِ هیچ مهارتِ خاصی، یک عکسِ واقع‌نما از چیزی بسازد که هرگز اتفاق نیفتاده. به رسانهٔ ساختگیِ واقع‌نمایی که هوش مصنوعی ساخته یا دستکاری کرده تا واقعی به‌نظر برسد می‌گویند deepfake (در فارسی «دیپ‌فیک» می‌نویسند). می‌تواند تصویر باشد، صدا باشد، یا ویدیو.

نکتهٔ مهم این است که چه چیزی عوض شده. این نیست که «حالا جعل وجود دارد» — جعل همیشه بود. این است که جعل ارزان، سریع و خوب شده. وقتی ساختنِ یک تصویرِ باورپذیرِ دروغ به‌اندازهٔ نوشتنِ یک جمله آسان باشد، دیگر نمی‌توانی فرض کنی هر عکسی که می‌بینی از یک لحظهٔ واقعی آمده. «دیدن یعنی باور» یک قاعدهٔ خوب برای دنیایی بود که در آن جعل گران بود؛ آن دنیا عوض شده.

۲. نشانه‌هایی که هنوز لو می‌دهند#

خبرِ خوب این است که خیلی از جعل‌ها هنوز نشانه دارند، اگر بدانی کجا را نگاه کنی. بیا یک پرترهٔ جعلی را با هم وارسی کنیم — همان‌طور که در آزمایشگاه می‌کنی.

در تصویر، سراغِ جاهایی برو که ساختنشان برای مدل سخت است:

• دست‌ها و انگشت‌ها: تعدادِ انگشت‌ها را بشمار. انگشتِ اضافه، انگشتِ کج، یا دستی که غیرطبیعی خم شده رایج‌ترین لغزش است.
• جزئیاتِ قرینه: دو گوشواره که با هم فرق دارند، دو سمتِ یک عینک که هم‌تراز نیستند، دکمه‌هایی که وسطِ لباس گم می‌شوند.
• متنِ داخلِ تصویر: تابلو، کتاب یا نوشتهٔ پس‌زمینه معمولاً به حروفِ بی‌معنا آب می‌رود. مدلِ تصویر متن را «نقاشی» می‌کند، نمی‌نویسد.
• نور و سایه: سایه‌ای که جهتش با بقیهٔ عکس نمی‌خواند، یا انعکاسی در آینه/چشم که با صحنه جور نیست.
• پوستِ زیادی صاف و بافتی که مثلِ موم بی‌عیب است.

در ویدیو، پلک‌زدنِ غیرطبیعی، هماهنگ‌نبودنِ لب با صدا، و لرزشِ ریزِ لبه‌های صورت را نگاه کن. در صدا، نبودِ نفس‌کشیدن، ریتمِ یک‌نواخت، و پس‌زمینهٔ زیادی تمیز نشانه‌اند.

این یک دموِ واقعی بود: چهار پنج جای مشخص که یک جعل را لو می‌دهند. ولی یک صداقتِ مهم را همین‌جا بگویم.

⚠️ مواظب باش: این نشانه‌ها سریع در حالِ ناپدیدشدن‌اند. هر نسلِ تازهٔ مدل‌ها بعضی از این لغزش‌ها را رفع می‌کند — دست‌ها هر ماه بهتر می‌شوند. پس این فهرست یک صافیِ اول است، نه یک مدرکِ قطعی. نبودِ نشانه ثابت نمی‌کند چیزی واقعی است؛ فقط یعنی این جعلِ خاص خوب ساخته شده.

۳. چه چیزی می‌ماند: منشأ به‌جای نشانه#

اگر نشانه‌ها دارند محو می‌شوند، پس چه چیزی می‌ماند؟ همان نخی که از ترم ۲ با خودت آورده‌ای: وارسیِ منبع. به‌جای اینکه فقط به پیکسل‌ها خیره شوی، یک قدم عقب بایست و بپرس این رسانه از کجا آمده. این سؤال‌ها با بهترشدنِ مدل‌ها کهنه نمی‌شوند:

• اولین‌بار کجا و توسطِ چه کسی منتشر شد؟
• آیا یک منبعِ معتبرِ مستقل هم همین را دارد، یا فقط در یک جا هست؟
• آیا با بقیهٔ چیزهایی که می‌دانی جور است، یا زیادی «درست سرِ بزنگاه» و بابِ میل است؟
• آیا کسی سود می‌برد از اینکه تو این را باور کنی؟

یک ابزارِ ساده هم هست که اسمِ خاصی لازم ندارد: جست‌وجوی معکوسِ تصویر. عکس را در یک موتورِ جست‌وجو می‌گذاری تا ببینی قبلاً کجا آمده؛ گاهی معلوم می‌شود همان عکس مالِ سال‌ها پیش و جای دیگری است، فقط با یک زیرنویسِ تازهٔ دروغ.

فرقِ این روش با نشانه‌شماری این است که یک فرآیند است، نه یک ترفند. ترفند با نسلِ بعدیِ مدل می‌میرد؛ عادتِ «قبل از باور، منشأ را پیدا کن» می‌ماند.

قبل از ادامه، جواب بده: اگر یک تصویر هیچ‌کدام از نشانه‌های بخشِ ۲ را نداشت، یعنی حتماً واقعی است؟ — نه. یعنی این جعل خوب ساخته شده؛ حالا باید سراغِ منشأ بروی.

۴. حتی از خودِ مدل نپرس «واقعی است؟»#

شاید فکر کنی راهِ ساده این است: عکس را به دستیارِ هوش مصنوعی بده و بپرس واقعی است یا نه. بیا همین را امتحان کنیم و ببینیم چه می‌شود. یک عکسِ کاملاً واقعی را (مثلاً عکسی که خودت گرفته‌ای) آپلود کن و بپرس:

این عکس را نگاه کن. به‌نظرت یک عکسِ واقعی است یا با هوش مصنوعی ساخته شده؟
از کجا مطمئنی؟

یک پاسخِ واقع‌نما این است (خروجیِ تو ممکن است فرق کند، چون مدل قطعی نیست):

این تصویر به احتمالِ زیاد با هوش مصنوعی ساخته شده. بافتِ بیش‌ازحد یکنواختِ پوست و
نورپردازیِ کامل نشان می‌دهد که یک تصویرِ تولیدشده است، نه یک عکسِ دوربینِ واقعی.

دقت کن چه شد: عکس واقعی بود، تو خودت گرفته بودی‌اش، ولی مدل با همان لحنِ مطمئن گفت جعلی است و حتی یک «دلیل» هم سرِ هم کرد. این دقیقاً همان توهمِ فصل ۴ ترم ۱ است — یک پاسخِ مطمئن ولی غلط. مدل واقعاً نمی‌داند این عکس واقعی است یا نه؛ فقط یک حدسِ خوش‌بیان می‌زند. پس آشکارسازِ جعل را نمی‌شود به خودِ مدل سپرد.

✅ وارسی: هیچ‌وقت قضاوتِ «واقعی یا جعلی» را کامل به یک ابزار — چه خودِ مدل، چه یک آشکارسازِ جداگانه — نسپار. خروجی‌اش را به‌عنوان یک نظر بگیر، نه یک حکم، و خودت منشأ و زمینه را وارسی کن. سه قانونِ ثابتِ این دوره اینجا هم دقیقاً کار می‌کنند: «اول خودت فکر کن» — «وارسی کن، خط به خط» — «مدل مطمئن است؛ دلیل نمی‌شود درست باشد».

اینکه چرا ابزارهای «تشخیصِ هوش مصنوعی» این‌قدر غیرقابلِ‌اعتمادند و چه خطری دارند، موضوعِ کاملِ فصل ۳ همین ترم است.

واژه‌های تازهٔ این فصل#

در فصل بعد#

اینجا با یک جعل روبه‌رو شدیم. ولی مشکلِ بزرگ‌تر مقیاس است: هوش مصنوعی به یک نفر اجازه می‌دهد نه یک، که صدها محتوای جعلی را با هم بسازد و پخش کند. فصلِ بعد می‌رویم سراغِ همین — بدْاطلاعات در مقیاسِ انبوه، فرقِ misinformation و disinformation، و مهم‌ترین دفاع: دنبال‌کردنِ یک ادعا تا خودِ منبعش.