# فصل ۰۳ — افسانهٔ «تشخیصِ هوش مصنوعی»

<div dir="rtl">

# فصل ۰۳ — افسانهٔ «تشخیصِ هوش مصنوعی»

## در این فصل چه یاد می‌گیری

بعد از دو فصلِ قبل، یک امیدِ طبیعی داری: کاش ابزاری بود که فقط بگوید «این را هوش مصنوعی نوشته». چنین ابزارهایی هست — به آن‌ها آشکارسازِ هوش مصنوعی (`AI detector`) می‌گویند. این فصلِ کوتاه یک باورِ چسبنده و خطرناک را هدف می‌گیرد: اینکه این آشکارسازها **قابلِ‌اعتماد** کار می‌کنند. کار نمی‌کنند. خودت یک متنِ کاملاً انسانی را از یک آشکارساز می‌گذرانی و می‌بینی برچسبش چقدر شکننده است. این موضوع شوخی نیست: دانش‌آموزها و دانشجوهای واقعی به‌خاطرِ همین ابزارها به تقلبی متهم شده‌اند که نکرده بودند.

![یک برگهٔ دست‌نوشته با یک قلم که رویش خوابیده، زیرِ یک دستگاهِ اندازه‌گیری با یک عقربه؛ عقربه محکم به سمتِ ناحیهٔ «ماشین» روی صفحه اشاره می‌کند، درحالی‌که برگه آشکارا با دست نوشته شده](/lesson-assets/t6-s03-detection-myth/prompt/01-image-detector-wrong.png)

آخر این فصل می‌توانی:

- بگویی چرا آشکارسازهای هوش مصنوعی غیرقابلِ‌اعتمادند
- فرقِ `false positive` و `false negative` را توضیح بدهی
- خطرِ اتهامِ ناروا را با یک مثالِ واقعی بگویی
- به‌جای اتکا به یک ابزار، مسئولیتِ قضاوت را بپذیری

## قبل از شروع

- **از فصل ۱ و ۲ همین ترم:** جعل خوب و انبوه شده؛ و دیدی که حتی خودِ مدل هم آشکارسازِ خوبی نیست.
- **از فصل ۳ ترم ۱:** مدل متن را توکن‌به‌توکن و با پیش‌بینیِ محتمل‌ترین ادامه می‌سازد — ریشهٔ فهمِ این فصل همین است.
- **از فصل ۴ ترم ۱:** مدل با اعتمادِ کامل هم غلط می‌گوید؛ همین برای آشکارساز هم صادق است.

مثل همیشه فقط یک مرورگر و دستیارِ هوش مصنوعی‌ات (با کلیدِ رایگانِ خودت) لازم داری.

> 🧪 **آزمایشگاه:** [آزمایشگاه این فصل را باز کن](/lab/embed/hamhoosh/term-6-citizen/session-03-detection-myth) — چند متنِ نمونه (انسانیِ قطعی و ماشینی) آماده است. هرکدام را از یک آشکارسازِ نمونه می‌گذرانی و با چشمِ خودت می‌بینی کجا با اطمینان اشتباه می‌کند.

## ۱. آشکارساز چه می‌کند و چرا شکننده است

یک آشکارساز متنی را می‌گیرد و یک برچسب می‌زند: «انسانی» یا «هوش مصنوعی». به‌طورِ ساده، دنبالِ الگوهای آماری می‌گردد که در خروجیِ مدل‌ها زیاد است — مثلاً انتخابِ کلماتِ خیلی یکنواخت و قابلِ‌پیش‌بینی (یادت هست مدل توکنِ محتمل را انتخاب می‌کند؟).

مشکل از دو طرف است. **اول:** مدل‌ها آموزش می‌بینند شبیهِ انسان بنویسند، پس هدفی که آشکارساز دنبالش است دائم جابه‌جا می‌شود. **دوم:** خیلی از نوشته‌های انسانی هم ساده و یکنواخت‌اند. پس سیگنالِ آشکارساز هم ضعیف است و هم بینِ انسان و ماشین **هم‌پوشانی** دارد؛ اثرِ انگشتِ مطمئنی که فقط مالِ هوش مصنوعی باشد وجود ندارد.

> ⚠️ **مواظب باش:** به عددهای «دقتِ» تبلیغاتیِ آشکارسازها اعتماد نکن؛ این عددها با هر نسخهٔ مدل عوض می‌شوند و بیشتر ابزارِ فروش‌اند.

**قبل از ادامه، جواب بده:** اگر مدل‌ها هر روز بهتر یاد می‌گیرند شبیهِ انسان بنویسند، کارِ آشکارساز با زمان آسان‌تر می‌شود یا سخت‌تر؟ — سخت‌تر؛ چون چیزی که باید تشخیص بدهد مدام بی‌نشان‌تر می‌شود.

## ۲. دو جور اشتباه: false positive و false negative

هر آشکارساز دو جور خطا می‌کند. `false positive` یعنی یک متنِ **انسانی** را اشتباهاً «هوش مصنوعی» علامت بزند — خطرناک‌ترین حالت، چون یک آدمِ بی‌گناه را متهم می‌کند. `false negative` یعنی یک متنِ **ساختهٔ هوش مصنوعی** را اشتباهاً «انسانی» بگذراند — یعنی همان کسی که می‌خواست فریب بدهد، رد می‌شود.

نکتهٔ کلیدی: نمی‌شود هر دو خطا را هم‌زمان صفر کرد. اگر آشکارساز را سخت‌گیرتر کنی تا هیچ متنِ ماشینی رد نشود، متن‌های انسانیِ بیشتری را هم به‌غلط متهم می‌کند. هر آشکارساز جایی روی این طیف ایستاده و هر دو خطا را دارد.

**قبل از ادامه، جواب بده:** کدام خطا برای دانش‌آموزی که خودش تکلیفش را نوشته خطرناک‌تر است؟ — `false positive`؛ چون کارِ صادقانه‌اش را «تقلب» علامت می‌زند.

## ۳. دموی واقعی: آشکارساز روی یک متنِ انسانی

خودت ببین. اول یک آشکارساز پیدا کن: در یک موتورِ جست‌وجو عبارتِ `AI text detector` را بزن و یکی از سرویس‌های رایگانی را که بالا می‌آیند باز کن. عمداً هیچ نامی نمی‌بریم، و همین خودش نصفِ درسِ فصل است — این ابزارها زود می‌آیند و می‌روند، و هر اسمی که اینجا بنویسیم زودتر از خودِ کتاب کهنه می‌شود.

حالا یک پاراگراف بردار که **مطمئنی** صددرصد انسانی است — نوشتهٔ خودت، یا یک متنِ کلاسیک که سال‌ها پیش از این مدل‌ها نوشته شده — و در همان آشکارساز بگذارش. یک نتیجهٔ واقع‌نما:

</div>

```text
نتیجهٔ آشکارساز: این متن به احتمالِ زیاد توسطِ هوش مصنوعی نوشته شده است.
```

<div dir="rtl">

متن انسانی بود، ولی آشکارساز با اطمینان گفت ماشینی است. این یک `false positive` است. چرا؟ چون نوشتهٔ روشن و مرتب برای این ابزارها «زیادی تمیز» به‌نظر می‌رسد. و این خطا تصادفی پخش نمی‌شود: بیشتر دامنِ کسانی را می‌گیرد که ساده می‌نویسند — نویسندگانِ غیربومی، دانش‌آموزانِ دقیق، و هرکسی که سرراست می‌نویسد.

حالا جهتِ عکس: یک متنِ ساختهٔ مدل را بردار، چند جمله‌اش را کمی دستکاری کن و دوباره بگذران. اغلب حالا «انسانی» علامت می‌خورد — یک `false negative`. پس ابزار می‌تواند هم بی‌گناه را متهم کند، هم گناهکار را رها کند.

**و اگر آشکارسازِ تو هر دو را درست گفت چه؟** ممکن است — و باز هم چیزی را ثابت نمی‌کند، چون ادعای این فصل «همیشه اشتباه می‌کند» نیست، «قابلِ‌اعتماد نیست» است، و این دو یکی نیستند. سنجهٔ درست این است: **دو یا سه** آشکارسازِ متفاوت را روی **همان** متن امتحان کن. اگر عددها یا برچسب‌هایشان با هم نخواندند، همین‌جا تمام است — ابزاری که با ابزارِ هم‌جنسِ خودش هم‌نظر نیست، مدرک نیست. و اگر هر سه هم‌نظر بودند، متن را سخت‌تر کن: یک پاراگرافِ خیلی ساده و مرتبِ انسانی، یا یک متنِ ماشینیِ کمی بازنویسی‌شده. تا وقتی بتوانی با یک تغییرِ کوچک برچسب را برگردانی، آن برچسب یک اندازه‌گیری نیست، یک حدس است.

> ✅ **وارسی:** یک برچسبِ آشکارساز یک ادعای واقعی است، نه یک حقیقت — و باید مثلِ هر خروجیِ دیگری وارسی شود، نه به‌عنوان مدرک پذیرفته شود. هیچ‌وقت سرنوشتِ کسی را به یک برچسبِ ماشینی گره نزن. سه قانونِ ثابتِ این دوره اینجا هم عیناً برقرارند: **«اول خودت فکر کن» — «وارسی کن، خط به خط» — «مدل مطمئن است؛ دلیل نمی‌شود درست باشد».**

## ۴. خطرِ واقعی و مسئولیتی که با توست

این فقط یک نقصِ فنی نیست؛ به آدم‌های واقعی آسیب می‌زند. دانش‌آموزها به‌خاطرِ برچسبِ یک آشکارساز به تقلب متهم شده‌اند، درحالی‌که کارشان صادقانه بوده — و اثباتِ بی‌گناهی خیلی سخت است، به‌خصوص اگر پیش‌نویسی نگه نداشته باشی: چطور «ثابت کنی» چیزی را با ماشین ننوشته‌ای؟

پس مسئولیت را وارونه کن. **اگر تو باید قضاوت کنی** (معلم، مدیر، داور): یک برچسبِ ماشینی مدرک نیست. آن را یک نشانهٔ ضعیف بگیر که با گفت‌وگو و شواهدِ واقعی سنجیده می‌شود، نه یک حکمِ نهایی. تصمیم با توست، نه با ابزار. **و اگر تو متهم شدی:** بدان ابزار خطا می‌کند و این قابلِ‌توضیح است؛ و نگه‌داشتنِ ردِ کارت — پیش‌نویس‌ها و یادداشت‌ها — یک خیالِ راحت است، نه یک اجبار.

## واژه‌های تازهٔ این فصل

</div>

| کلمه | تلفظ به حروف فارسی | یعنی چه |
|---|---|---|
| false positive | فالس پازیتیو | وقتی آشکارساز یک متنِ انسانی را اشتباهاً «هوش مصنوعی» علامت می‌زند |
| false negative | فالس نگتیو | وقتی آشکارساز یک متنِ ساختهٔ هوش مصنوعی را اشتباهاً «انسانی» می‌گذراند |

<div dir="rtl">

## تمرین‌ها

**تمرین اجباری:** یک متن که **می‌دانی** انسانی است (نوشتهٔ خودت یا یک متنِ کلاسیک) را در یک آشکارساز بگذار. نتیجه را ثبت کن و بنویس کدام جور خطا رخ داد. اگر درست گفت، متنِ دیگری امتحان کن تا یک خطا ببینی — و توضیح بده چرا این خطا برای یک آدمِ واقعی می‌تواند گران تمام شود.

**تمرین ستاره‌دار ⭐:** یک پاراگرافِ ساختهٔ مدل بردار، چند جمله‌اش را کمی دستکاری کن و از آشکارساز بگذران. آیا حالا «انسانی» علامت خورد (`false negative`)؟ در یک جمله بنویس این برای کسی که به آشکارساز **تکیه** می‌کند تا جعل را بگیرد، چه معنایی دارد.

## در فصل بعد

از جعلِ عمدی می‌رویم سراغِ یک کجیِ پنهان‌تر و بی‌قصد. فصلِ بعد دربارهٔ سوگیری و انصاف است: کجی‌ای که مدل بی‌آنکه کسی بخواهد از داده‌اش برمی‌دارد و پس می‌دهد — چطور بشناسی‌اش، به چه کسانی آسیب می‌زند، و چطور کمترش کنی.

</div>

---
Source: https://yaadestan.com/courses/hamhoosh/lessons/t6/s03-detection-myth (یادستان, Yaadestan)
