عصر جعل عمیق ؛ وقتی به چشمانتان نباید اطمینان کنید
نیاز به تفکر انتقادی در زمانه تهدید «دیپ فیک» برای امنیت ملی و دموکراسی

خرد و خیال – CSIS در گزارشی که به تازگی منتشر کرده است هشدار داد دیپ‌فیک‌ها هزینه تحریف واقعیت را پایین آورده و تهدیدی جدی برای آسیب به اعتماد عمومی و دموکراسی هستند و تفکر انتقادی ضرورت غیرقابل انکار در مقابله با این فریب است.

در جهانی که دیدن، معادل باور کردن است، پدیده‌ای ظهور کرده که ما را با یک چالش روبرو می‌کند.

نهاد اطلاعات در کانادا (CSIS) در یک گزارش تحلیلی هشدار داده است که فناوری «دیپ فیک» (جعل عمیق) به یک تهدید جدی و فزاینده برای امنیت ملی تبدیل شده است.

این فناوری، با استفاده از هوش مصنوعی، ویدیوها و صداهای جعلی اما فوق‌العاده واقعی تولید می‌کند و پایه‌های اعتماد در جامعه را نشانه گرفته است.

دیپ فیک چیست و چرا خطرناک است؟

دیپ فیک ترکیبی از «یادگیری عمیق» (Deep Learning) و «جعل» (Fake) است. این فناوری با استفاده از هوش مصنوعی، چهره و صدای افراد را در ویدیوها و فایل‌های صوتی به گونه‌ای دستکاری می‌کند که تشخیص واقعی بودن آن حتی برای چشم‌های کارشناسان نیز دشوار است.

بیشتر بخوانید: صوت سه سخنرانی در سمینار هوش مصنوعی و خردورزی

برخلاف جعل‌های سنتی که اغلب قابل شناسایی بودند، دیپفیک‌ها می‌توانند حرکات لب، حالت چهره و زیر و بمی صدا را با دقتی حیرت‌انگیز تقلید کنند.

در گزارش این سازمان کانادایی اشاره شده است که این فناوری دیگر یک تهدید علمی-تخیلی نیست، بلکه یک واقعیت کنونی است که می‌تواند برای اهداف خطرناکی مورد سوءاستفاده قرار گیرد.

اهداف شوم: از انتخابات تا بی‌ثباتی اجتماعی

– تأثیرگذاری بر انتخابات: تصور کنید در آستانه یک رقابت انتخاباتی مهم، ویدیویی از یک نامزد سیاسی منتشر شود که در حال اعتراف به یک فساد مالی است. چنین دیپفیکی می‌تواند نتایج یک انتخابات دموکراتیک را تغییر دهد و اراده مردم را تحریف کند.

– تضعیف انسجام ملی: با ساخت ویدیوهایی از درگیری‌های قومی یا مذهبی، افراد مخالف می‌توانند آشوب و نفرت را در جامعه دامن بزنند و امنیت داخلی یک کشور را تهدید کنند.

– جاسوسی و اخاذی در سطح کلان: یک دیپ فیک صوتی می‌تواند هویت یک فرمانده نظامی یا یک تاجر بین‌المللی را جعل کند تا دستورات نظامی محرمانه را افشا یا مبالغ کلانی را به حساب‌های غیرقانونی واریز نماید.

– تخریب اعتماد بین‌المللی: یک بحران دیپلماتیک غیرواقعی را در نظر بگیرید که در آن رهبر یک کشور با یک دیپ فیک، به کشور دیگر توهین کرده است. چنین سناریویی می‌تواند به سرعت به یک تنش جدی بین‌المللی تبدیل شود.

بیشتر بخوانید: کارگاه گفت‌وگوی منطقی و تفکر نقادانه

دیپفیک در حال حاضر قدرتمندترین سلاح در زرادخانه تولید و گسترش «اطلاعات گمراه‌کننده» (Disinformation) و «اطلاعات غلط» (Misinformation) است.

هدف نهایی این حملات تنها فریب دادن افراد نیست؛ بلکه تحلیل بردن اعتماد عمومی به نهادهای اساسی جامعه مانند نظام قضایی و دانشگاهی است. وقتی مردم نتوانند به چیزی که می‌بینند و می‌شنوند اعتماد کنند، جامعه در خطر فروپاشی اجتماعی قرار می‌گیرد.

پادزهر دیپفیک: تفکر انتقادی، سلاحی برای هر شهروند

در برابر این تهدید پیچیده، راهکارهای فنی مانند توسعه الگوریتم‌های شناسایی دیپفیک اگرچه ضروری هستند، اما به تنهایی کافی نیستند. تفکر انتقادی (Critical Thinking) و سواد رسانه‌ای (media literacy) به مهم‌ترین مهارت دفاعی برای هر شهروند در عصر دیجیتال تبدیل شده است.

تفکر انتقادی به معنای پذیرش کورکورانه اطلاعات نیست، بلکه به معنای پرسشگری، تحلیل و ارزیابی محتوایی است که با آن مواجه می‌شویم.

بیشتر بخوانید: مدخل تفکر انتقادی در دانشنامه فلسفه استنفورد (۱)

چگونه در برابر دیپ فیک از خود محافظت کنیم؟

1. منبع را بررسی کنید: آیا این ویدیو از یک رسانه معتبر و شناخته شده منتشر شده است؟ یا در یک کانال نامشخص در شبکه‌های اجتماعی ظاهر شده است؟

2. فراگیری انتشار توسط رسانه های مستقل: آیا سایر رسانه‌های مستقل نیز همین خبر را پوشش داده‌اند؟ اگر فقط یک منبع خاص آن را منتشر کرده، باید شک کنید.

3. جزئیات را با دقت ببینید: به چهره افراد، سایه‌ها، پس‌زمینه و صدا دقت کنید. آیا چیزی غیرطبیعی یا ناهماهنگ به نظر می‌رسد؟ اگرچه دیپ فیک‌های جدید بسیار پیشرفته هستند، اما هنوز ممکن است اشکالات ریزی داشته باشند.

4. عکس‌العمل سریع نشان ندهید: دیپ فیک‌ها برای برانگیختن احساسات خشم، ترس یا شوک طراحی شده‌اند. قبل از به اشتراک گذاشتن یک محتوای حساس، یک لحظه تامل کنید و از خود بپرسید: «آیا این واقعاً می‌تواند درست باشد؟»

سخن پایانی

این سازمان کانادایی خواستار یک پاسخ چندوجهی شامل اقدامات دولت، صنعت فناوری و جامعه مدنی برای مقابله با این تهدید شده است.

با این حال، در نهایت، اولین خط دفاعی در برابر طوفان جعل عمیق، نه در آزمایشگاه‌های پیشرفته، که در ذهنِ آگاه و پرسشگر تک‌تک ماست.

در دوره‌ای که حقیقت در معرض حمله قرار گرفته، تفکر انتقادی نه تنها یک مهارت، که یک وظیفه شهروندی است.

منبع: CSIS