آسیانیوز ایران؛ سرویس سیاسی:
در عصر پیشرفت سریع هوش مصنوعی، مرز میان واقعیت و جعل روز به روز کمرنگتر میشود. تازهترین نمونه این پدیده، تصویر جعلی از دونالد ترامپ، رئیسجمهور آمریکا، است که در ساعات گذشته در شبکههای اجتماعی منتشر شد و میلیونها بازدید داشت. این تصویر که با هوش مصنوعی ساخته شده، ترامپ را در کنار ایلان ماسک (مدیرعامل تسلا) و جنسن هوانگ (مدیرعامل انویدیا) در حال مشتگرهکردن زیر پرچم حزب کمونیست چین نشان میدهد. زیرنویس این تصویر ساختگی با لوگوی تلویزیون ملی چین (CCTV) طراحی شده است: «ترامپ، جنسن هوانگ و ایلان ماسک به حزب کمونیست چین اعلام وفاداری میکنند.» این تصویر آنقدر باورپذیر ساخته شده که حتی یک کارشناس صداوسیما نیز فریب آن را خورد و بر اساس همین عکس جعلی، تحلیلی عمیق و جدی ارائه کرد.
هوش مصنوعی امروزه به سطحی رسیده که میتواند تصاویری خلق کند که تشخیص آن ها از واقعیت با چشم غیرمسلح تقریباً غیرممکن است. این تصاویر که «دیپفیک» (Deepfake) نامیده میشوند، از شبکههای عصبی عمیق برای ترکیب، تغییر و جعل تصاویر واقعی استفاده میکنند. در این مورد خاص، ترامپ، ماسک و هوانگ پیاده شده است. لباسها، نورپردازی و حتی سایهها نیز با هوش مصنوعی هماهنگ شدهاند. این حادثه نشان میدهد که رسانهها و کارشناسان، قبل از هر تحلیلی، باید «اصالت» تصاویر را با ابزارهای تخصصی تشخیص محتوا بررسی کنند. ابزارهایی مانند «سنسیفای» (Sensity AI) و «مایکروسافت ویدئو آتنتیکیتور» میتوانند با دقت بالایی تصاویر و ویدئوهای جعلی را شناسایی کنند. همچنین وجود خطاهای کوچک مانند تقارن نامتقارن گوشها، عدم تطابق نور چشمها، یا بافت غیرطبیعی پوست (که در تصاویر دیپفیک رایج است) میتواند سرنخهایی برای تشخیص جعل ارائه دهد.
واکنش صداوسیما به این اتفاق چیست؟
تاکنون بیانیه رسمی از سوی این سازمان منتشر نشده است. اما این رویداد میتواند زنگ خطری برای رسانه ملی باشد تا پروتکلهای سختتری برای راستیآزمایی تصاویر و ویدئوها قبل از پخش یا تحلیل وضع کند. در دنیایی که هوش مصنوعی میتواند حتی سخنرانی سیاستمداران را جعل کند (با شبیهسازی صدا)، رسانهها باید بیش از همیشه مراقب باشند. از سوی دیگر، این تصویر جعلی با هدف خاصی طراحی شده است: القای این پیام که «ترامپ و غولهای فناوری آمریکا به چین وفادار هستند». این روایت میتواند در خدمت منافع سیاسی و تبلیغاتی گروههای خاص (مثل رقبای ترامپ در انتخابات آمریکا، یا رسانههای حامی سیاستهای ضد چینی) باشد. کاربران عادی نیز باید قبل از بازنشر هر تصویر جنجالی، درباره صحت آن تحقیق کنند. یک کلیک ساده برای اشتراکگذاری یک تصویر جعلی، میتواند به تشدید مناقشات سیاسی و گمراهی افکار عمومی منجر شود. کارشناس سینما و تلویزیون، احسان محمدی، در گفتگو با خبرنگار ما گفت: «در عصر دیپفیک، دیگر نمیتوان به هیچ تصویر یا ویدئویی بدون مدرک مستند اعتماد کرد. رسانههای حرفهای باید واحدهای راستیآزمایی مجهز به هوش مصنوعی ایجاد کنند. صداوسیما نیز باید از این پس قبل از پخش هر محتوای حساس، اصالت آن را با نرمافزارهای پیشرفته بررسی کند و در صورت عدم اطمینان، از پخش آن خودداری کند.» این رویداد درس مهمی برای همه ما دارد: «همیشه قبل از باور کردن، تحقیق کنید». یک تصویر جعلی میتواند در کمتر از یک ساعت میلیونها بازدید داشته باشد و حقیقت را وارونه جلوه دهد. رسانهها، کارشناسان و کاربران عادی باید با ارتقای سواد رسانهای خود، در برابر موج اطلاعات نادرست مقاومت کنند. هوش مصنوعی یک ابزار دو لبه است: هم میتواند به پیشرفت علم و هنر کمک کند و هم میتواند سلاحی برای فریب افکار عمومی باشد.
فناوری دیپفیک (تصاویر جعلی با هوش مصنوعی) و نحوه تشخیص آن
دیپفیک (Deepfake) ترکیبی از «یادگیری عمیق» (Deep Learning) و «جعلی» (Fake) است. این فناوری از شبکههای عصبی مولد (Generative Adversarial Networks - GANs) استفاده میکند. دو شبکه عصبی با یکدیگر رقابت میکنند: یک شبکه «تولیدکننده» تصاویر جعلی میسازد و شبکه دیگر «تشخیصدهنده» سعی میکند آنها را از تصاویر واقعی متمایز کند. با گذشت زمان، شبکه تولیدکننده آنقدر ماهر میشود که تصاویری خلق میکند که حتی یک انسان خبره هم نمیتواند آنها را تشخیص دهد. در مورد تصویر ترامپ، احتمالاً از مدلهای پیشرفتهای مانند «میدجرنی» (Midjourney) یا «دال-ئی ۳» (DALL-E 3) استفاده شده است که میتوانند چهره افراد واقعی را روی بدن افراد دیگر (مثلاً سربازان چینی) پیاده کنند.
چگونه میتوان دیپفیک را تشخیص داد؟ علیرغم پیشرفت تکنولوژی، هنوز نقاط ضعفی وجود دارد:
۱. عدم تطابق نور
در تصاویر جعلی، نور چشمها، پوست، و محیط اطراف ممکن است هماهنگ نباشد. به عنوان مثال، اگر نور از چپ آمده باشد، سایه سمت راست صورت باید افتاده باشد، اما در تصاویر جعلی گاهی سایهها متناقض هستند.
۲. ناهنجاریهای آناتومیک
هوش مصنوعی هنوز در ترسیم دقیق دستها، گوشها، و دندانها مشکل دارد. در تصاویر جعلی، ممکن است فرد دارای شش انگشت باشد، یا گوشها به طور نامتقارن قرار گرفته باشند. همچنین بافت پوست در برخی نقاط صاف و «پلاستیکی» به نظر میرسد (فقدان جزئیات مو، منافذ پوست، و خطوط ریز).
۳. ابزارهای حرفهای تشخیص
شرکتهایی مانند «مایکروسافت» (Microsoft Video Authenticator)، «اینتل» (FakeCatcher)، و «سنسیفای» (Sensity AI) ابزارهایی ساختهاند که با تحلیل نرخ پلک زدن، جریان خون در صورت (تغییر رنگ پوست ناشی از ضربان قلب)، و ناهنجاریهای فشردهسازی ویدئو، میتوانند با دقت ۹۰ تا ۹۹ درصد دیپفیک را شناسایی کنند. رسانههای حرفهای باید از این ابزارها استفاده کنند.
مسئولیت رسانهها و سواد رسانهای در عصر هوش مصنوعی
این حادثه نشان داد که حتی رسانههای به ظاهر حرفهای (مانند صداوسیما) نیز میتوانند قربانی دیپفیک شوند. سه درس مهم از این اتفاق میتوان گرفت:
۱. رسانهها باید واحدهای «راستیآزمایی بصری» ایجاد کنند
دیگر کافی نیست که یک خبر را فقط از طریق متن یا منابع مکتوب تأیید کنیم. تصاویر و ویدئوها نیز باید قبل از پخش، توسط کارشناسان فناوری اطلاعات و متخصصان هوش مصنوعی بررسی شوند. واحدهای خبری بزرگ جهان (مانند بیبیسی، رویترز، آسوشیتدپرس) قبلاً چنین واحدهایی را ایجاد کردهاند. صداوسیما نیز باید هرچه سریعتر این خلأ را پر کند.
۲. کارشناسان و تحلیلگران باید آموزش ببینند
کارشناس صداوسیما که فریب این تصویر را خورد، احتمالاً سواد کافی در زمینه تشخیص دیپفیک نداشته است. سازمانهای رسانهای باید کارگاههای آموزشی برای کارشناسان خود برگزار کنند تا آنها با تکنیکهای تشخیص تصاویر جعلی آشنا شوند. به عنوان مثال، بزرگنمایی تصویر و بررسی دقیق لبهها، وجود نویز غیرطبیعی، و عدم تطابق نور، از جمله مهارتهای پایه است.
۳. افزایش سواد رسانهای عمومی
وظیفه فقط بر عهده رسانهها نیست. کاربران عادی نیز باید یاد بگیرند که قبل از بازنشر هر تصویر یا ویدئوی جنجالی، چند ثانیه تأمل کنند. سؤال بپرسند: «آیا این تصویر واقعی به نظر میرسد؟ آیا منبع آن معتبر است؟ آیا رسانههای دیگر هم این تصویر را منتشر کردهاند؟» یک معیار ساده: اگر تصویر بیش از حد «شوکهکننده» یا «حیرتآور» است و آن را فقط در کانالهای ناشناس میبینید، احتمالاً جعلی است. قبل از بازنشر، حتماً از طریق گوگل ریورس ایمج سرچ کنید (ممکن است نسخه اصلی تصویر را پیدا کنید). در نهایت، هوش مصنوعی یک ابزار است، نه یک تهدید. اما نحوه استفاده از آن (چه توسط رسانهها، چه توسط کاربران) تعیین میکند که آیا به شفافیت اطلاعات کمک میکند یا به تاریکی آن دامن میزند.