آسیانیوز ایران؛ سرویس علم و تکنولوژی:
جورجیا ملونی، نخستوزیر ایتالیا، امروز با انتشار یک تصویر جعلی (دیپفیک) از خود که با استفاده از هوش مصنوعی ساخته شده بود، در شبکههای اجتماعی به موج فزاینده تولید و انتشار تصاویر برهنه جعلی از شخصیتهای عمومی واکنش نشان داد و آن را «بسیار خطرناک» خواند. ملونی که در این تصویر جعلی در لباس زیر نشان داده میشود، در پست خود نوشت: «در روزهای اخیر تصاویر جعلی زیادی از من تولید و منتشر شده است. برخی مخالفان آنها را بهعنوان تصاویر واقعی معرفی میکنند. اعتراف میکنم که در این یکی، مرا خیلی زیباتر به تصویر کشیدهاند! اما هدف آنها چیزی جز حمله و دروغپراکنی نیست.» نخستوزیر ایتالیا در ادامه افزود: «دیپفیکها خطرناکاند و همه را هدف قرار میدهند. این ابزار خطرناکی است که میتواند هر کسی را فریب دهد و به او آسیب بزند. من توان دفاع از خود را دارم، اما بسیاری از مردم چنین امکانی ندارند.» ملونی با تأکید بر اینکه «دیپفیکها تهدیدی جدی برای دموکراسی، حریم خصوصی و اعتماد عمومی هستند»، از کاربران و مردم خواست که «همیشه اول بررسی کنید، سپس باور کنید و بعد به اشتراک بگذارید.» او هشدار داد: «امروز من، فردا نوبت شماست.»
این نخستین بار نیست که ملونی قربانی سوءاستفاده از فناوریهای هوش مصنوعی میشود. پنج سال پیش نیز از چهره او در یک ویدئوی پورن جعلی استفاده شد و دو نفر از ساکنان ساردینیا در این رابطه محاکمه شدند. همچنین در اوایل امسال و پیش از برگزاری همهپرسی قضایی، موجی از اخبار جعلی هماهنگشده در شبکههای اجتماعی علیه او منتشر شده بود. کارشناسان میگویند پیشرفت سریع فناوری هوش مصنوعی، تولید چنین محتوای جعلی را بسیار آسانتر از گذشته کرده است. امروزه با چند کلیک و با استفاده از ابزارهای رایگان آنلاین، هر کسی میتواند یک دیپفیک تقریباً واقعی از هر شخصیتی (از سیاستمداران تا بازیگران و حتی افراد عادی) بسازد. ملونی با این اقدام، خواستار وضع قوانین سختگیرانهتری برای مقابله با سوءاستفاده از هوش مصنوعی شد. او از پارلمان اروپا و دولتهای عضو خواست تا هرچه سریعتر «قانون هوش مصنوعی» (AI Act) را به تصویب برسانند و نظارت بر پلتفرمهای اجتماعی را برای حذف سریع محتوای جعلی افزایش دهند. در این گزارش، ضمن مرور واکنش ملونی به دیپفیکها، به بررسی خطرات این فناوری برای حریم خصوصی و دموکراسی، و همچنین راهکارهای پیشنهادی برای مقابله با آن میپردازیم.
دیپفیک چیست و چگونه ساخته میشود؟
دیپفیک (Deepfake) ترکیبی از دو واژه «یادگیری عمیق» (Deep Learning) و «جعلی» (Fake) است. این فناوری بر پایه «شبکههای مولد تخاصمی» (GANs) کار میکند. دو شبکه عصبی مصنوعی با یکدیگر رقابت میکنند: یک شبکه «مولد» (Generator) تصاویر جعلی میسازد و شبکه دیگر «تشخیصدهنده» (Discriminator) سعی در شناسایی جعلی بودن آنها دارد. این فرآیند تا جایی ادامه مییابد که شبکه مولد بتواند تصاویری بسازد که برای چشم انسان غیرقابل تشخیص از واقعیت باشد. برای ساخت یک دیپفیک از چهره یک شخص (مثلاً ملونی)، به «دادههای آموزشی» زیادی نیاز است: صدها یا هزاران تصویر از زوایای مختلف چهره او. خوشبختانه برای سیاستمداران، عکسهای زیادی از آن ها در فضای مجازی وجود دارد. سپس الگوریتم، چهره ملونی را روی بدن یک بازیگر پورن (یا هر فرد دیگری) «قرار میدهد». لباسها نیز به طور خودکار حذف میشوند. ابزارهای ساخت دیپفیک امروزه به راحتی در دسترس هستند. برنامههایی مانند «FaceSwap»، «DeepFaceLab» و حتی برخی رباتهای تلگرامی به شما اجازه میدهند با چند کلیک، یک ویدئوی جعلی از هر کسی بسازید. حتی گاهی نیازی به کامپیوتر قوی نیست؛ سرویسهای ابری (cloud) این کار را برای شما انجام میدهند.
چرا دیپفیک خطرناک است؟ (تهدید برای دموکراسی و حریم خصوصی)
دیپفیک سه خطر بزرگ دارد:
-
خطر اول: «تخریب چهره و حیثیت افراد» (به ویژه زنان)
انتشار یک ویدئوی پورن جعلی از یک سیاستمدار زن میتواند زندگی حرفهای او را نابود کند، حتی اگر بعداً ثابت شود جعلی است. ملونی به عنوان یک زن سیاستمدار محافظهکار، هدف ایدهآلی برای مخالفانش است. او آگاهانه یک نمونه از این تصاویر را منتشر کرد تا «قبح» آن را بشکند و به مردم بگوید: «ببینید، اینها دروغ است.»
-
خطر دوم: «فریب افکار عمومی و مداخله در انتخابات»
تصور کنید یک دیپفیک از یک نامزد انتخابات ریاستجمهوری منتشر شود که در حال گفتن حرفی نژادپرستانه یا توهین به مقدسات است. حتی اگر چند روز بعد مشخص شود جعلی است، تأثیر مخرب آن روی رأی دهندگان باقی میماند. به همین دلیل، کارشناسان میگویند دیپفیکها «سلاحهای کشتار جمعی اطلاعات غلط» هستند.
-
خطر سوم: «از بین رفتن اعتماد عمومی»
اگر مردم دیگر نتوانند به هیچ ویدئو یا صدایی اعتماد کنند (چون ممکن است جعلی باشد)، دروغ و حقیقت در هم میآمیزد. این همان چیزی است که فیلسوفان آن را «بحران معرفتشناختی» (Epistemic Crisis) مینامند.
واکنش ملونی (طنز، جدیت، و خواستار قانون)
واکنش ملونی به دیپفیکها یک «مدیریت بحران هوشمندانه» بود. او به جای سکوت (که گاهی باعث میشود شایعات رشد کنند) یا قهر (که نشانه ضعف است)، با طنز و خونسردی پاسخ داد: «اعتراف میکنم که در این یکی، مرا خیلی زیباتر به تصویر کشیدهاند!» این جمله در عین اینکه حمله را خنثی میکند، نشان میدهد که او از اعتماد به نفس بالایی برخوردار است و تهدیدات او را نمیترساند. او با انتشار خود تصویر (که کمتر سیاستمداری جرأت آن را دارد) به مردم نشان داد که «از چه میترسید؟ این دروغ است و من اثباتش میکنم.» این یک اقدام شجاعانه بود که احتمالاً از سوی سایر سیاستمداران زن مورد استقبال قرار خواهد گرفت. ملونی همچنین روی «بعد اجتماعی» مشکل تأکید کرد: «من توان دفاع از خود را دارم، اما بسیاری از مردم چنین امکانی ندارند.» یعنی افراد عادی که هدف دیپفیک قرار میگیرند (مثلاً یک دختر دانشآموز یا یک معلم) نمیتوانند با انتشار تصویر در شبکههای اجتماعی وکیل بگیرند و شکایت کنند. بنابراین، این مشکل فقط مختص افراد مشهور نیست.
قوانین موجود در اروپا و خواسته ملونی
پارلمان اروپا در سال ۲۰۲۴ «قانون هوش مصنوعی» (EU AI Act) را تصویب کرد. این قانون بر اساس ریسک، برنامههای هوش مصنوعی را به چهار دسته تقسیم میکند. دیپفیکها (تولید تصاویر و ویدئوهای جعلی) در دسته «ریسک بالا» (High Risk) قرار میگیرند. در این دسته، تولیدکنندگان دیپفیک موظف هستند به وضوح اعلام کنند که «این محتوا با هوش مصنوعی تولید شده است» و برچسب «آبنشان» (watermark) روی آن قرار دهند. اما مشکل اینجاست که بسیاری از تولیدکنندگان دیپفیک در کشورهایی هستند که قانون هوش مصنوعی ندارند (مانند روسیه، چین، ایران). همچنین جریمههای (تا ۶ درصد از درآمد جهانی شرکت) برای پلتفرمهایی مانند توییتر، تلگرام، فیسبوک که دیپفیک را به سرعت حذف نمیکنند، هنوز به اجرا درنیامده است. ملونی خواستار «اصلاح قانون هوش مصنوعی» و «افزایش جریمهها» شده است.
پیشنهاد خاص او: «جریمه فوری ۵ میلیون یورویی برای هر پلتفرمی که دیپفیک را ظرف ۲۴ ساعت حذف نکند.»
این پیشنهاد در اتحادیه اروپا در حال بررسی است.
توصیه به کاربران (چگونه دیپفیک را تشخیص دهیم؟)
کارشناسان توصیه میکنند که کاربران عادی برای تشخیص دیپفیک به نکات زیر توجه کنند:
۱. «ناهماهنگی حرکت لب و صدا»
در دیپفیکهای ویدئویی، حرکت لب معمولاً با صدا هماهنگ نیست (چند فریم عقب یا جلوتر). با دقت به دهان شخص نگاه کنید.
۲. «نگاه غیرطبیعی چشم»
در دیپفیکها، چشمها معمولاً حالت «شیشهای» (glass-like) دارند و به ندرت پلک میزنند. تعداد پلک زدن در دقیقه در یک دیپفیک معمولاً کمتر از حد نرمال است.
۳. «نقص در پسزمینه و لبهها»
گاهی اطراف صورت شخص (لبه مو، چانه) تار یا پیکسلی است. همچنین اشیای موجود در پسزمینه (فریم عکس، قاب پنجره) ممکن است اعوجاج داشته باشند.
۴. «منبع را بررسی کنید»
آیا این ویدئو در یک سایت خبری معتبر (مانند بیبیسی، سیانان، رویترز) منتشر شده است یا یک کانال تلگرامی ناشناس؟ همیشه به منبع سوءظن داشته باشید.
اگر یک دیپفیک دیدید: آن را به اشتراک نگذارید (حتی برای مسخره کردن). با اشتراک، شما به انتشار دروغ کمک میکنید. آن را به پلتفرم (تلگرام، توییتر) گزارش دهید و در صورت امکان، برای شخص آسیبدیده پیام همدردی بفرستید. ملونی درست گفت: «امروز من، فردا نوبت شماست.» اگر اکنون با دیپفیک مبارزه نکنیم، فردا قربانی بعدی ممکن است خودمان باشیم.