آسیانیوز ایران؛ سرویس علم و تکنولوژی:
در روزهای اخیر، ویدیویی در شبکههای اجتماعی دست به دست میچرخد که ادعا میکند لحظه رونمایی از یک «سلاح فوق سری» به نام ۰۵۸ را نشان میدهد. تصاویر دراماتیک، نورپردازی سینمایی و فضای مرموز، کاربران زیادی را کنجکاو کرده است. اما واقعیت چیز دیگری است. این ویدیو هیچ ربطی به رونمایی از یک سلاح واقعی ندارد. تحقیقات نشان میدهد که این محتوا کاملاً ساختگی و با استفاده از ابزارهای هوش مصنوعی و جلوههای ویژه رایانهای تولید شده است. یک صفحه تولیدکننده محتوای دیجیتال در فیسبوک، این ویدیو و دهها ویدیوی مشابه آن را منتشر کرده است. نکته جالب اینکه برخی از این ویدیوها صداهای یکسانی دارند و برخی دیگر فضاهای مشابهی را نشان میدهند. به نظر میرسد هدف این صفحه، تولید محتوای ویروسی و جذب مخاطب از طریق انتشار ویدیوهای ساختگی و هیجانانگیز باشد. سلاح فوق سری ۰۵۸ تنها یکی از صدها محتوای جعلی این تولیدکننده است.
کارشناسان رسانه با بررسی دقیق این ویدیو، نشانههای واضحی از ساختگی بودن آن پیدا کردهاند. حرکت غیرطبیعی نورها، صداگذاری سینمایی غیرواقعی و نبود بازتاب نور در محیط، از جمله این نشانههاست. اگر دقت کنید، نورها در این ویدیو به شکلی حرکت میکنند که در دنیای واقعی غیرممکن است. همچنین صداها بیش از حد سینمایی و اغراقآمیز هستند و با تصاویر هماهنگی کامل ندارند. شبکه الجزیره نیز یکی دیگر از ویدیوهای همین صفحه را که با ادعای «استفاده از سلاح ایرانی در اسرائیل» منتشر شده بود، راستیآزمایی کرده و آن را کاملاً ساختگی تشخیص داده است. این بار نیز داستان سلاح ۰۵۸ همان الگوی تکراری است: یک ادعای شاخدار، بدون هیچ مدرک معتبر، با ویدیویی که بوی هوش مصنوعی و جلوههای ویژه میدهد. کاربران هوشیار باشند و فریب این محتواهای فیک را نخورند.
نشانههای فنی ساختگی بودن ویدیوی سلاح ۰۵۸
برای تشخیص ویدیوهای جعلی ساخته شده با هوش مصنوعی و جلوههای ویژه، باید به چند نشانه فنی توجه کرد:
- اولین نشانه، رفتار نور در صحنه است. در ویدیوی سلاح ۰۵۸، نورها به شکلی حرکت میکنند که در دنیای واقعی و با منابع نوری طبیعی یا مصنوعی معمولی، غیرممکن است. نورها بدون منبع مشخص و با حرکاتی تند و غیرطبیعی جابهجا میشوند و هیچ انعکاس و سایه متناسبی بر روی اشیاء اطراف نمیاندازند.
- دومین نشانه، صداگذاری است. در ویدیوهای واقعی از صحنههای نظامی، صداها معمولاً خام و محیطی ضبط میشوند. اما در این ویدیو، صداها بیش از حد سینمایی، شفاف و اغراقآمیز هستند. صدای پیشانی، پژواکهای طولانی و افکتهای صوتی لایهلایه نشان میدهد که صدا از روی یک بانک صدای حرفهای انتخاب شده و نه از محیط واقعی. حتی برخی ویدیوهای مختلف این صفحه، دقیقاً از یک صدای تکراری استفاده کردهاند که یک زنگ خطر بزرگ است.
- سومین نشانه، تکرار فضاهای مشابه در ویدیوهای مختلف است. این صفحه تولیدکننده محتوا، ظاهراً چند صحنه ساخته شده با جلوههای ویژه را بارها و با روایتهای مختلف بازنشر میکند. مثلاً یک فضا (مانند یک سالن صنعتی یا محوطه نظامی) را در دهها ویدیو با تغییرات جزئی به عنوان لوکیشن رویدادهای مختلف معرفی میکند. این یعنی هیچ رویداد واقعی در کار نیست، همه چیز یک صحنه کامپیوتری است.
نقش هوش مصنوعی در تولید ویدیوهای جعلی نظامی
هوش مصنوعی مولد در سالهای اخیر به طرز شگفتآوری پیشرفت کرده است. ابزارهایی مانند سورا (از شرکت اوپنایآی)، رانوی و سایر مدلهای متن به ویدیو، اکنون قادر به تولید ویدیوهای کوتاه با کیفیت نسبتاً بالا هستند. تولیدکنندگان محتوای جعلی میتوانند با وارد کردن یک پرامپت ساده مانند «رونمایی از یک سلاح فوق سری در یک پایگاه نظامی زیرزمینی»، ویدیویی بسازند که برای یک نگاه سطحی، کاملاً واقعی به نظر برسد. با این حال، مدلهای فعلی هوش مصنوعی هنوز نقاط ضعف بزرگی دارند. یکی از بزرگترین نقاط ضعف، «فیزیک نور و سایه» است. هوش مصنوعی هنوز درک عمیقی از چگونگی بازتاب نور از سطوح مختلف و ایجاد سایههای طبیعی ندارد. نتیجه این میشود که نورها در ویدیوهای تولید شده توسط هوش مصنوعی، اغلب شناور، بیمنبع و غیرواقعی به نظر میرسند. این دقیقاً همان نشانهای است که کارشناسان در ویدیوی سلاح ۰۵۸ تشخیص دادهاند.
نکته دیگر، ناهماهنگی پیکسلها در لبههای اجسام متحرک است. هوش مصنوعی گاهی در ترسیم لبههای دقیق یک سلاح یا یک انسان در حال حرکت دچار مشکل میشود و پیکسلهای محو یا تابدار ایجاد میکند. اگر ویدیو را فریم به فریم و با دقت بالا بررسی کنید، این ناهنجاریها قابل تشخیص هستند. البته تولیدکنندگان حرفهای محتوای جعلی، پس از خروجی هوش مصنوعی، از ابزارهای جلوههای ویژه رایانهای برای پوشاندن این نقصها استفاده میکنند، اما هرگز نمیتوانند ۱۰۰ درصد آن را پنهان کنند.
هدف از انتشار این ویدیوهای جعلی؛ جذب مخاطب یا القای یک روایت؟
سوال مهم این است: چه کسی و چرا این ویدیوهای جعلی را میسازد و منتشر میکند؟ در این مورد خاص، به نظر میرسد هدف اصلی «جذب مخاطب و کسب درآمد» از طریق محتوای ویروسی باشد. صفحه فیسبوکی که این ویدیوها را منتشر کرده، یک صفحه تولیدکننده محتوای دیجیتال است (نه یک رسانه رسمی یا یک نهاد دولتی). این صفحات با انتشار محتوای هیجانانگیز و دراماتیک، بازدید، لایک و اشتراکگذاری جمع میکنند و سپس از طریق تبلیغات یا فروش محصولات، درآمدزایی میکنند. اما در برخی موارد دیگر، ممکن است هدف «القای یک روایت سیاسی یا امنیتی» نیز باشد. مثلاً ویدیویی که ادعا میکند یک سلاح ایرانی در اسرائیل استفاده شده (که الجزیره آن را رد کرد)، یک هدف سیاسی آشکار دارد: القای این باور که ایران در یک درگیری فرامرزی دست دارد یا توانایی نظامی خاصی پیدا کرده است. چنین ویدیوهایی معمولاً در مواقع حساس سیاسی و قبل از انتخابات یا تنشهای بینالمللی افزایش مییابند. در هر دو سناریو، کاربران عادی قربانی اصلی هستند. کاربرانی که اخبار را بدون بررسی منبع و سندیت بازنشر میکنند، به گسترش این دروغها کمک میکنند. صفحات تولیدکننده محتوا نیز از این تعامل بالا سود میبرند. بنابراین هوشیاری رسانهای و سواد دیجیتال، یک ضرورت حیاتی در عصر هوش مصنوعی است.
مقایسه با مورد مشابه در الجزیره و الگوی تکراری
شبکه الجزیره، یکی از معتبرترین رسانههای منطقه، چند روز پیش یکی دیگر از ویدیوهای همین صفحه را راستیآزمایی کرده بود. آن ویدیو ادعا میکرد که نیروهای مسلح ایرانی از یک سلاح جدید در اسرائیل استفاده کردهاند. الجزیره با بررسی دقیق، نشانههای ساختگی بودن را شناسایی و اعلام کرد که این ویدیو «هیچ ارزش خبری ندارد و کاملاً جعلی است». این نشان میدهد که این صفحه یک سابقه تولید محتوای فریبنده دارد.
الگوی کاری این صفحه تکراری است: ابتدا یک رویداد فرضی و هیجانانگیز ساخته میشود (مثل رونمایی از یک سلاح فوق سری). سپس ویدیویی با ترکیب هوش مصنوعی و جلوههای ویژه از آن رویداد ساخته میشود. بعد، ویدیو با یک تیتر کلیکی و فریبنده در شبکههای اجتماعی منتشر میگردد. کاربران بدون بررسی، آن را بازنشر میکنند و ظرف چند ساعت، میلیونها بازدید جمع میشود. رسانههای زرد و غیرحرفهای نیز آن را به عنوان خبر واقعی بازنشر میکنند و به گرداب دروغ دامن میزنند.
برای مقابله با این پدیده، نیاز به دو اقدام همزمان است:
- اول، آموزش سواد رسانهای به کاربران عادی تا قبل از بازنشر هر خبری، منبع آن را بررسی کنند.
- دوم، فعالیت قوی و سریع نهادهای راستیآزمایی خبر که میتوانند ظرف چند ساعت واقعی بودن یا نبودن یک ویدیو را تشخیص دهند. متأسفانه سرعت انتشار دروغ همیشه از سرعت راستیآزمایی بالاتر است.
توصیههایی به کاربران برای تشخیص ویدیوهای جعلی
چگونه میتوانیم خودمان تشخیص دهیم که یک ویدیو واقعی است یا با هوش مصنوعی ساخته شده؟
- اولین توصیه: به نور و سایه دقت کنید. آیا نور یک منبع مشخص دارد؟ آیا سایهها در جهت درست و متناسب با نور افتادهاند؟ آیا بازتاب نور روی سطوح فلزی و شیشهای طبیعی به نظر میرسد؟ اگر پاسخ نه است، احتمالاً ویدیو جعلی است. در ویدیوی سلاح ۰۵۸، نورها بدون منبع مشخص و با حرکتی غیرطبیعی در فضا شناور بودند.
- دومین توصیه: به صدا توجه کنید. آیا صداها طبیعی هستند یا بیش از حد سینمایی و اغراقآمیز؟ آیا بین صدا و حرکت لب (اگر شخصی صحبت میکند) هماهنگی وجود دارد؟ آیا صدای محیط (مثل باد، صدای دستگاهها، پژواک طبیعی فضا) شنیده میشود؟ ویدیوهای جعلی اغلب صدای استودیویی و فاقد صدای محیط دارند. همچنین اگر ویدیوی مشابه با صدای کاملاً یکسان را در دو ویدیوی مختلف دیدید، بدانید که جعلی است.
- سومین توصیه: منبع و تاریخچه صفحه منتشرکننده را بررسی کنید. آیا صفحه یک رسانه رسمی و معتبر است یا یک صفحه ناشناس تولیدکننده محتوا؟ آیا سابقه انتشار اخبار جعلی را دارد؟ آیا سایر ویدیوهای آن صفحه نیز مشابه و تکراری هستند؟ در این مورد خاص، صفحه فیسبوکی که ویدیو را منتشر کرده، یک صفحه تولید محتوای دیجیتال است و هیچ سابقه خبری معتبری ندارد. همچنین ویدیوهای آن تکرار فضاها و صداهای مشابه هستند. اینها همه زنگ خطر هستند. هرگز ویدیویی را صرفاً به این دلیل که باورنکردنی و هیجانانگیز است، بازنشر نکنید. همیشه شک کنید، بررسی کنید و سپس تصمیم بگیرید.