آسیانیوز ایران؛ سرویس علم و تکنولوژی:
این روزها فضای مجازی پر از شایعه و محتوای جعلی است. اینبار، یک ویدیوی ترسناک دستبهدست میشود که ادعا میکند «موشک هایپرسونیک فاتح-۲ از کنار یک هواپیمای مسافربری عبور کرده است». تصاویری که هر بینندهای را به شوک فرو میبرد. اما این ویدیو، یک ساخته دست هوش مصنوعی است و هیچ واقعیتی ندارد. کاربران باید فریب این محتوای جعلی را نخورند. بررسیهای دقیق نشان میدهد که این ویدیو با استفاده از فناوری دیپفیک (جعل عمیق) ساخته شده است. کاربری که برای اولین بار این ادعا را منتشر کرده، خود را «تولیدکننده محتوای دیجیتال» معرفی میکند و به صراحت اشاره دارد که این یک محتوای ساختگی است. اما با این حال، این ویدیو بدون ذکر منبع و با ادعاهای تحریکآمیز در شبکههای اجتماعی دستبهدست شده است.
نکته جالب اینکه نام «موشک فاتح۲» در این ویدیو به کار رفته، در حالی که چنین موشکی وجود ندارد. احتمالاً نام موشک «فتاح ۲» به اشتباه نوشته شده است. اما حتی موشک فتاح ۲ نیز یک موشک هایپرسونیک نیست و نمیتواند با سرعت فوقالعاده از کنار یک هواپیمای مسافربری عبور کند. این موضوع، خود نشاندهنده جعلی بودن این ویدیو است. کارشناسان فنی با بررسی این ویدیو، به نشانههای واضحی از ساختگی بودن آن پی بردهاند. ظاهر موشک در صحنههای مختلف یکسان نیست و با موشک فتاح ۲ مطابقت ندارد. همچنین، جزئیات غیرعادی تصویر، از جمله پنل نامتعارف کابین هواپیما و حالت غیرطبیعی برخی مسافران، همگی نشاندهنده ساختگی بودن این ویدیو هستند.
با این حال، برخی کاربران همچنان بر واقعی بودن این ویدیو اصرار دارند و آن را بخشی از یک «توطئه» برای پنهانکاری میدانند. اما هیچ اطلاعات یا منبع معتبری این رویداد را تأیید نمیکند. این ویدیو، یک شایعه بیاساس است که با هدف ایجاد ترس و وحشت در فضای مجازی تولید شده است. در نهایت، این ماجرا یک درس مهم برای همه ماست: در عصر هوش مصنوعی، نباید هرچه میبینیم را باور کنیم. چشمهای ما گاهی فریب میخورند و گاهی، کسانی هستند که عمداً این فریب را طراحی میکنند. هوشیاری و راستیآزمایی، تنها راه نجات از دام شایعات است.
دیپفیک چیست و چگونه کار میکند؟
دیپفیک (جعل عمیق) یک فناوری پیشرفته است که از هوش مصنوعی برای تولید تصاویر، ویدیوها و صداهای جعلی استفاده میکند. این فناوری، با استفاده از الگوریتمهای یادگیری ماشین، چهره و صدای افراد را به گونهای تغییر میدهد که تشخیص جعلی بودن آن، برای کاربران عادی بسیار دشوار است. در این ویدیو، از دیپفیک برای تولید یک صحنه ترسناک و جعلی استفاده شده است. تولید ویدیوهای دیپفیک، معمولاً با استفاده از شبکههای عصبی عمیق (GAN) انجام میشود. این شبکهها، با دریافت هزاران تصویر و ویدیوی واقعی، الگوهای بصری را یاد میگیرند و سپس میتوانند تصاویر و ویدیوهای جدیدی را تولید کنند که بسیار شبیه به واقعیت است. با این حال، این فناوری هنوز نقاط ضعفی دارد که در این ویدیو به وضوح دیده میشد.
نشانههای جعلی بودن این ویدیو، شامل عدم تطابق ظاهر موشک در صحنههای مختلف، پنل نامتعارف کابین هواپیما و حالت غیرطبیعی برخی مسافران است. این نشانهها، به کارشناسان کمک کرد تا به سرعت جعلی بودن این ویدیو را تشخیص دهند.
چرا این ویدیو در این زمان خاص منتشر شد؟
زمان انتشار این ویدیو، تصادفی نیست. این ویدیو در شرایطی منتشر شده است که فضای سیاسی کشور، تحت تأثیر مذاکرات با آمریکا و تغییرات در سیاست خارجی قرار دارد. انتشار این ویدیو، میتواند به عنوان یک اقدام «عملیات روانی» تلقی شود. هدف از این اقدام، ایجاد شایعه و گمراهسازی افکار عمومی است. با انتشار چنین ویدیوهایی، سعی میشود که توجهات از مسائل اصلی (مانند مذاکرات با آمریکا) منحرف شود. همچنین، این ویدیو میتواند به ایجاد ترس و وحشت در میان مردم و کاهش اعتماد به نهادهای نظامی و امنیتی منجر شود. با این حال، با تشخیص سریع جعلی بودن این ویدیو، این اقدام با شکست مواجه شد. این موضوع، نشاندهنده اهمیت سرعت عمل در شناسایی و تکذیب اخبار جعلی است.
نقش هوش مصنوعی در تولید محتوای جعلی
هوش مصنوعی، در سالهای اخیر، به ابزاری قدرتمند برای تولید محتوای جعلی تبدیل شده است. با استفاده از هوش مصنوعی، میتوان به راحتی ویدیوها، تصاویر و متون جعلی را تولید کرد. این موضوع، چالشهای جدی را برای اعتبارسنجی اطلاعات در فضای مجازی ایجاد کرده است. با پیشرفت هوش مصنوعی، تولید محتوای جعلی آسانتر و ارزانتر شده است. هر کاربری با یک گوشی هوشمند و کمی دانش فنی، میتواند یک ویدیوی دیپفیک بسازد. این موضوع، نیاز به توسعه ابزارهای تشخیص محتوای جعلی را دوچندان کرده است. شرکتهای بزرگ فناوری، مانند گوگل، مایکروسافت و متا، در حال توسعه ابزارهایی برای تشخیص محتوای جعلی هستند. با این حال، این ابزارها هنوز کامل نیستند و تشخیص برخی از ویدیوهای دیپفیک، همچنان دشوار است.
اهمیت سواد رسانهای در عصر هوش مصنوعی
سواد رسانهای، توانایی تحلیل و ارزیابی اطلاعات در فضای مجازی است. در عصر هوش مصنوعی، سواد رسانهای از اهمیت بیشتری برخوردار شده است. کاربران باید یاد بگیرند که هرچه میبینند، واقعی نیست و باید با دقت و هوشیاری، محتوای خود را بررسی کنند. برای افزایش سواد رسانهای، کاربران باید به چند نکته توجه کنند: اول، به منابع اطلاعاتی توجه کنند و از منابع رسمی و معتبر استفاده کنند. دوم، قبل از به اشتراک گذاشتن هرگونه محتوای حساس، از صحت آن اطمینان حاصل کنند. سوم، با نشانههای محتوای جعلی (مانند دستهای غیرطبیعی، چهرههای شبیه به هم و انفجارهای غیرواقعی) آشنا شوند. آموزش سواد رسانهای، باید از سنین پایین شروع شود و در مدارس و دانشگاهها، به عنوان یک درس اصلی تدریس شود. همچنین، رسانههای جمعی و فضای مجازی، باید نقش موثری در آموزش سواد رسانهای به کاربران ایفا کنند.
راهکارهای مقابله با شایعات مبتنی بر هوش مصنوعی
مقابله با شایعات مبتنی بر هوش مصنوعی، نیازمند یک رویکرد چندوجهی است:
- اولین گام، توسعه ابزارهای تشخیص دیپفیک است. شرکتهای بزرگ فناوری، باید سرمایهگذاری بیشتری بر روی این ابزارها انجام دهند.
- دومین گام، آموزش سواد رسانهای به کاربران است. کاربران باید یاد بگیرند که چگونه محتوای جعلی را تشخیص دهند.
- سومین گام، برخورد قانونی با تولیدکنندگان محتوای جعلی است. قوانین باید به گونهای اصلاح شوند که تولید و انتشار عمدی محتوای جعلی، جرم محسوب شود و مجازاتهای سنگینی برای آن در نظر گرفته شود. این اقدامات، میتواند تا حد زیادی از گسترش شایعات مبتنی بر هوش مصنوعی جلوگیری کند.