آسیانیوز ایران؛ سرویس علم و تکنولوژی:
در روزهایی که فضای مجازی پر از شایعه و خبرهای جعلی است، یک ویدیوی دیگر هم به این انبوه اضافه شد. اینبار، ادعا شده که رجب طیب اردوغان، رئیسجمهور ترکیه، درباره شرکت در مراسم تشییع علی و مجتبی خامنهای سخنرانی کرده است. اما بررسیها نشان میدهد که این ویدیو، یک ساخته دست هوش مصنوعی است و اردوغان چنین سخنانی را هرگز بر زبان نیاورده است. انتشار این ویدیو، در شبکههای اجتماعی دستبهدست شد و بسیاری از کاربران، آن را به عنوان یک خبر واقعی پذیرفتند. اما با بررسی دقیق، مشخص شد که این ویدیو با استفاده از فناوری «دیپفیک» (جعل عمیق) ساخته شده است. ردیابی واترمارک دیجیتال SynthID با سیستم تشخیص هوش مصنوعی گوگل، نشان داد که تصویر و صدای این ویدیو با هوش مصنوعی تولید یا دستکاری شده است.
این اولین بار نیست که از هوش مصنوعی برای تولید محتوای جعلی درباره شخصیتهای سیاسی استفاده میشود. اما اینبار، جعل به جایی رسیده که یک رئیسجمهور را به سخنانی نسبت دادهاند که هرگز نگفته است. این موضوع، نشاندهنده خطرات فزاینده هوش مصنوعی در تولید اخبار جعلی و گمراهکننده است. بر اساس بررسیها، آخرین سخنرانی رسمی اردوغان، در مجتمع ریاستجمهوری آنکارا انجام شده است. در آن سخنرانی، او درباره تفاهمنامه میان ایران و آمریکا صحبت کرده و هیچ اشارهای به مراسم تشییع یا دعوت از ترکیه برای آن نشده است. بنابراین، ویدیوی منتشرشده، کاملاً جعلی است.
علاوه بر این، هیچ گزارش یا خبر رسمی مبنی بر دعوت از سران خارجی برای مراسم تشییع مجتبی یا حتی علی خامنهای وجود ندارد. با وجود اعلام زمان و محل برگزاری مراسم، هیچ لیست رسمی از مهمانان خارجی یا دعوتنامهای برای رهبران کشورهای دیگر منتشر نشده است. این موضوع، نشاندهنده بیاساس بودن این ادعا است. انتشار این ویدیو، در حالی صورت گرفته است که فضای سیاسی کشور، به شدت تحت تأثیر مذاکرات با آمریکا و تغییرات در سیاست خارجی قرار دارد. برخی از جریانهای سیاسی، با این مذاکرات مخالف هستند و سعی میکنند با اقداماتی مانند این، فضای سیاسی را ملتهب کنند. اما این ویدیو، یک شاخدار دیگر از سوی شایعهسازان است. کاربران فضای مجازی، باید قبل از به اشتراک گذاشتن هرگونه محتوای حساس، از صحت آن اطمینان حاصل کنند. استفاده از ابزارهای تشخیص دیپفیک و همچنین مراجعه به منابع رسمی، میتواند به جلوگیری از انتشار اخبار جعلی کمک کند. در نهایت، این رویداد، نشاندهنده اهمیت سواد رسانهای در عصر هوش مصنوعی است. کاربران باید یاد بگیرند که هرچه میبینند، واقعی نیست و باید با دقت و هوشیاری، محتوای خود را بررسی کنند.
فناوری دیپفیک و خطرات آن برای فضای مجازی
فناوری دیپفیک (Deepfake)، یکی از جدیدترین و پیشرفتهترین روشهای تولید محتوای جعلی است. این فناوری، با استفاده از هوش مصنوعی، میتواند تصاویر، ویدیوها و صداها را با دقت بالایی شبیهسازی کند. در این ویدیو، از دیپفیک برای جعل سخنرانی اردوغان استفاده شده است. دیپفیک، با استفاده از الگوریتمهای یادگیری ماشین، چهره و صدای افراد را به گونهای تغییر میدهد که تشخیص جعلی بودن آن، برای کاربران عادی بسیار دشوار است. این فناوری، میتواند برای تولید اخبار جعلی، ایجاد شایعات و حتی تخریب شخصیتهای سیاسی استفاده شود. با پیشرفت هوش مصنوعی، تشخیص دیپفیک نیز دشوارتر میشود. با این حال، ابزارهایی مانند واترمارک دیجیتال SynthID گوگل، میتوانند به شناسایی محتوای جعلی کمک کنند. این ابزار، با بررسی الگوهای دیجیتال موجود در فایل، میتواند تشخیص دهد که آیا یک ویدیو با هوش مصنوعی تولید شده است یا خیر.
چرا این ویدیو در این زمان خاص منتشر شد؟
زمان انتشار این ویدیو، تصادفی نیست. این ویدیو، در روزهایی منتشر شده است که فضای سیاسی کشور، به شدت تحت تأثیر مذاکرات با آمریکا و تغییرات در سیاست خارجی قرار دارد. برخی از جریانهای سیاسی، با این مذاکرات مخالف هستند و سعی میکنند با اقداماتی مانند این، فضای سیاسی را ملتهب کنند. انتشار این ویدیو، میتواند به عنوان یک اقدام «عملیات روانی» تلقی شود. هدف از این اقدام، ایجاد شایعه و گمراهسازی افکار عمومی است. با انتشار چنین ویدیوهایی، سعی میشود که توجهات از مسائل اصلی (مانند مذاکرات با آمریکا) منحرف شود. با این حال، با تشخیص سریع جعلی بودن این ویدیو، این اقدام با شکست مواجه شد. این موضوع، نشاندهنده اهمیت سرعت عمل در شناسایی و تکذیب اخبار جعلی است.
نقش هوش مصنوعی در تولید محتوای جعلی
هوش مصنوعی، در سالهای اخیر، به ابزاری قدرتمند برای تولید محتوای جعلی تبدیل شده است. با استفاده از هوش مصنوعی، میتوان به راحتی ویدیوها، تصاویر و متون جعلی را تولید کرد. این موضوع، چالشهای جدی را برای اعتبارسنجی اطلاعات در فضای مجازی ایجاد کرده است. با پیشرفت هوش مصنوعی، تولید محتوای جعلی آسانتر و ارزانتر شده است. هر کاربری با یک گوشی هوشمند و کمی دانش فنی، میتواند یک ویدیوی دیپفیک بسازد. این موضوع، نیاز به توسعه ابزارهای تشخیص محتوای جعلی را دوچندان کرده است. شرکتهای بزرگ فناوری، مانند گوگل، مایکروسافت و متا، در حال توسعه ابزارهایی برای تشخیص محتوای جعلی هستند. با این حال، این ابزارها هنوز کامل نیستند و تشخیص برخی از ویدیوهای دیپفیک، همچنان دشوار است.
اهمیت سواد رسانهای در عصر هوش مصنوعی
سواد رسانهای، توانایی تحلیل و ارزیابی اطلاعات در فضای مجازی است. در عصر هوش مصنوعی، سواد رسانهای از اهمیت بیشتری برخوردار شده است. کاربران باید یاد بگیرند که هرچه میبینند، واقعی نیست و باید با دقت و هوشیاری، محتوای خود را بررسی کنند. برای افزایش سواد رسانهای، کاربران باید به چند نکته توجه کنند: اول، به منابع اطلاعاتی توجه کنند و از منابع رسمی و معتبر استفاده کنند. دوم، قبل از به اشتراک گذاشتن هرگونه محتوای حساس، از صحت آن اطمینان حاصل کنند. سوم، با نشانههای محتوای جعلی (مانند دستهای غیرطبیعی، چهرههای شبیه به هم و انفجارهای غیرواقعی) آشنا شوند. آموزش سواد رسانهای، باید از سنین پایین شروع شود و در مدارس و دانشگاهها، به عنوان یک درس اصلی تدریس شود. همچنین، رسانههای جمعی و فضای مجازی، باید نقش موثری در آموزش سواد رسانهای به کاربران ایفا کنند.
آینده اخبار جعلی و راههای مقابله با آن
آینده اخبار جعلی، با پیشرفت هوش مصنوعی، پیچیدهتر خواهد شد. تولید محتوای جعلی، آسانتر و واقعیتر خواهد شد و تشخیص آن، برای کاربران عادی بسیار دشوار خواهد بود. برای مقابله با این تهدید، نیاز به یک رویکرد چندوجهی است.
- اول، توسعه ابزارهای تشخیص محتوای جعلی. شرکتهای فناوری، باید سرمایهگذاری بیشتری بر روی این ابزارها انجام دهند.
- دوم، آموزش سواد رسانهای به کاربران. کاربران باید یاد بگیرند که چگونه محتوای جعلی را تشخیص دهند.
- سوم، برخورد قانونی با تولیدکنندگان محتوای جعلی. قوانین باید به گونهای اصلاح شوند که تولید و انتشار عمدی محتوای جعلی، جرم محسوب شود.
با همکاری بین دولتها، شرکتهای فناوری و کاربران، میتوان از گسترش اخبار جعلی جلوگیری کرد و فضای مجازی را به محیطی امنتر تبدیل کرد.