همه چیز درباره ویدیوی درگیری ماموران پلیس با هواداران نظام در تجمعات شبانه

آسیانیوز ایران؛ سرویس علم و تکنولوژی:

شب گذشته، یک ویدیوی چندثانیه‌ای در شبکه‌های اجتماعی دست‌به‌دست شد. صحنه‌هایی از برخورد شدید نیروهای پلیس با جمعیتی که ادعا می‌شد «هواداران حکومت» هستند. فریاد، دود، و تصاویری که هر بیننده‌ای را به شوک فرو می‌برد. اما آیا این ویدیو واقعی بود؟ پاسخ، به سرعت و با قاطعیت از سوی منابع آگاه داده شد: خیر. این ویدیو، یک ساخته دست هوش مصنوعی بود. ساعاتی از انتشار این ویدیو نگذشته بود که کارشناسان و کاربران با ذره‌بین فنی، آن را بررسی کردند. نتیجه: همه چیز در این ویدیو از حالت طبیعی خارج بود. دست‌های افراد به شکلی غیرعادی دراز شده بود، چهره‌ها شباهت مشکوکی به یکدیگر داشتند، و حتی نشان پرچم جمهوری اسلامی نیز در آن نادرست به نظر می‌رسید. انفجارهایی که در میان جمعیت دیده می‌شد، نیز با استانداردهای فنی یک فیلم واقعی همخوانی نداشت.

نکته جالب این بود که کاربری که برای اولین بار این ویدیو را منتشر کرده بود، در شرح آن تصریح کرده بود که ویدیو با هوش مصنوعی ساخته شده است. اما آن شرح، نادیده گرفته شد و ویدیو بدون ذکر منبع و با ادعاهای تحریک‌آمیز در شبکه‌های اجتماعی دست‌به‌دست شد. این دقیقاً همان نقطه‌ای است که شایعه از واقعیت فاصله می‌گیرد. پلیس فراجا و نهادهای امنیتی نیز تاکنون هیچ گزارشی از برخورد با هواداران حکومت در تجمعات شبانه منتشر نکرده‌اند. هیچ خبر مستقل و معتبری نیز که وقوع چنین درگیری‌هایی را تأیید کند، وجود ندارد. پس این ویدیو، در بهترین حالت، یک شوخی ناموفق و در بدترین حالت، یک اقدام هدفمند برای جنجال‌آفرینی است.

تولید ویدیوهای جعلی با هوش مصنوعی، در سالهای اخیر به یک چالش جدی برای فضای مجازی تبدیل شده است. با پیشرفت سریع این فناوری، تشخیص فیلم‌های واقعی از جعلی، برای کاربر عادی بسیار دشوار شده است. این موضوع، به ویژه در بحران‌ها و روزهای حساس سیاسی، می‌تواند به ابزاری برای نشر اخبار کذب و ایجاد هراس اجتماعی تبدیل شود. کارشناسان رسانه بر این باورند که این نوع اقدامات، هدفی جز تخریب اعتماد عمومی و ایجاد شکاف میان مردم و نهادهای امنیتی ندارد. آنها هشدار داده‌اند که کاربران باید قبل از به اشتراک گذاشتن هر گونه محتوای حساس، از صحت آن اطمینان حاصل کنند و به منابع رسمی و معتبر مراجعه کنند. با این حال، برخی کاربران همچنان بر واقعی بودن این ویدیو اصرار دارند و آن را بخشی از یک «توطئه» برای انکار خشونت پلیس می‌دانند. اما شواهد فنی، به وضوح نشان می‌دهد که این ویدیو، یک تولیدات دیجیتال است و هیچ ربطی به واقعیت ندارد. در نهایت، این ماجرا یک درس مهم برای همه ماست: در عصر هوش مصنوعی، نباید هرچه می‌بینیم را باور کنیم. چشم‌های ما گاهی فریب می‌خورند و گاهی، کسانی هستند که عمداً این فریب را طراحی می‌کنند. هوشیاری و راستی‌آزمایی، تنها راه نجات از دام شایعات است.

چگونه هوش مصنوعی این ویدیو را ساخت؟ نشانه‌های فنی آشکار

تولید ویدیوهای جعلی با هوش مصنوعی، معمولاً از طریق تکنیکی به نام «دیپ‌فیک» (جعل عمیق) انجام می‌شود. در این روش، الگوریتم‌های یادگیری ماشین با هزاران تصویر و ویدیوی واقعی آموزش داده می‌شوند تا بتوانند چهره‌ها، حرکات و حتی صداها را با دقت بالایی شبیه‌سازی کنند. اما این فناوری هنوز نقاط ضعفی دارد که در این ویدیو به وضوح دیده می‌شد.

1. اولین نشانه، حالت غیرطبیعی دست‌ها بود. در ویدیوهای دیپ‌فیک، اغلب دست‌ها به دلیل پیچیدگی ساختار استخوانی و حرکات ظریفشان، به درستی شبیه‌سازی نمی‌شوند. در این ویدیو، دست‌های افراد به شکلی عجیب دراز شده بود که با آناتومی طبیعی انسان همخوانی نداشت.
2. دومین نشانه، شباهت مشکوک چهره‌ها بود. در یک صحنه واقعی، صورت افراد مختلف، ویژگی‌های منحصربه‌فرد خود را دارند. اما در این ویدیو، چندین چهره به طرز عجیبی به هم شبیه بودند که نشان می‌دهد الگوریتم از یک الگوی واحد برای ساخت آنها استفاده کرده است.
3. سومین نشانه، انفجارهای غیرواقعی بود. شعله‌ها و دودهایی که در این ویدیو دیده می‌شد، با استانداردهای یک فیلم واقعی همخوانی نداشت. در انفجارهای واقعی، حجم، جهت و سرعت گسترش دود و شعله، تابع قوانین فیزیک است. اما در این ویدیو، انفجارها به شکلی غیرطبیعی و بدون منطق فیزیکی رخ می‌دادند. اینها همه نشانه‌هایی بودند که هر کارشناس فنی را به جعلی بودن این ویدیو متقاعد می‌کرد.

نقش کاربران در گسترش شایعه؛ چطور یک توضیح نادیده گرفته شد؟

نکته جالب این ماجرا، رفتار کاربران در شبکه‌های اجتماعی بود. کاربری که برای اولین بار این ویدیو را منتشر کرده بود، در شرح آن تصریح کرده بود: «این ویدیو با هوش مصنوعی ساخته شده است.» اما این جمله، در میان انبوه واکنش‌ها نادیده گرفته شد و ویدیو بدون این توضیح، دست‌به‌دست شد. چرا؟ چون این ویدیو، با روایت غالب در ذهن بسیاری از کاربران هماهنگ بود. در فضای مجازی، وقتی محتوایی با «باورهای پیشین» کاربران هماهنگ باشد، احتمال پذیرش و به اشتراک‌گذاری آن به شدت افزایش می‌یابد. این پدیده، که در روانشناسی اجتماعی به «سوگیری تأییدی» معروف است، باعث می‌شود که کاربران، بدون راستی‌آزمایی، محتوای مورد نظر خود را باور کنند و آن را منتشر کنند. در این ماجرا، کاربرانی که به دنبال اخبار منفی از عملکرد پلیس بودند، این ویدیو را بدون توجه به توضیح اولیه، به عنوان یک مدرک معتبر پذیرفتند. این رفتار، یک چالش بزرگ برای فضای مجازی است. با پیشرفت هوش مصنوعی، تولید محتوای جعلی آسان‌تر می‌شود و تشخیص آن برای کاربران عادی سخت‌تر. بنابراین، آموزش سواد رسانه‌ای و تشویق به راستی‌آزمایی، یک ضرورت انکارناپذیر است.

چرا انتشار این ویدیو در این زمان خاص اهمیت داشت؟

زمان انتشار این ویدیو، تصادفی نبود. این ویدیو در شرایطی منتشر شد که فضای سیاسی کشور تحت تأثیر امضای تفاهم‌نامه با آمریکا، بازگشایی سفارت‌های اروپایی و همچنین فضای ملتهب پس از جنگ، به شدت حساس بود. در چنین شرایطی، هر خبر منفی درباره عملکرد نهادهای امنیتی می‌تواند به سرعت دامن بزند و اعتماد عمومی را خدشه‌دار کند. به نظر می‌رسد که انتشار این ویدیو، یک اقدام هدفمند برای تخریب اعتماد عمومی و ایجاد شکاف میان مردم و نهادهای امنیتی بوده است.

کسانی که این ویدیو را طراحی و منتشر کرده‌اند، به خوبی می‌دانستند که در فضای حساس کنونی، این محتوا می‌تواند به سرعت تبدیل به یک بحران شود. آنها با استفاده از فناوری هوش مصنوعی، سعی کرده‌اند تا یک «خبر جعلی» را با ظاهری واقعی به خورد کاربران بدهند. خوشبختانه، واکنش سریع کارشناسان و همچنین عدم وجود هرگونه گزارش مستقل از وقوع چنین درگیری‌هایی، مانع از گسترش بیشتر این شایعه شد. اما این ماجرا، یک هشدار جدی است که در روزهای آینده، ممکن است با شایعات مشابهی روبرو شویم.

هوش مصنوعی، شمشیر دولبه؛ از سرگرمی تا تخریب اجتماعی

هوش مصنوعی، یکی از بزرگترین دستاوردهای بشر در قرن بیست و یکم است. این فناوری، پتانسیل انقلابی در حوزه‌های پزشکی، آموزش، صنعت و هنر را دارد. اما همانطور که در این ماجرا دیدیم، هوش مصنوعی می‌تواند به یک ابزار خطرناک نیز تبدیل شود. تولید محتوای جعلی، از جمله ویدیوهای دیپ‌فیک، یکی از جدی‌ترین تهدیدهای این فناوری است. با پیشرفت الگوریتم‌ها، تولید ویدیوهای جعلی به قدری آسان شده است که هر کاربر با یک گوشی هوشمند و کمی دانش فنی، می‌تواند یک ویدیوی فریبنده بسازد. این موضوع، اعتماد عمومی به محتوای بصری را به شدت تضعیف کرده است. دیگر نمی‌توانیم با اطمینان بگوییم که هرچه می‌بینیم، واقعی است. برای مقابله با این تهدید، باید هم از نظر فنی و هم از نظر فرهنگی، آماده شویم. از نظر فنی، باید ابزارهای تشخیص دیپ‌فیک را توسعه دهیم. از نظر فرهنگی، باید سواد رسانه‌ای را در جامعه افزایش دهیم. کاربران باید یاد بگیرند که هر محتوایی را با شک و تردید نگاه کنند و به دنبال منابع معتبر برای تأیید صحت آن باشند.

راهکارهای مقابله با شایعات مبتنی بر هوش مصنوعی

مقابله با شایعات مبتنی بر هوش مصنوعی، نیازمند یک رویکرد چندوجهی است:

1. اولین گام، توسعه ابزارهای تشخیص دیپ‌فیک است. شرکت‌های بزرگ فناوری مانند گوگل، مایکروسافت و متا، در حال سرمایه‌گذاری روی این ابزارها هستند. این ابزارها، با بررسی پیکسل‌ها، الگوهای حرکتی و انطباق نور و سایه، می‌توانند جعلی بودن یک ویدیو را تشخیص دهند.
2. دومین گام، آموزش سواد رسانه‌ای به کاربران است. کاربران باید یاد بگیرند که قبل از به اشتراک گذاشتن هر محتوایی، از صحت آن اطمینان حاصل کنند. آنها باید به دنبال منابع رسمی و معتبر بگردند و از انتشار محتوای تأیید نشده خودداری کنند. همچنین، باید با نشانه‌های فنی دیپ‌فیک (مانند دست‌های غیرطبیعی، چهره‌های شبیه به هم و انفجارهای غیرواقعی) آشنا شوند.
3. سومین گام، برخورد قانونی با تولیدکنندگان محتوای جعلی است. قوانین باید به گونه‌ای اصلاح شوند که تولید و انتشار عمدی محتوای جعلی که باعث هراس اجتماعی و تخریب اعتماد عمومی می‌شود، جرم محسوب شود و مجازات‌های سنگینی برای آن در نظر گرفته شود. این اقدامات، می‌تواند تا حد زیادی از گسترش شایعات مبتنی بر هوش مصنوعی جلوگیری کند.