सोशल मीडिया पर प्रधानमंत्री नरेंद्र मोदी का नमाज अदा करते हुए एक वीडियो वायरल है. इसमें उनकी आवाज में एक वॉइस ओवर भी शामिल है जिसमें वह केंद्रीय गृह मंत्री अमित शाह, उत्तर प्रदेश के मुख्यमंत्री योगी आदित्यनाथ और खुद के लिए अल्लाह से मांगी मांगते हुए सुनाई दे रहे हैं.
बूम ने कई डिटेक्शन टूल और डीपफेक एनालिसिस यूनिट (DAU) में हमारे पार्टनर के जरिए पाया कि वीडियो के AI जनरेटेड होने की संभावना है.
गौरतलब है कि अभी रमजान का पवित्र महीना चल रहा है. इसी संदर्भ में पीएम मोदी का यह वीडियो वायरल हो रहा है.
पीएम मोदी का यह वीडियो कई सोशल मीडिया प्लेटफॉर्म फेसबुक (आर्काइव लिंक) , इंस्टाग्राम (आर्काइव लिंक) और यूट्यूब (आर्काइव लिंक) पर शेयर किया गया है.
फैक्ट चेक
बूम ने वीडियो को ध्यान देखा तो इसमें कुछ विकृतियां नजर आईं. जैसे- वीडियो के कीफ्रेम में जब पीएम मोदी के दोनों हाथ आपस में मिलते हैं तो यह पिक्सलेट हो जाते हैं. फिर वीडियो में एक जगह उनकी दाढ़ी भी अचानक से बढ़ी हुई नजर आती है.
इन सभी संकेतों से हमें वीडियो के एआई जनरेटेड होने का अंदेशा हुआ. हमने वीडियो को University at Buffalo के मीडिया फॉरेंसिक लैब के डीपफेक डिटेक्शन टूल Deepfake O meter पर इस वीडियो, उसके कीफ्रेम और उसकी ऑडियो की जांच की.
डिटेक्शन टूल Deepfake O Meter के मॉडल DSP-FWA (2019), WAV2LIP-STA (2022) और LIPINC (2024) के अनुसार, वीडियो के एआई जनरेटेड होने की संभावना क्रमश: 80 फीसदी, 93.8 प्रतिशत और 99.6 फीसदी है.
डिटेक्शन टूल Deepfake O Meter पर वायरल वीडियो का कीफ्रेम चेक करने पर इसके GLFF (2024) मॉडल ने इसके एआई जनरेटेड होने की संभावना 100 प्रतिशत बताई.
इसके अलावा हमने वीडियो में इस्तेमाल किए गए वॉइसओवर की जांच भी की. डिटेक्शन टूल Deepfake O Meter के AASIST (2021), LFCC-LCNN (2021) और RawNet3 (2023) मॉडल ने वॉइस के AI जनरेटेड होने की संभावना 100 प्रतिशत बताई.
वीडियो के कुछ स्क्रीनशॉट को डीपफेक डिटेक्शन टूल Wasitai पर भी चेक किया, इसने भी वीडियो को एआई जनरेटेड बताया.
ऑडियो को डिटेक्टर टूल Resemble AI पर चेक करने पर यह स्पष्ट होता है कि यह फेक आवाज है.
डीपफेक एनालिसिस यूनिट (डीएयू) में हमारे सहयोगियों ने भी वायरल वीडियो का विश्लेषण किया. डीएयू ने पाया कि हाइव का डीपफेक डिटेक्शन मॉडल वीडियो में हेरफेर किए जाने के स्पष्ट संकेत देता है.
हमने पाया कि इस वीडियो को सबसे पहले @ai_wale__bhaiya यूजर नेम वाले एक इंस्टाग्राम अकाउंट ने शेयर किया था. इस अकाउंट पर 18 फरवरी 2024 को यह वीडियो शेयर किया गया था. अकाउंट पर पीएम मोदी के कई AI जनरेटेड वीडियो भी शेयर किए गए हैं.