सोशल मीडिया पर AI वीडियोज की भरमार है. फेक AI वीडियोज से लोगों की ब्लैकमेलिंग भी की जा रही है. इस तरह के वीडियोज असली हैं या नकली पहचानना मुश्किल होता जा रहा है. AI वीडियोज भी असली जैसे ही लगते हैं. हालांकि थोड़ी सी सावधानी बरत कर आप ऐसे वीडियोज को पहचान सकते हैं. आइए जानते हैं Deepfake वीडियोज कैसे बनाए जा रहे हैं और इन्हें आप कैसे पहचान सकते हैं.
सोशल मीडिया पर Deepfake वीडियोज की बाढ़ है. इसी बीच, चीनी कंपनी ByteDance ने OmniHuman AI शोकेस किया है. ये सिर्फ एक फोटो से असली जैसा वीडियो तैयार कर रहा है. इससे पहले तक सिर्फ अपर बॉडी के डीपफेक वीडियोज बनते थे, लेकिन अब पूरी बॉडी मूवमेंट दिखाया जा रहा है जो असली जैसा ही लग रहा है.
भारत में आ गया दुनिया का पहला AI-powered Deepfake Detector, इस कंपनी ने किया बड़ा ऐलान, साइबर स्कैम्स से मिलेगा छुटकारा?
McAfee ने भारत में AI पावर्ड Deepfake Detector टूल्स को लॉन्च कर दिया है. कंपनी ने दावा है कि यह दुनिया का सबसे पहला AI पावर्ड Deepfake Detector है. इसकी मदद से भारतीय यूजर्स खुद को साइबर स्कैम से बचा पाएंगे. यह कई लोगों के लिए यूजफुल साबित हो सकता है. आइए इसके बारे में डिटेल्स में जानते हैं.
क्या आपने भी सोशल मीडिया पर हाल में ऐसे वीडियो देखे हैं जिनमें नामचीन अभिनेत्रियां खुलेआम एक-दूसरे के होंठों को चूम रही हैं? आजतक ने ऐसे वीडियो की सच्चाई का फैक्ट चेक किया है.
देश के राष्ट्रपिता महात्मा गांधी, प्रधानमंत्री नरेंद्र मोदी और उत्तर प्रदेश के मुख्यमंत्री योगी आदित्यनाथ का डीपफेक वीडियो सोशल मीडिया पर तेजी से वायरल हो रहा है. इसमें तीनों हस्तियों को डांस करते हुए दिखाया गया है. इस मामले में यूपी के बलिया में पुलिस ने अज्ञात लोगों के खिलाफ एफआईआर दर्ज की है.
भारतीय क्रिकेट विराट कोहली डीपफेक का शिकार हुए हैं. उनका एक वीडियो हूबहू उनकी आवाज लगाकर शुभमन गिल की बुराई की गई. इसका वीडियो वायरल हो रहा है. वीडियो AI से बनाया गया लग रहा है.
"एविएटर ऐप" के निर्माताओं ने प्रचार के लिए सभी क्षेत्रों के दिग्गजों और प्रभावशाली लोगों को निशाना बनाया है जिनमें कॉमेडियन कपिल शर्मा, क्रिकेटर विराट कोहली और महेंद्र सिंह धोनी से लेकर उद्योगपति मुकेश अंबानी तक शामिल हैं.
मध्य प्रदेश के इंदौर में एक कॉलेज की छात्राओं को अश्लील तस्वीरों के जरिए ब्लैकमेल करने वाले एक शख्स को पुलिस ने गिरफ्तार किया है. आरोपी शख्स नगर पालिका निगम में कम्प्यूटर ऑपरेटर है. उसने AI की मदद से कई छात्राओं की डीपफेक फोटो बना ली थीं. इन तस्वीरों को सोशल मीडिया पर वायरल करने की धमकी देकर वो उन लड़कियों ब्लैकमेल कर रहा था.
बॉलीवुड एक्ट्रेस आलिया भट्ट एक बार फिर से डीपफेक का शिकार हुई हैं. आलिया का एक एआई जनरेटेड नया वीडियो सामने आया है जिसमें वो लाल साड़ी में दिख रही हैं. ये एक फेक वीडियो है. राजकुमार राव की आने वाले फिल्म 'श्रीकांत' के लिए मेकर्स ने कुछ खास व्यवस्था की है. देखें मूवी मसाला.
आजादी के बाद ये पहला लोकसभा चुनाव है, जो आर्टिफिशियल इंटैलिजेंस यानी एआई के बढ़ते हुए असर के बीच हो रहा है. बीते दिनों केंद्रीय गृहमंत्री अमित शाह का एक डीपफेक वीडियो वायरल हुआ था, जिसमें अमित शाह SC और ST रिजर्वेशन को खत्म करने की बात कहते नजर आ रहे थे, ये एक एडिटेड वीडियो था.
दिल्ली पुलिस की इंटेलिजेंस फ्यूजन एंड स्ट्रैटेजिक ऑपरेशंस (IFSO) यूनिट ने केंद्रीय गृह मंत्री अमित शाह के डीप फेक वीडियो मामले में में सात से आठ राज्यों में 16 लोगों को समन जारी किया था. समन सीआरपीसी की धारा 91 और 160 के तहत जारी किया गया था, जिसमें संबंधित व्यक्तियों को जांच में शामिल होने और सबूत के रूप में प्रासंगिक दस्तावेज और इलेक्ट्रॉनिक उपकरण प्रदान करने के लिए कहा गया था.
प्रधानमंत्री नरेंद्र मोदी ने जो चिंता जताई थी, वो अब बड़ी होती जा रही है. उन्होंने पिछले साल दिसंबर में आयोजित एक शिखर सम्मेलन में कहा था कि डीपफेक पूरी दुनिया के लिए एक चुनौती है. इसका इस्तेमाल जानबूझकर झूठ फैलाने के लिए किया जा सकता है. ये बात धीरे-धीरे सच साबित होती जा रही है.
रश्मिका की फिल्म 'एनिमल' की रिलीज से पहले, नवंबर में सोशल मीडिया पर एक उनका ये वीडियो वायरल हुआ था. लोगों को वीडियो देखकर यकीन नहीं हो रहा था कि ये रश्मिका ही हैं. और यही बात सच भी निकली, ये वायरल वीडियो एक डीपफेक वीडियो था.
मध्य प्रदेश के बागलकोट में पीएम मोदी ने चुनावी सभा में डीपफेक तकनीकी के गलत इस्तेमाल का जिक्र किया. मोदी ने इसे लेकर लोगों को आगाह किया. पीएम ने कहा कि लोग फर्जी वीडियो बना रहे हैं और एआई का इस्तेमाल करके मेरी आवाज में वीडियो बना रहे हैं. उन्होंने मंच से अपील भी की. देखें मोदी ने क्या कुछ कहा.
महिला का कहना है कि जब उसने एक शख्स से इंस्टाग्राम पर बात की तो लगा कि सपना सच हो गया है. उसे लगा कि जिस शख्स से वो बात कर रही है, वो एलन मस्क है.
नए कानून के तहत बिना सहमति के इस तरह की तस्वीरें और वीडियो बनाने वाले लोगों को आपराधिक मुकदमों और भारी जुर्माने का सामना करना पड़ेगा. कानून में प्रस्तावित प्रावधान के अनुसार अगर ‘डीपफेक’ कॉन्टेंड सोशल मीडिया प्लेटफार्म पर वायरल होता है तो दोषियों को जेल की सजा हो सकती है.
गुरुग्राम साइबर पुलिस के अधिकारियों ने कहा कि सोमवार को साइबर पुलिस स्टेशन (ईस्ट) में भारतीय दंड संहिता की धारा 419 (वेश बदलकर धोखाधड़ी) और 420 (धोखाधड़ी) के तहत एफआईआर दर्ज की गई.
गृह मंत्रालय ने साइबर विंग (I4C) को Meity की तर्ज पर बड़ी ताकत दी है. इसके लिए गजट नोटिफिकेशन जारी कर दिया गया है. आम चुनाव से पहले गृह मंत्रालय ने साइबर विंग I4C को विशेष शक्तियां दी हैं. गृह मंत्रालय ने सूचना प्रौद्योगिकी अधिनियम 2000 की धारा 79 की उपधारा (3) के खंड (बी) द्वारा प्रदत्त शक्ति का प्रयोग करते हुए एक अधिसूचना की घोषणा की है. इसके जरिए साइबर फ्रॉड रोकने में भी मदद मिल सकेगी.
Deepfake Image: AI यानी आर्टिफिशियल इंटेलिजेंस की तमाम बातें हम सुनते आए हैं. बड़ी संख्या में इसके गलत इस्तेमाल के मामले सामने आने लगे हैं. AI का इस्तेमाल Deepfake फोटोज और वीडियोज क्रिएट करने में किया जा रहा है. ऐसा ही एक मामला अमेरिका के न्यू जर्सी में देखने को मिला. जहां पर स्कूल के बच्चों के अपनी ही कुछ क्लासमेट की डीपफेक फोटोज बनाए थे.
बाराबंकी से बीजेपी सांसद उपेंद्र रावत का विवादित वीडियो सामने आने के बाद उन्होंने दावा किया है कि वीडियो में उनका चेहरा डीपफेक तकनीक से लगाया गया है. उपेंद्र रावत इसे लेकर एफआईआर करा चुके हैं. उन्होंने बीजेपी अध्यक्ष से जांच कराने की मांग की है और कहा है कि जब तक वे निर्दोष साबित नहीं होते, वे कोई चुनाव नहीं लड़ेंगे.