AI का खौफनाक अवतार! महिलाओं की फोटो से कपड़े हटा रहे ऐप्स, खूब हो रहा प्रचार

आर्टिफिशियल इंटेलिजेंस का इस्तेमाल कई गलत कामों में शुरू हो चुका है. Graphika नाम की सोशल नेटवर्क एनालिसिस कंपनी ने इस बारे में एक रिपोर्ट पेश की है. रिपोर्ट की मानें, तो आर्टिफिशियल इंटेलिजेंस के जरिए महिलाओं की नग्न तस्वीरें क्रिएट करने वाले ऐप्स और वेबसाइट्स की पॉपुलैरिटी तेजी से बढ़ रही है. 

Graphika के मुताबिक, सितंबर महीने में 2.4 करोड़ यूजर्स ने इस तरह की वेबसाइट्स को विजिट किया है. इनमें से ज्यादातर 'न्यूडिफाई' सर्विसेस की मार्केटिंग के लिए पॉपुलर सोशल नेटवर्क्स का इस्तेमाल किया जा रहा है. इस साल की शुरुआत से अब तक सोशल मीडिया प्लेटफॉर्म्स पर इस तरह के लिंक्स के ऐड्स में 2400 परसेंट का इजाफा हुआ है. 

सोशल मीडिया पर किया जा रहा प्रमोट

इनका प्रचार सोशल मीडिया प्लेटफॉर्म Reddit और X पर भी किया जा रहा है. ये सर्विसेस AI का इस्तेमाल तस्वीर को रिक्रिएट करने के लिए करती हैं, जिसमें किसी शख्स के कपड़ों को रिमूव किया जा सकता है. इनमें से बहुत सी सर्विसेस सिर्फ महिलाओं की फोटो पर काम करती हैं. 

सम्बंधित ख़बरें

क्या है Deepfake टेक्नोलॉजी, कैसे बनते हैं ऐसे वीडियो, जानें  

रश्मिका का Deepfake वायरल, क्या है ये टेक्नोलॉजी? 

Deepfake वीडियो से कैसे फल-फूल रहा पोर्न बाजार? 

Deepfake को लेकर क्या है FBI और NSA की सलाह?  

AI का इस्तेमाल, Deepfake वीडियो और... रिटायर्ड बुजुर्ग के साथ ठगी 

ये भी पढ़ें- Deepfake से फल-फूल रहा पोर्न बाजार, सिर्फ 40 रुपये में बन जाता है फेक वीडियो

इन ऐप्स की वजह से किसी का अश्लील वीडियो बनाकर उसे प्लेटफॉर्म्स पर डिस्ट्रिब्यूट किया जा सकता है. ऐप्स AI की मदद से किसी का आपत्तिजनक वीडियो बनाने की क्षमता रखते हैं.

आसान भाषा में कहें, तो इनका इस्तेमाल डीपफेक पॉर्नोग्राफी में किया जाता है. इस तरह के वीडियो क्रिएट करने के लिए फोटोज को सोशल मीडिया प्लेटफॉर्म से भी उठाया जा सकता है और उन्हें गलत इरादे से डिस्ट्रिब्यूट किया जा सकता है. 

पॉर्नोग्राफी में होता है इस्तेमाल

इस तरह की एक तस्वीर को X पर पोस्ट करके उसका प्रचार किया जा रहा है. पोस्ट में बताया गया है कि ऐसी फोटोज एक अनड्रेसिंग ऐप का इस्तेमाल करके क्रिएट की जा सकती हैं. एक ऐप ने Google के YouTube पर स्पॉन्सर कंटेंट के लिए भुगतान किया है और 'nudify' शब्द से सर्च करने पर यह पहले दिखाई देता है.

ये भी पढ़ें- वर्चुअल जेल, डिजिटल अरेस्ट और नकली अफसर, किस तरह लोगों को लूट रहे साइबर ठग!

इस मामले में गूगल के एक स्पोकपर्सन ने कहा है कि कंपनी ऐसे ऐड्स को अलाउ नहीं करती है, जिसमें स्पष्ट सेक्सुअल कंटेंट शामिल होता है. उन्होंने बताया कि जिस ऐड को लेकर सवाल किया गया है, हमने उसे रिव्यू किया है और जो भी ऐड्स हमारी पॉलिसी का उल्लंघन करते हैं, उन्हें रिमूव किया जा रहा है. हालांकि, इस मामले में X और Reddit ने कोई जवाब नहीं दिया है. 

नॉन कंसेंसुअल (बिना सहमती के) पॉर्नोग्राफी लंबे समय से इंटरनेट पर मौजूद है. खासकर पब्लिक फिगर यानी चर्चित लोगों के मामले ऐसा बहुत ज्यादा देखने को मिलता है. प्राइवेसी एक्सपर्ट्स AI टेक्नोलॉजी के इस्तेमाल को लेकर सवाल उठा रहे हैं. इनके इस्तेमाल से डीपफेक वीडियो को आसानी से क्रिएट किया जा सकता है.