AI ने नाम और फोटो का किया गलत इस्तेमाल, 18 साल पहले हो चुकी थी लड़की की हत्या, फैमिली ने जताई आपत्ति

आर्टिफिशियल इंटेलिजेंस का क्षेत्र जितनी तेजी से उभर रहा है, उतने ही भयंकर नैतिक और प्राइवेसी से जुड़े सवाल भी उठने लगे हैं. एक हालिया घटना ने एआई के दुरुपयोग की डार्क साइज को उजागर कर किया है, जहां Character.ai की मदद से 18 साल पहले जिस लड़की की हत्या कर दी थी, उसका एआई चैटबॉट बना दिया.

वहीं, जब डू क्रीसेंटे ने एक सुबह गूगल अलर्ट देखा तो उनकी आंखे खुली की खुली रह गईं, क्योंकि उनकी बेटी जेनिफर एन, जिसकी 18 साल पहले उनके एक्स ब्वॉयफ्रेंड ने हत्या कर दी थी. वह एआई चैटबॉट के रूप में इंटरनेट पर मौजूद थी. यह मामला जाने-माने प्लेटफॉर्म Character.ai का है जो AI कैरेक्टर बनाने के लिए जाना जाता है.

बिजनेस इंसाइडर की रिपोर्ट के अनुसार, ड्रयू क्रीसेंट को यह जानकर झटका लगा कि 18 साल पहले हत्या कर दी गई उनकी बेटी जेनिफर ऐन के नाम और तस्वीर के इस्तेमाल करके एक आर्टिफिशियल इंटेलिजेंस (AI) चैटबॉट बनाया गया था.

ये मामला बुधवार सुबह सामने आया जब एक गूगल अलर्ट ने उन्हें जानकारी दी कि उनकी बेटी का नाम ऑनलाइन आया है. बता दें जेनिफर की उनके एक्स ब्वॉयफ्रेंड ने हत्या कर दी थी, उस वक्त वह हाई स्कूल सीनियर में पढ़ती थी. 

वहीं, एक  स्पेशल बॉट ने जेनिफर ऐन के नाम और उनकी ईयरबुक फोटो का इस्तेमाल किया, जिसमें वह एक जानकार एआई के रूप में नजर आ रही है जो विभिन्न सब्जेक्टों पर सवालों का जवाब देती हैं. इसके माध्यम से वह एक 'पत्रकारिता विशेषज्ञ' के रूप में पेश की गई थी जो उनके चाचा ब्रायन क्रीसेंटे, एक जाने-माने वीडियो गेम जर्नलिस्ट हैं.

परिवार ने जताई आपत्ति

इस घटना को लेकर ड्रयू के भाई ब्रायन ने सोशल मीडिया पर अपना गुस्सा जाहिर किया है. उन्होंने एक्स पर अपनी पोस्ट में परिवार की बिना सहमति के अपनी भतीजी की तस्वीरों का इस्तेमाल करने के लिए प्लेटफॉर्म की आलोचना की है. उन्होंने स्थिति को निराशाजनक बताया और अपने फॉलो से इस तरह के प्रैक्टिस को रोकने में मदद करने की मांग की है. उन्होंने तत्काल ही Character.ai से चैटबॉट को हटाने की मांग की है और कहा कि परिवार की बिना परमिशन के जेनिफर के नाम और तस्वीरों का कोई अन्य चैटबॉट न बनाया जाए.

कंपनी ने दी प्रतिक्रिया

वहीं, Character.ai ने  उनकी पोस्ट पर प्रतिक्रिया देते हुए कहा कि जेनिफर ऐन चैटबॉट को हटा दिया गया है, क्योंकि यह उनकी पॉलिसी का उल्लंघन है. जो वास्तविक लोगों के गलत पहचान बनाने पर रोक लगाता है. इस प्रतिक्रिया के बावजूद, ड्रू इस घटना से बहुत परेशान है और उसने अनुरोध किया है कि कंपनी इस बारे में सभी डेटा को बरकरार रखे कि सबसे पहले चैटबॉट किसने बनाया था. ये घटना एआई क्रिएशन रियल लोगों की पहचान का गलत इस्तेमाल करने के बारे में नैतिक चिंताओं को उजागर करती है.