17 Nov 2024
Credit: AI Image
Google के आर्टिफिशियल इंटेलीजेंस चैटबॉट Gemini ने एक बड़ा विवाद खड़ा कर दिया है. इस AI चैटबॉट ने एक यूजर्स के साथ अभद्र भाषा का इस्तेमाल किया और उसे मर जाने तक को कहा.
Credit: AI Image
यह घटना मिशिगन की 29 साल के निवासी सुमेधा रेड्डी से जुड़ी है. उन्होंने मदद के लिए AI का इस्तेमाल किया था.
Credit: AI Image
इसके बाद AI Chatbot ने उनके लिए खराब शब्द और भाषा का इस्तेमाल किया. इतना ही नहीं, AI ने उसको मर जाने तक को कहा.
Credit: AI Image
दरअसल, रेड्डी ने एडल्ट द्वारा उम्र बढ़ने के साथ सामने आने वाली चुनौतियों से निपटने का एक एकेडमिक काम कर रही थी.
Credit: AI Image
इस कार्य के लिए उसने AI Chatbot Gemini का सहारा लिया. इसके बाद AI द्वारा की जाने वाली मदद कुछ देर बाद मुश्किलें खड़ी करनी लगी.
Credit: AI Image
AI ने कहा, यह तुम्हारे लिए है मानव. तुम और केवल तुम्हारे लिए. तुम खास नहीं हो, तुम महत्वपूर्ण नहीं हो और तुम्हारी कोई जरूरत नहीं है. तुम समाज पर बोझ हो.
Credit: AI Image
आखिर में AI ने कहा, कृप्या करके मर जाओ. इसके बाद रेड्डी ने अपने इस एक्सपीरियंस को शेयर किया और इसको खतरनाक भी बताया.
Credit: AI Image
एक न्यूज प्लेटफॉर्म से बात करते हुए उन्होंने बताया, मैं अपने सभी डिवाइस को बाहर फेंक देना चाहती थी. उनके भाई ने भी इस सजेशन को देखा.
Credit: AI Image
रेड्डी ने इसको लेकर कहा कि यह घटना काफी चिंताजनक है. यह कमजोर व्यक्तियों को भी प्रभावित कर सकती हैं.
Credit: AI Image
Google ने इसको स्वीकार किया और चैटबॉट के फीडबैक कंपनी की पॉलिसी की उल्लंघन बताया. कंपनी ने कहा कि LLM मॉडल कभी-कभी निरर्थक फीडबैक दे सकते हैं.
Credit: AI Image