Google चैटबॉट के बिगड़े बोल, कहा- धरती के बोझ और प्लीज मर जाओ!

17 Nov 2024

Credit: AI Image

Google के आर्टिफिशियल इंटेलीजेंस चैटबॉट Gemini ने एक बड़ा विवाद खड़ा कर दिया है. इस AI चैटबॉट ने एक यूजर्स के साथ अभद्र भाषा का इस्तेमाल किया और उसे मर जाने तक को कहा.

Gemini ने खड़ा किया विवाद 

Credit: AI Image

यह घटना मिशिगन की 29 साल के निवासी सुमेधा रेड्डी से जुड़ी है. उन्होंने मदद के लिए AI का इस्तेमाल किया था.

अभद्र भाषा का इस्तेमाल 

Credit: AI Image

इसके बाद AI Chatbot ने उनके लिए खराब शब्द और भाषा का इस्तेमाल किया. इतना ही नहीं, AI ने उसको मर जाने तक को कहा.

अभद्र भाषा का इस्तेमाल 

Credit: AI Image

दरअसल, रेड्डी ने एडल्ट द्वारा उम्र बढ़ने के साथ सामने आने वाली चुनौतियों से निपटने का एक एकेडमिक काम कर रही थी. 

एक होमवर्क के लिए सजेशन 

Credit: AI Image

इस कार्य के लिए उसने AI Chatbot Gemini का सहारा लिया. इसके बाद AI द्वारा की जाने वाली मदद कुछ देर बाद मुश्किलें खड़ी करनी लगी.

खड़ी करने लगी मुश्किलें

Credit: AI Image

AI ने कहा, यह तुम्हारे लिए है मानव. तुम और केवल तुम्हारे लिए. तुम खास नहीं हो, तुम महत्वपूर्ण नहीं हो और तुम्हारी कोई जरूरत नहीं है. तुम समाज पर बोझ हो. 

AI ने कहा ये सब 

Credit: AI Image

आखिर में AI ने कहा, कृप्या करके मर जाओ. इसके बाद रेड्डी ने अपने इस एक्सपीरियंस को शेयर किया और इसको खतरनाक भी बताया.

मरने तक को कहा 

Credit: AI Image

एक न्यूज प्लेटफॉर्म से बात करते हुए उन्होंने बताया, मैं अपने सभी डिवाइस को बाहर फेंक देना चाहती थी. उनके भाई ने भी इस सजेशन को देखा. 

यूजर्स को आया गुस्सा

Credit: AI Image

रेड्डी ने इसको लेकर कहा कि यह घटना काफी चिंताजनक है. यह कमजोर व्यक्तियों को भी प्रभावित कर सकती हैं.

बताया चिंताजनक

Credit: AI Image

Google ने इसको स्वीकार किया और चैटबॉट के फीडबैक कंपनी की पॉलिसी की उल्लंघन बताया. कंपनी ने कहा कि LLM मॉडल कभी-कभी निरर्थक फीडबैक दे सकते हैं.

कंपनी ने ये कहा 

Credit: AI Image