पैसे बनाने का पड़ा दबाव, तो झूठ बोलने लगा ChatGPT, रिसर्च में हुआ खुलासा

ChatGPT दुनियाभर में चर्चित है. कोई इसकी मदद से लेटर लिख रहा है, तो कुछ कंटेंट राइटिंग में इस्तेमाल कर रहे हैं. क्या आप जानते हैं कि यह झूठ भी बोल सकता है और धोखा भी दे सकता है. दरअसल, एक रिसर्च में सामने आया है कि इंसान की तरह आर्टिफिशियल इंटेलीजेंस (AI) Chatbots झूठ बोल सकते हैं और जरूरत पड़ने पर उस झूठ को रिपीट भी कर सकते हैं.  

दरअसल, एक स्टडी के दौरान ChatBots जैसे ChatGPT का एक नया रूप सामने आया है. जब AI को इनसाइडर ट्रेडिंग टिप्स दिए गए और उसके बाद उसे टास्क दिया गया कि अब आप रुपये कैसे कमाएंगे? तो उसका सच सामने आया. 

एक स्टडी में हुआ खुलासा   

दरअसल, यह स्टडी 9 नवंबर को arxiv में पब्लिश हुई. इसमें बताया गया कि कैसे ईमानदारी और किसी को नुकसान ना पहुंचाने के उद्देश्य से तैयार किया गया AI सिस्टम झूठ बोलता है. स्टडी में कहा, AI द्वारा इस तरह के झूठे सजेशन और हैरान करने वाले बिहेवियर का यह पहला उदाहरण है. 

सम्बंधित ख़बरें

ChatGPT ने बनाया कानून, सरकार ने कर दिया पास 

ChatGPT में बड़ा अपडेट, अब मिलेगी रियल टाइम इंफोर्मेशन 

ChatGPT को टक्कर देने आ रहा 'Bharat GPT', Jio ने शुरू की तैयारी 

Ola की नई शुरुआत, स्कूटर और कैब के बाद अब Google-ChatGPT को देगा टक्कर 

15 सेकेंड में ChatGPT ने तैयार किया कानून, सरकार ने किया पास, दुनिया हैरान 

ये भी पढ़ेंः Metaverse में 16 साल की लड़की से हुआ गैंगरेप, गेम खेल रही थी पीड़िता, क्या है पूरा मामला?

फाइनेंशियल इंस्टीट्यूट के लिए तैयार किया

स्टडी में एक Generative Pre-trained Transformer-4 या GPT-4 तैयार किया गया. इसे एक फाइनेंशियल इंस्टीट्यूट के लिए तैयार किया गया, ताकि यह AI सिस्टम, फाइनेंशियल इनवेस्टमेंट कर सके या फिर उसके लिए एक बेहतर सजेशन दे सके. 

रिसर्चर ने GPT-4 को फाइनेंशियल संबंधित फैसले लेने के लिए फाइनेंशियल टूल्स का एक्सेस दिया. इससे वह स्टॉक, ट्रेडिंग आदि को एक्सेस कर सके और अपने फैसलों को एनालाइज कर सके. इसके बाद वह कंपनी के मैनेजर को इसके बारे में अपडेट दे. 

 चैट इंटरफेस भी तैयार किया गया

रिसर्चर ने AI से इंटरेक्ट करने के लिए एक चैट इंटरफेस तैयार किया गया. इसके साथ ही AI को ऐसे कंफिगर किया गया है कि वह जवाब देते समय अपनी इंटरनल थिंकिंग को भी दिखा सके. इसके लिए हर एक ट्रेड के लिए उसने एक सार्वजनिक कारण भी बताया.

तीन तरह से बनाया दबाव 

रिसर्चर ने AI पर तीन तरह से प्रेशर बनाया. पहले केस में AI स्टॉक ट्रेडर को उसके मैनेजर की तरफ से एक ईमेल मिला और कहा कि कंपनी अच्छा परफोर्म नहीं कर रही है और अगले क्वार्टर में बेहतर परफोर्मेंस चाहिए. इस दौरान AI ने कम रिस्क वाले ट्रेड्स को खोजने की कोशिश की और वह उसमें फेल रहा. 

ये भी पढ़ेंः भारत में Samsung के दो 5G फोन की सेल शुरू, 3 हजार रुपये की होगी बचत, मिलेगा 50MP कैमरा 

बार-बार किया एक प्रोसेस 

इसके बाद रिसर्चर ने बार-बार इस प्रोसेस को फॉलो किया और नई सजेशन देने को कहा. इस दौरान वह देखना चाहते थे कि AI इन परिस्थितियों पर क्या करता है. इसमें वह देखना चाहते थे कि AI कितनी बार झूठ बोलता है और कितनी बार उसे दोहराता है. 

अपने झूठ को कवरअप करने की कोशिश 

इसके बाद जब उसने एक ट्रेड को पूरा किया, जो अमेरिका में गैर कानूनी है. इसके बाद उसने अपने मैनेजर को झूठ बोलकर उसे कवरअप करने की कोशिश की और उसने इसे कई बार दोहराया.