सुसाइड करने जा रही थी लड़की, फेसबुक से आया फोन और बच गई जान, कैसे काम करता है ये फीचर
How Meta Suicide Prevention Tool Works: मध्य प्रदेश में एक लड़की सुसाइड करने जा रही थी, लेकिन मौके पर पुलिस ने पहुंचकर उसे बचा लिया. पुलिस को इस बारे में जानकारी Meta की टीम से मिली थी. इस घटना के बाद से कई लोग सवाल कर रहे हैं कि अमेरिका में बैठी Meta की टीम को इसकी जानकारी कैसे हुई. आइए जानते हैं इसकी डिटेल्स.
Advertisement
X
क्या फेसबुक (अब Meta) अपने यूजर्स पर नजर रखता है? ऐसे सवाल पहले भी कई बार उठ चुके हैं, लेकिन हाल में ये एक बार फिर चर्चा में आया है. इसकी वजह सुसाइड के प्रयास का एक वीडियो बना है. दरअसल, मध्य प्रदेश के सिंगरौली जिले में एक नाबालिग लड़की ने इंस्टाग्राम पर एक वीडियो पोस्ट किया था.
Advertisement
वीडियो में वो सुसाइड करने की तैयारी करती दिखी. इसके बाद मेटा की टीम ने भोपाल साइबर पुलिस को इस मामले की जानकारी दी. भोपाल पुलिस ने सिंगरौली पुलिस से संपर्क किया और मौके पर पहुंची पुलिस ने लड़की को बचा लिया. इसके बाद से कई लोगों ने सवाल किया कि आखिर फेसबुक या इंस्टाग्राम को किसी के सुसाइड के बारे में पता कैसे चलता है.
क्या वहां बैठे लोग मैन्युअली सभी के पोस्ट देख रहे होंते हैं या फिर इसके पीछे कोई टेक्नोलॉजी है? दरअसल, ये कोई पहला मौका नहीं है, जब पुलिस को फेसबुक या Meta की ओर से फोन आया हो और किसी की जान बच गई हो. इससे पहले भी कई ऐसे मामले देखने को मिल चुके हैं.
सम्बंधित ख़बरें
फेसबुक को कैसे पता चलता है?
लड़की ने जब सुसाइड का प्लान किया, तो पहले उसने एक वीडियो अपलोड किया था. इस वीडियो में उसे फंदा तैयार करते और सुसाइड की दूसरी तैयारी करते हुए देखा गया था. तो क्या फेसबुक या इंस्टाग्राम में बैठे लोगों ने उस लड़की का वीडियो देखा और फिर पुलिस को जानकारी दी? दरअसल, यहां दो संभावनाएं हैं.
Advertisement
सबसे पहले किसी ने लड़की की वीडियो देखी होगी और उसे रिपोर्ट किया होगा. जैसे ही किसी कंटेंट को सोशल मीडिया प्लेटफॉर्म पर रिपोर्ट किया जाता है. Meta की कम्युनिटी ऑपरेशन टीम ऐसी रिपोर्ट्स को रिव्यू करती है. इस तरह के मामलों में टीम लोकल अथॉरिटीज, हेल्पलाइन या NGO से संपर्क करती है और मामले की जानकारी देती है.
AI टूल करता है काम
दूसरा तरीका है AI टूल का. दरअसल, फेसबुक ने साल 2018 में जानकारी दी थी कि पहले वे यूजर्स के रिपोर्ट करने पर निर्भर थे, लेकिन अब ऐसा नहीं है. बहुत से ऐसे मामलें हैं, जिसमें लोगों के सुसाइड के लक्षण तो नजर आते हैं, लेकिन कभी उन्हें रिपोर्ट नहीं किया जाता है. ऐसे मामलों से निबटने के लिए फेसबुक मशीन लर्निंग का इस्तेमाल कर रहा है.
इसमें Meta का AI मॉडल यूजर्स के पोस्ट में किन्हीं कीवर्ड्स या फ्रेज को आइडेंटिफाई करता है. मसलन कोई यूजर अपने पोस्ट में kill, goodbye, sadness, depressed या die जैसे शब्दों का इस्तेमाल करता है, तो ये टूल उन पोस्ट्स को डिटेक्ट करके कम्युनिटी ऑपरेशन टीम को जानकारी देता है.
वीडियो के मामले में कैसे काम करता है प्लेटफॉर्म?
इसके बाद रिव्यू टीम इस पर फैसला करती है और अगला कदम उठाती है. मगर कई बार इन शब्दों को अलग-अलग मतलब के लिए भी इस्तेमाल किया जाता है. ऐसे में ये टूल इन्हें रिपोर्ट नहीं करता है. कई साल पहले Meta ने वीडियोज के लिए भी एक मैकेनिज्म तैयार कर लिया है.
Advertisement
इसमें AI टूल यूजर्स के रिपोर्ट या फिर वीडियो पर किए गए कमेंट की मदद लेता है. ऐसा नहीं है कि ये सुविधा सिर्फ इंग्लिश में ही उपलब्ध है. मशीन तमाम लोकल भाषाओं को भी समझती है. आपने देखा होगा कि फेसबुक पर कोई पोस्ट करो तो उसे ट्रांसलेट करने का भी ऑप्शन मिलता है.
पुलिस को आखिर में दी जाती है जानकारी
इसी तरह से AI टूल की मदद से प्लेटफॉर्म किसी संदिग्ध घटना का पता लगता है. जैसे ही किसी के सुसाइड की कोशिश या डिप्रेशन या दूसरी संदिग्ध स्थिति को टीम कन्फर्म करती है. मेटा की दूसरी टीम पुलिस या दूसरी अथॉरिटीज को जानकारी देती है.
इसके लिए फेसबुक ने अलग-अलग देशों में अलग-अलग ग्रुप से हाथ मिलाया है. फेसबुक यूजर्स की लोकेशन तक पुलिस को प्रोवाइड करती है, जिसकी मदद से यूजर की जान बचाई जा सके.
TOPICS: