मेटाच्या यंत्रणेला सापडले ५३ लाख धक्कादायक कंटेंट; ९८ टक्के प्रकरणे तक्रारीआधीच उघड, नेमकं काय घडलं?
ऑनलाइन बाल लैंगिक शोषणाला आळा घालण्यासाठी मेटाने आपल्या प्लॅटफॉर्मवरील सुरक्षा यंत्रणा अधिक मजबूत केली आहे. जानेवारी ते जून २०२६ दरम्यान भारतात फेसबुक आणि इन्स्टाग्रामवरील बाल लैंगिक शोषणाशी संबंधित ५३ लाख डिजिटल कंटेंट घटकांवर कारवाई करण्यात आली. यातील ९८ टक्क्यांहून अधिक कंटेंट कोणतीही तक्रार येण्यापूर्वीच शोधून काढण्यात आला.
ऑनलाइन बाल लैंगिक शोषण करणारे घटक तपास यंत्रणेला चकवा देण्यासाठी सातत्याने नवीन पद्धती वापरत असल्याने मेटाने आपल्या सिस्टीममध्ये अतिरिक्त एआय टूल्सचा समावेश केला आहे. वरवर निरुपद्रवी दिसणाऱ्या जाहिरातींच्या माध्यमातून वापरकर्त्यांना प्लॅटफॉर्मबाहेरील बेकायदेशीर कंटेंटकडे नेले जात असल्याचे प्रकार शोधण्यासाठी ही यंत्रणा वापरली जात आहे. मेटाच्या माहितीनुसार, अशा जाहिराती शोधून संबंधित अकाउंट्सवर कारवाई करण्यासोबतच त्यामधील बाह्य लिंक्सही ब्लॉक केल्या जात आहेत.
बाल लैंगिक शोषणाशी संबंधित संकेत असलेल्या जाहिराती शोधण्यासाठी नवीन लार्ज लँग्वेज मॉडेलवर आधारित डिटेक्शन सिस्टीम विकसित करण्यात आली आहे. जाहिरात नेमके काय दाखवते याबरोबरच ती वापरकर्त्याला कुठे घेऊन जाते, याचीही तपासणी केली जाते. तपासातून मिळालेल्या माहितीच्या आधारे पूर्वीच्या यंत्रणांच्या नजरेतून सुटलेला कंटेंट शोधण्यासाठी अतिरिक्त एआय तपासणी केली जात आहे. तसेच सुरक्षा यंत्रणांमधील त्रुटी शोधण्यासाठी ‘रेड-टीमिंग एआय एजंट’चा वापर केला जात आहे. अकाउंट हटवल्यानंतर पुन्हा नवीन अकाउंट तयार करून प्लॅटफॉर्मवर परतणाऱ्या वारंवार नियम मोडणाऱ्या घटकांना शोधण्यासाठीही यंत्रणा अधिक सक्षम करण्यात आली आहे.
मेटाच्या विविध एआय आणि ऑटोमेटेड टूल्सच्या माध्यमातून संशयास्पद अकाउंट्सचा शोध घेतला जातो. यामध्ये अकाउंटचे मेटाडेटा आणि वर्तनाशी संबंधित संकेतांचे विश्लेषण करणाऱ्या ‘बिहेव्हियरल सिग्नल्स’चा समावेश आहे. याशिवाय फोटो डीएनए आणि फोटो-व्हिडिओ मॅचिंग तंत्रज्ञानाद्वारे पूर्वी ओळखण्यात आलेल्या बाल लैंगिक शोषणाशी संबंधित कंटेंटच्या प्रती शोधून काढल्या जातात. २०११ पासून मेटाच्या विविध अॅप्सवर या तंत्रज्ञानाचा वापर केला जात असल्याचे कंपनीने सांगितले.
बाल लैंगिक शोषणाशी संबंधित कंटेंट होस्ट किंवा तयार करणाऱ्या बाह्य वेबसाइट्सच्या लिंक्स ब्लॉक करण्याची प्रक्रिया मेटाकडून राबवली जाते. एखादी लिंक ब्लॉक झाल्यानंतर तीच लिंक असलेले पोस्ट, जाहिरात किंवा कमेंटही शोधून हटवली जाते. फेसबुक, इन्स्टाग्राम आणि थ्रेड्सवर अशा ब्लॉक केलेल्या लिंक्स असलेला कंटेंट पोस्ट करता येऊ नये, यासाठीही उपाययोजना करण्यात आल्या आहेत. अशा लिंक्स असलेल्या जाहिराती अपलोड करतानाच नाकारल्या जातात.
जानेवारी ते जून २०२६ या सहा महिन्यांच्या कालावधीत जगभरात फेसबुक आणि इन्स्टाग्रामवरील बाल लैंगिक शोषणाशी संबंधित ३३.२ दशलक्ष म्हणजेच ३.३२ कोटी डिजिटल कंटेंट घटकांवर कारवाई करण्यात आली. यापैकी ९७ टक्क्यांहून अधिक कंटेंट कोणतीही तक्रार येण्यापूर्वीच शोधून काढण्यात आला. याच कालावधीत भारतात फेसबुक आणि इन्स्टाग्रामवर ५.३ दशलक्ष म्हणजेच ५३ लाख डिजिटल कंटेंट घटकांवर कारवाई करण्यात आली. यापैकी ९८ टक्क्यांहून अधिक कंटेंट तक्रार येण्यापूर्वीच शोधून त्यावर कारवाई करण्यात आली.
जगभरात : ३.३२ कोटी डिजिटल कंटेंटवर कारवाई
भारतामध्ये : ५३ लाख डिजिटल कंटेंटवर कारवाई
तक्रारीपूर्वी शोध :
‘तक्रारीपूर्वी शोध’ म्हणजे काय?
वापरकर्त्याने तक्रार नोंदवण्यापूर्वी मेटाच्या स्वयंचलित सुरक्षा यंत्रणांनी संबंधित सामग्री ओळखणे.
बाल लैंगिक शोषणाच्या प्रकरणांमध्ये संबंधित व्यक्तींवर कायदेशीर कारवाई व्हावी यासाठी मेटा कायदा अंमलबजावणी संस्थांसोबत काम करत असल्याचे सांगण्यात आले आहे. मेटाने सप्टेंबरमध्ये बाल सुरक्षेशी संबंधित प्रकरणांची माहिती इंडियन सायबरक्राईम कोऑर्डिनेशन सेंटरच्या (I4C) माध्यमातून नॅशनल सायबर क्राईम रिपोर्टिंग पोर्टलवर देण्याची माहिती दिली होती. यामुळे बाल लैंगिक शोषणाशी संबंधित कंटेंटची माहिती संबंधित यंत्रणांपर्यंत पोहोचवण्याची प्रक्रिया अधिक मजबूत होणार असल्याचे कंपनीने स्पष्ट केले आहे.
.png "Videos"){kind=small}
