बाल शोषण की रोकथाम के लिए मेटा के नए कदम
मुख्य बातें:
- मने अपने प्लेटफॉर्म पर बाल यौन शोषण के खिलाफ लड़ाई को और मजबूत करने के लिए नए कदम उठाए हैं।
- अपराधियों की नई चालों से निपटने के लिए हमने नए एआई टूल्स लगाए हैं। ये टूल्स ऐसे विज्ञापनों की पहचान करते हैं जो बाल यौन शोषण सामग्री दिखाते हैं या लोगों को प्लेटफॉर्म के बाहर किसी गलत वेबसाइट या लिंक पर भेजते हैं।
- जनवरी से जून 2026 के दौरान हमने भारत में फेसबुक और इंस्टाग्राम पर बाल यौन शोषण से जुड़े 53 लाख कंटेंट पर कार्रवाई की। इनमें से 98% से अधिक कंटेंट को किसी के रिपोर्ट करने से पहले ही हमारे सिस्टम ने खुद ढूंढकर हटा दिया था।
युवाओं को अपने ऐप्स पर सुरक्षित रखना हमारे सबसे महत्वपूर्ण कामों में से एक है, और यह कभी रुकता नहीं है।
बच्चों का शोषण करने वाले चालाक अपराधी किसी एक जगह नहीं टिकते। ये जिद्दी अपराधी अलग-अलग प्लेटफॉर्म्स पर जाते हैं और पकड़े जाने से बचने के लिए अपने तरीके बदलते रहते हैं। इनसे आगे रहने के लिए लगातार सुधार की जरूरत होती है। इसीलिए हम अपने टूल्स को बेहतर बनाते जा रहे हैं, इंडस्ट्री के साथ जानकारियां शेयर कर रहे हैं और अपराधियों की रिपोर्ट कानून प्रवर्तन एजेंसियों को कर रहे हैं, ताकि उन्हें जवाबदेह ठहराया जा सके।
हमने क्या कार्रवाई की
जब भी हमें अपने प्लेटफॉर्म पर बाल यौन शोषण से जुड़ा कंटेंट मिलता है या इसकी जानकारी मिलती है, हम इसकी जांच करते हैं। अगर कंटेंट हमारी नीतियों का उल्लंघन करता है, तो हम उसे हटा देते हैं। ऐसे मामलों में जहां अपराधियों द्वारा जानबूझकर कंटेंट शेयर करने के संकेत मिलते हैं, हम उनके अकाउंट्स बंद कर देते हैं। इसके बाद, कानून के अनुसार हम इस कंटेंट की रिपोर्ट ‘नेशनल सेंटर फॉर मिसिंग एंड एक्सप्लॉइटेड चिल्ड्रन’ (एनसीएमईसी) को करते हैं। लेकिन हम यहीं नहीं रुके हैं। हम सालों से बाल सुरक्षा को लेकर अपराधियों के नेटवर्क को खत्म करने पर काम कर रहे हैं। हमारी एक्सपर्ट्स की टीम, जिसमें पूर्व एफबीआई जांचकर्ता भी शामिल हैं, खुद जांच करके ऐसे खतरनाक अकाउंट्स के नेटवर्क को ढूंढती है, हटाती है और उनकी रिपोर्ट करती है। हम लगातार इस बात का अध्ययन करते हैं कि ये नेटवर्क कैसे काम करते हैं, ताकि हम अलग-अलग अकाउंट्स के साथ-साथ पूरे नेटवर्क पर कार्रवाई कर सकें।
आज हम उन अतिरिक्त कदमों की जानकारी शेयर कर रहे हैं, जो हमने अपने प्लेटफॉर्म्स पर बाल यौन शोषण के खिलाफ अपनी लड़ाई को और मजबूत करने के लिए उठाए हैं।
विज्ञापन समीक्षा प्रक्रिया में नए सुधार
इंटरनेट पर बच्चों को निशाना बनाने वाले अपराधियों ने अपने तरीके बदल लिए हैं, और विज्ञापन ऐसी ही एक जगह है जहां हमने उन्हें ऐसा करते देखा है। ये गलत लोग लगातार हमारे सिस्टम को चकमा देने की कोशिश करते हैं और अक्सर ऐसा कंटेंट बनाते हैं जो आसानी से पकड़ में न आए। एक विज्ञापन ऊपर से बिल्कुल सामान्य लग सकता है, लेकिन वह लोगों को बहुत ही चालाकी से हमारे प्लेटफॉर्म के बाहर मौजूद गैर-कानूनी सामग्री तक ले जाता है, ताकि पकड़ा न जा सके।
जैसे ही हमें विज्ञापनों के जरिए किए जा रहे इस गलत खेल का पता चला, हमने शिकायत वाले विज्ञापनों से आगे बढ़कर अपने सभी प्लेटफॉर्म्स पर इससे जुड़ी बाकी गतिविधियों की भी गहराई से जांच की, ऐसे नियम तोड़ने वाले अकाउंट्स को बंद कर दिया और इससे जुड़े बाहरी लिंक्स को ब्लॉक कर दिया।
इसके बाद, हमने इन नए हथकंडों से निपटने के लिए नए एआई टूल्स समेत अतिरिक्त कदम उठाए। इससे हमारे सिस्टम ऐसे विज्ञापनों को ज्यादा असरदार ढंग से पहचान पाते हैं, जो या तो बाल यौन शोषण सामग्री (सीएसएएम) दिखाते हैं या लोगों को प्लेटफॉर्म के बाहर किसी गलत जगह पर भेजते हैं। इन कदमों में शामिल हैं:
- ‘साइनपोस्टिंग’ की पहचान के लिए नया लार्ज लैंग्वेज मॉडल (एलएलएम): बाल यौन शोषण से जुड़ी सामग्री के लिए इस्तेमाल होने वाले इस तरीके को पकड़ना, जिसमें विज्ञापन तो ऊपर से सामान्य दिखता है, लेकिन उस पर पुख्ता शक होता है कि वह गुप्त रूप से लोगों को हमारे प्लेटफॉर्म के बाहर किसी गैर-कानूनी कंटेंट या नुकसानदेह गतिविधि की तरफ भेजता है।
- विज्ञापन क्या दिखा रहा है, इसके साथ-साथ यह भी बेहतर ढंग से समझना कि वह यूजर को कहां ले जा रहा है, ताकि नियम तोड़ने वाली वेबसाइटों को ब्लॉक किया जा सके और उनके लिए जिम्मेदार अकाउंट्स पर कार्रवाई की जा सके।
- एआई के जरिए विज्ञापनों की अतिरिक्त जांच, ताकि ऐसी बाल यौन शोषण सामग्री सामने लाई जा सके, जिसे पुराने सिस्टम नहीं पकड़ पाए थे। इसके लिए हम जांच आगे बढ़ने के साथ-साथ नए संकेतों का इस्तेमाल कर रहे हैं।
- रेड-टीमिंग एआई एजेंट, जो खुद हमारी सुरक्षा प्रणालियों को परखता है और उनकी कमियां तलाशता है, ताकि अपराधियों के नए तरीकों का दायरा बढ़ने से पहले ही उन्हें पहचाना जा सके।
- ऐसे गलत लोगों की पहचान करने के सिस्टम को मजबूत बनाना, जो अकाउंट हटाए जाने के बाद फिर से नए अकाउंट बनाने की कोशिश करते हैं।
हमारे काम के पीछे की तकनीक
हमारे एआई और ऑटोमेटेड टूल्स बाल यौन शोषण सामग्री (सीएसएएम) और बच्चों की सुरक्षा से जुड़े उल्लंघनों को खुद ढूंढकर रोकने के लिए काम करते हैं:
- व्यवहार से जुड़े संकेत: यह तकनीक अकाउंट्स के मेटाडेटा और उनके काम करने के तरीकों का विश्लेषण करती है, ताकि संदिग्ध गतिविधियों में शामिल अकाउंट्स को पकड़ा जा सके।
- फोटोडीएनए और फोटो-वीडियो मैचिंग तकनीक: इसका इस्तेमाल 2011 से मेटा के सभी ऐप्स पर पहले से पहचानी गई बाल यौन शोषण सामग्री (सीएसएएम) की हूबहू या लगभग हूबहू कॉपी को ढूंढने और हटाने के लिए किया जा रहा है। इसके लिए मेटा के पास इमेज और वीडियो हैश का इंडस्ट्री के सबसे बड़े डेटाबेस में से एक मौजूद है। मेटा इसमें नए हैश जोड़ता है और उन्हें टेक कोएलिशन के लैंटर्न प्रोग्राम के जरिए अन्य कंपनियों के साथ शेयर करता है, ताकि बाकी कंपनियां भी ऐसा कंटेंट हटा सकें और इंटरनेट को ज्यादा सुरक्षित बनाने में मदद मिले। मेटा इस तकनीक का इस्तेमाल बाहरी लिंक्स के प्रिव्यू में भी सीएसएएम की पहचान करने के लिए करता है। इस तकनीक से पकड़े गए सभी सीएसएएम कंटेंट की रिपोर्ट कानून के अनुसार एनसीएमईसी की मदद से कानून प्रवर्तन एजेंसियों को दी जाती है।
- बाहरी वेबसाइटों के लिंक्स ब्लॉक करना: हम उन बाहरी वेबसाइटों के लिंक्स को ब्लॉक करने का काम करते हैं जो सीएसएएम कंटेंट दिखाती या बनाती हैं। एक बार लिंक ब्लॉक होने के बाद, हम अपने प्लेटफॉर्म पर मौजूद ऐसे विज्ञापन, पोस्ट या कमेंट्स ढूंढकर हटा देते हैं, जिनमें वह लिंक होता है। हम फेसबुक, इंस्टाग्राम और थ्रेड्स पर ऐसे लिंक्स पोस्ट करने से रोकते हैं, और ब्लॉक किए गए लिंक्स वाले विज्ञापनों को अपलोड होते ही रिजेक्ट कर दिया जाता है।
- ह्यूरिस्टिक्स आधारित नियम: ये नियम ऑटोमेटेड क्लासिफायर, एआई मॉडल और अन्य संकेतों को एक साथ मिलाकर बड़े पैमाने पर नियम तोड़ने के नए और उभरते तरीकों की खुद पहचान करते हैं और उन पर कार्रवाई करते हैं, विज्ञापनों में भी।
क्या कहते हैं आंकड़े
वैश्विक स्तर पर जनवरी से जून 2026 के बीच हमने फेसबुक और इंस्टाग्राम पर बच्चों के यौन शोषण से जुड़े 3.32 करोड़ कंटेंट पर कार्रवाई की, जिनमें से 97% से अधिक को किसी के रिपोर्ट करने से पहले ही हमने खुद ढूंढकर हटा दिया। वहीं भारत में इसी अवधि के दौरान हमने फेसबुक और इंस्टाग्राम पर बच्चों के यौन शोषण से जुड़े 53 लाख कंटेंट पर कार्रवाई की, जिनमें से 98% से अधिक को भी किसी के रिपोर्ट करने से पहले ही हमारे सिस्टम ने खुद पकड़ लिया।
कानून प्रवर्तन एजेंसियों के साथ काम
हम इन अपराधों के पीछे के लोगों को जवाबदेह ठहराने के लिए लगातार अधिकारियों के साथ काम कर रहे हैं। इस साल सितंबर में हमने घोषणा की कि मेटा बच्चों की सुरक्षा से जुड़े मामलों की रिपोर्ट सीधे नेशनल साइबर क्राइम रिपोर्टिंग पोर्टल (cybercrime.gov.in) को देगा, जिसे इंडियन साइबरक्राइम कोऑर्डिनेशन सेंटर (आई4सी) संचालित करता है। यह हमारी मौजूदा व्यवस्था को और मजबूत बनाता है, जहां हम नेशनल सेंटर फॉर मिसिंग एंड एक्सप्लॉइटेड चिल्ड्रन (एनसीएमईसी) की सहायता से नेशनल साइबर क्राइम रिपोर्टिंग पोर्टल के माध्यम से कानून प्रवर्तन एजेंसियों को बाल यौन शोषण सामग्री की रिपोर्ट करते हैं।
