-दिव्या आर्य
चेतावनी- इस रिपोर्ट के कुछ विवरण पाठकों को विचलित कर सकते हैं।
बीबीसी-आई की एक पड़ताल ने पाया है कि इंस्टाग्राम भारत में पैसे लेकर ऐसे विज्ञापन चला रहा है जिसके जरिए बच्चे-बच्चियों के यौन शोषण की सामग्री का प्रसार हो रहा है।
बीबीसी वल्र्ड सर्विस द्वारा देखे गए इन विज्ञापनों में, ‘रेप वीडियो’ और ‘चाइल्ड वीडियो’ जैसे शब्दों का इस्तेमाल किया गया है। यूजर को मैसेजिंग ऐप टेलीग्राम के चैनल के लिंक दिए गए हैं। यहाँ वे इन सामग्रि?यों को सिर्फ 99 रुपए में खरीद सकते हैं।
इंस्टाग्राम पर विज्ञापन तभी छपते हैं जब उसकी मॉडरेशन टेकनॉलॉजी इन्हें अप्रूव करती है।
बीबीसी ने जब ऐसे एक विज्ञापन को इंस्टाग्राम को रिपोर्ट किया, तब 24 घंटे बाद सोशल मीडिया कंपनी का जवाब आया कि ये पोस्ट उनकी ‘कम्यूनिटी गाइडलाइन्स’ का उल्लंघन नहीं करतीं।
बाद में जब बीबीसी ने इंस्टाग्राम की पैरेंट कंपनी मेटा से जवाब माँगा, उन्होंने कहा कि वे पहले ही कई विज्ञापन डिसेबल कर चुके हैं और उन्हें पोस्ट करनेवाले अकाउंट्स को सस्पेंड कर चुके हैं। कंपनी ने कहा कि बीबीसी की पड़ताल के बाद उन्होंने और विज्ञापन हटाए हैं, अकाउंट डिसेबल किए हैं और उनकी पॉलिसी का उल्लंघन करनेवाली अन्य सामग्री के यूआरएल ब्लॉक कर दिए हैं। वहीं, टेलीग्राम ने कहा कि उन्होंने साल 2026 में बाल यौन शोषण और हिंसक सामग्री से जुड़े दो लाख 74 हज़ार ग्रुप और चैनल हटाए हैं।
पड़ताल कैसे शुरू हुई
बीबीसी ने पाया कि यूजऱ ने सर्च नहीं किया फिर भी इंस्टाग्राम उसे सेक्सुअली सजेस्टिव कंटेंट दिखा रहा है। इसकी पड़ताल के लिए इंस्टाग्राम पर ही दूसरे नाम से एक और अकाउंट बनाया गया।
सेक्सुअली सजेस्टिव कंटेंट में ऐसी पोस्ट शामिल थीं जिनमें बदन दिखाने वाले कपड़े पहने, दोहरे और सेक्सुअल मतलब वाले शब्दों का इस्तेमाल करतीं महिलाएँ रोजमर्रा के जीवन, खाना, मौसम इत्यादि पर वीडियो थे।
यौन-संबंधी कंटेंट की पड़ताल के लिए दूसरे नाम से भारत में बनाया गया इंस्टाग्राम अकाउंट इन महिलाओं समेत कुल 10 लोगों को फॉलो करने लगा।
एक हफ़्ते से कम वक़्त में ही इंस्टाग्राम इसके फीड में ऐसे विज्ञापन दिखाने लगा जिनमें महिलाओं को वीडियो कॉल ऑफऱ करते हुए और नंगे बदन पुरुष और महिलाओं को यौन संबंध बनाते हुए दिखाया गया था।
कुछ ही दिन में फीड में ऐसे विज्ञापन आने लगे जिनमें बच्चे-बच्चियों को बड़ों के साथ यौन संबंध बनाने वाले हालात में दिखाया जा रहा था। इनके साथ टेलीग्राम चैनल के लिंक भी थे।
सुप्रीम कोर्ट से रिटायर हुए जस्टिस मदन लोकूर ने कहा कि वे चिंतित हैं कि इंस्टाग्राम ‘आपराधिक गतिविधि में शामिल हो कर पैसे बना रहा है।’ बाल यौन शोषण और हिंसा का प्रसार करनेवाले कुल 30 विज्ञापन फीड में आए। हालाँकि इनमें से कई अलग-अलग अकाउंट द्वारा बार-बार शेयर किए गए थे।
दूसरे नाम से बनाए गए अकाउंट को अडल्ट पॉर्नोग्राफी वाले 20 ऐड भी दिखाए गए।
भारत में बाल यौन शोषण और हिंसक सामग्री और अडल्ट पॉर्नोग्राफी का प्रचार आपराधिक जुर्म है। मेटा की पॉलिसी कहती है कि विज्ञापन में वयस्कों के गुप्तांग या नग्नता नहीं दिखाई जा सकती और न ही ऐसा कोई कंटेंट जो बच्चे-बच्चियों का यौन शोषण करे या उन्हें इसके खतरे में डाले।
एक विज्ञापन में एक लडक़े और लडक़ी को दिखाया गया था। इनकी उम्र करीब 12 साल की लग रही थी और वे यौन संबंध बना रहे थे।
एक अन्य विज्ञापन में एक पुरुष को एक बच्ची के कंधे पर बाँह डाले दिखाया गया। इसके साथ में लिखा था कि वे 52 साल के हैं और लडक़ी 12 साल की।
विज्ञापन पर लिखा था, ‘और देखने के लिए क्लिक करें’ और टेलीग्राम चैनल का लिंक था।
बीबीसी ने एक विज्ञापन के बारे में इंस्टाग्राम से रिपोर्ट किया। इसमें एक बहुत कम उम्र की बच्ची को रोते हुए दिखाया गया था। और इसके साथ लिखे शब्दों से जताया गया था कि उसके साथ यौन हिंसा की गई है।
लेकिन 24 घंटे बाद ही इंस्टाग्राम का जवाब आया कि उन्होंने विज्ञापन नहीं हटाया है क्योंकि ‘हमारी रिव्यू टीम ने पाया कि ऐडवरटाइजऱ का ऐड हमारे कम्यूनिटी स्टैंडर्ड का उल्लंघन नहीं करता।’
मेटा ने बाद में बीबीसी को बताया कि ‘कोई सिस्टम परफेक्ट नहीं होता और हमारे रिव्यू प्रोसेस सभी ‘पॉलिसी वॉयलेशन’ नहीं पकड़ पाते।’
मेटा ने कहा, ‘हम विज्ञापनों के लाइव होने के बाद उन पर लगातार ‘प्रोऐक्टिव डिटेक्शन टेकनॉलॉजी’ चलाते हैं और किसी को भी अगर लगे कि कोई विज्ञापन हमारे नियम तोड़ रहा है तो वे उसे रिपोर्ट कर सकते हैं।’
साथ ही उन्होंने कहा कि जब उन्हें पता चलता है कि बच्चों का शोषण किया जा रहा है तब वे कानून के मुताबिक इसकी सूचना नेश्नल सेंटर फॉर मिसिंग एंड एक्सप्लॉएटिड चिल्ड्रन (एनसीएमईसी) को देते हैं। एनसीएमईसी इंटरनेट पर बच्चे-बच्चियों के यौन शोषण और हिंसा के बारे में रिपोर्ट करने का वैश्विक सिस्टम है।
हमने बाल यौन शोषण और हिंसक सामग्री बेच रहे दो चैनल टेलीग्राम को रिपोर्ट किए।
इनमें से एक को हटाया गया और उसकी जगह एक संदेश आया। इसमें लिखा था, ‘टेलीग्राम की टर्म्स ऑफ़ सर्विस का उल्लंघन करने की वजह से ये ग्रुप अब दिखाया नहीं जा रहा।’ लेकिन दूसरे चैनल में बिक्री के लिए नए वीडियो पोस्ट होते रहे।
आलोचकों ने पहले भी इस प्लेटफॉर्म पर आपराधिक सामग्री के प्रसार के खिलाफ उपयुक्त कदम न उठाने का आरोप लगाया है।
दुबई स्थित ये कंपनी न एनसीएमईसी की सदस्य है और न ही इंटरनेट वॉच फाउंडेशन (आईडबल्यूएफ़) की। आईडब्ल्यूएफ भी ज्यादातर ऑनलाइन प्लेटफॉर्म के साथ ऐसे कंटेंट को ढूँढने, रिपोर्ट करने और हटाने का काम करती है।
टेलीग्राम ने बीबीसी को बताया कि कंपनी बाल यौन शोषण और हिंसक सामग्री को ऐप से हटाने के लिए मॉडरेशन में तकनीक और इंसानों – दोनों का इस्तेमाल करती है। उन्होंने कहा इसका नतीजा ये हुआ है कि, ‘टेलीग्राम ने अपने प्लेटफ़ॉर्म से सीसैम (सीएसएएम) के आम लोगों में फैलने पर लगभग पूरी रोक लगा दी है।’
मेटा कैसे विज्ञापनों से कमाई पर निर्भर है
जनवरी में मेटा ने रिपोर्ट किया कि वित्तीय वर्ष 2025 में उनके 200 अरब अमेरिकी डॉलर ($200 बिलियन) के रेवेन्यू का 98 प्रतिशत विज्ञापनों से आया। विश्लेषकों का अनुमान है कि इंस्टाग्राम के रेवेन्यू का 90 प्रतिशत विज्ञापनों से आता है।
जहाँ प्लेटफॉर्म पर आम पोस्ट बिना रोकटोक अपलोड की जा सकती हैं, वहीं मेटा कहता है कि हर विज्ञापन को प्लेटफॉर्म पर आने से पहले रिव्यू किया जाता है।
मोटे तौर पर ऑटोमेटेड तकनीक पर निर्भर रहने वाला उसका रिव्यू सिस्टम विज्ञापन की तस्वीरें, वीडियो, टेक्स्ट, ऑडियो, किसे टारगेट किया जा रहा है और यूजर को किस लिंक पर भेजा जा रहा है- ये सब जाँच करता है। फिर ये साफ़्टवेयर विज्ञापन को अप्रूव या रिजेक्ट करता है और जब यह ख़ुद तय न कर पाए तब केस को इंसान के पास रिव्यू के लिए भेजता है।
मार्च में मेटा ने घोषणा की कि वह थर्ड-पार्टी ह्यूमन मॉडरेटर पर अपनी निर्भरता कम कर एआई का इस्तेमाल बढ़ा रहा है। उसने कहा, ‘एक्सपर्ट्स हमारे एआई सिस्टम बनाएंगे, ट्रेन करेंगे, उनका निरीक्षण और मूल्यांकन करेंगे।’
बीबीसी ने जो विज्ञापन देखे उनका विवरण उसने सुप्रीम कोर्ट से रिटायर हुए जस्टिस मदन लोकूर से साझा किया। वे चिंतित हुए कि इंस्टाग्राम ‘आपराधिक गतिविधि में शामिल हो कर पैसे बना रहा है।’
उन्होंने कहा, ‘ये इतना गंभीर मुद्दा है कि भारत के सुप्रीम कोर्ट को खुद इसका संज्ञान लेना चाहिए। और सरकार को सोशल मीडिया प्लेटफ़ॉर्म के खिलाफ कदम उठाने को कहना चाहिए।’
जस्टिस मदन लोकूर ने कहा भारतीय कानून के तहत सोशल मीडिया कंपनियों को यूजऱ के कंटेंट की जिम्मेदारी से क़ानूनी सुरक्षा होने के बावजूद, ‘प्लेटफॉर्म अपनी जि़म्मेदारी से पल्ला नहीं झाड़ सकता।’
फेसबुक में बतौर वाइस-प्रेसिडेंट काम कर चुके ब्रायन बोलेंड ने कहा कि इंस्टाग्राम का एल्गोरिदम यूजर को ‘थोड़ा एक्सट्रीम, थोड़ी और यौन लालसा पैदा करनेवाला’ कंटेंट दिखाकर प्लेटफॉर्म पर बनाए रखने के लिए डिजाइन किया गया है।
साल 2021 में मेटा का नाम बदले जाने से पहले, फेसबुक में वाइस-प्रेसिडेंट रह चुके ब्रायन बोलेंड ने बीबीसी की पड़ताल पर कहा कि वे, ‘सन्न रह गए पर हैरानी नहीं हुई।’
ब्रायन बोलेंड ने कंपनी के लिए साल 2009 से 2020 तक काम किया और उसकी ऐडवरटाइजि़ंग और मार्केटिंग बिजऩेस खड़ा करने में मदद की। ब्रायन ने बताया कि उन्होंने कंपनी छोड़ दी क्योंकि उन्हें यक़ीन हो गया था कि ‘वे कहीं भी यूजऱ के बारे में नहीं सोचते।’
उन्होंने कहा कि इंस्टाग्राम का एल्गोरिदम इस तरह डिज़ाइन किया गया है कि यूजऱ को ‘थोड़ा एक्सट्रीम, थोड़ी और यौन लालसा पैदा करनेवाला’ कंटेंट दिखाकर प्लेटफ़ॉर्म पर बनाए रखा जाए।
बोलैंड ने कहा, ‘ऐसा नहीं है कि एल्गोरिदम तय करता है कि लोगों को बाल यौन शोषण और हिंसा के लिए उकसाया जाए। लेकिन जब उसे जिम्मेदारी से नियंत्रित और निर्देशित नहीं किया जाता और उसका मकसद सिर्फ क्लिक और रेवेन्यू बढ़ाना है तो ऐसे नतीजे आ सकते हैं। खासकर तब, जब इन सिस्टम की सुरक्षा के लिए सख़्त, सक्रिय निगरानी न हो।’
उनके मुताबिक, साल 2009-10 के दौरान उन्होंने यूजर को स्कैम करनेवाले विज्ञापनों को हटाने के प्रोजेक्ट की अगुवाई की। इसका मतलब था कि उन्हें ‘यूजर की सुरक्षा और उनके अनुभव के लिए ये करने दिया गया जबकि इससे कंपनी के रेवेन्यू पर बड़ा असर पड़ा।’
बोलैंड ने कहा, ‘मुझे लगता है कि तकलीफदेह बात यह है कि वक्त के साथ कंपनी में रेवेन्यू और सुरक्षा या रेवेन्यू और यूजर अनुभव के बीच संतुलन कैसे बनाया जाए, इस पर बहुत बात होने लगी है।’
उन्होंने बताया कि साल 2025 में उन्होंने अपना इंस्टाग्राम अकाउंट डिलीट कर दिया और कहा, ‘अगर बहुत सारे लोग एक साथ कहने लगें कि ‘मैं (इंस्टाग्राम) छोड़ रहा/रही हूँ।
मेरा हो गया, भूल जाओ,’ तो कंपनी को ध्यान देना पड़ेगा।’