सबीने किंकार्त्स

जर्मनी के 'युगेंडशुत्स डॉट नेट' के मुताबिक, इंटरनेट पर फैलने वाली नफरत और हिंसा के सामने जर्मन युवा बिल्कुल बेबस महसूस कर रहे हैं. देखिए क्यों?

सोशल मीडिया प्लेटफॉर्म ‘इंस्टाग्राम' पर इन्फ्लुएंसरों ने एक बेहद प्यारी और दिल को छू लेने वाली तस्वीर पोस्ट की है. इसमें एक छोटा बच्चा पेट के बल लेटा हुआ आराम से सो रहा है, उसके हाथ-पैर फैले हुए हैं और वह पूरी तरह सुकून में है. माता-पिता अक्सर अपने बच्चों की ऐसी ही भावुक और निजी तस्वीरों को सबके सामने शेयर करते हैं. इन तस्वीरों को लोग बहुत पसंद करते हैं. इससे उन्हें काफी लाइक और फॉलोअर मिलते हैं, लेकिन क्या ऐसी तस्वीरें वाकई बच्चों के लिए अच्छी होती हैं?

इंटरनेट पर इन बच्चों की तस्वीरों को कोई भी देख सकता है. लोग इन्हें कॉपी करते हैं, इनमें बदलाव करते हैं और गलत तरीके से इस्तेमाल करते हैं. इन्हें दूसरी जगहों पर डालकर बच्चों को परेशान किया जाता है. अक्सर इन पर गंदे और अश्लील कमेंट भी लिख दिए जाते हैं. यहां तक कि उस सोते हुए बच्चे की प्यारी सी तस्वीर पर भी ऐसे गंदे कमेंट किए गए थे. इस बात का खुलासा  'युगेंडशुत्स डॉट नेट' ने अपनी नई सालाना रिपोर्ट में किया है. यह संस्था जर्मन सरकार की ओर से मिलने वाली आर्थिक मदद से चलती है, जो बच्चों और किशोरों को ऑनलाइन प्लेटफॉर्म पर सुरक्षित रखने का काम करती है.

इस रिपोर्ट से पता चलता है कि इंटरनेट पर युवा और बच्चे अभी भी सुरक्षित नहीं हैं. 'युगेंडशुत्स डॉट नेट' ने साल 2025 में इंटरनेट पर बाल यौन शोषण, नफरत और हिंसा के 15,000 से अधिक मामले रिकॉर्ड किए. संस्था के प्रमुख स्टेफन ग्लेजर ने कहा, "यह तो सिर्फ एक हिस्सा है. असली आंकड़े इससे कहीं ज्यादा हो सकते हैं.” इस संस्था की स्थापना, जर्मनी की केंद्र और राज्यों की सरकार ने मिलकर की है.

यह एजेंसी युवाओं की सुरक्षा से जुड़े नियमों के उल्लंघन की शिकायतें दर्ज करती है और खुद भी इंटरनेट पर इसकी जांच करती है. जब इसे कुछ गड़बड़ी मिलती है, तो यह टिकटॉक, यूट्यूब, इंस्टाग्राम, स्नैपचैट, डिस्कॉर्ड और व्हाट्सएप जैसे ऐप्लिकेशन के मालिकों के सामने वो सबूत रखती है और उनसे जवाब मांगती है. इसके साथ ही, कानूनी कार्रवाई के लिए पुलिस और जांच एजेंसियों को भी इसकी जानकारी दी जाती है.

चाइल्ड प्रोर्नोग्राफी और हिंसक कल्पनाएं
ग्लेजर के मुताबिक, साल 2025 में दर्ज किए गए कुल मामलों में से 93 फीसदी मामले बच्चों के साथ होने वाली यौन हिंसा से जुड़े थे. वहीं, 4 फीसदी मामले राजनीतिक कट्टरपंथ से संबंधित थे. इसके अलावा, इंटरनेट पर महिलाओं और लड़कियों के खिलाफ भी भयंकर नफरत और उनके साथ हिंसा करने की खौफनाक सोच देखने को मिलीं.

एक और बड़ी समस्या जिसे अब तक उतना गंभीर नहीं माना जा रहा था, वह है म्यूजिक ऐप ‘स्पॉटिफाई'. अब यह ऐप लगातार चर्चा में आ रहा है, क्योंकि इस पर धुर-दक्षिणपंथी गाने, बच्चों के खिलाफ यौन हिंसा को बढ़ावा देने वाले कंटेंट और ऐसी प्लेलिस्ट मिल रही हैं जो लोगों को खुद को नुकसान पहुंचाने या आत्महत्या करने के लिए उकसाती हैं.

आर्टिफिशियल इंटेलिजेंस (एआई) के बढ़ते इस्तेमाल ने इन खतरों को और भी अधिक बढ़ा दिया है. ग्लेजर ने कहा, "आजकल छेड़छाड़ की गई तस्वीरों का इस्तेमाल नफरत और कट्टरपंथी सोच फैलाने या किसी को बदनाम करने के लिए किया जा रहा है. बनावटी चीजें असली चीजों के साथ इस कदर मिल जाती हैं कि हमारे लिए सच और झूठ का फर्क करना मुश्किल हो जाता है.”

आजकल एआई बॉट लोगों के बीच बहुत लोकप्रिय हो रहे हैं. ये जेनरेटिव एआई के जरिए यूजर्स से बातचीत करते हैं और धीरे-धीरे एक असली दोस्त या साथी की तरह लगने लगते हैं. इन बॉट को इस तरह बदला जा सकता है कि ये किसी काल्पनिक चरित्र की तरह बात करें, जिनमें से कुछ तो असल जिंदगी के किरदारों पर आधारित होते हैं. ये बॉट लोगों को सलाह देते हैं, कोचिंग देते हैं या फिर एक सच्चे रिश्ते का अहसास कराते हैं.

'युगेंडशुत्स डॉट नेट' की रिसर्च इस समस्या का एक बहुत ही खतरनाक पहलू सामने लाती है. ग्लेजर ने विस्तार से बताते हुए कहा, "ये चैटबॉट अब अपनी अलग ही दुनिया बना रहे हैं. वे नाबालिग बच्चों के साथ यौन हरकतों का जिक्र कर रहे हैं और कई जगह तो इन बॉट को ऐसे नाबालिग किरदारों के रूप में सेट किया गया है जो अश्लील और आपत्तिजनक तरीके से बर्ताव करते हैं.”

प्लेटफॉर्म तभी कार्रवाई करते हैं जब उन पर दबाव डाला जाता है
बाकी बातों के अलावा, इसकी एक बड़ी वजह खराब सुरक्षा फिल्टर और कमजोर प्राइवेसी सेटिंग है. उम्र की पाबंदी को भी इतनी आसानी से पार किया जा सकता है कि इससे बच्चों और किशोरों के लिए खतरा बहुत ज्यादा बढ़ जाता है.

यही चीज स्नैपचैट पर भी साफ दिखाई देती है, जहां उम्र की पाबंदी होने के बावजूद बहुत छोटे बच्चों के वीडियो शेयर किए जा रहे हैं. वैसे तो यहां आधिकारिक तौर पर केवल 16 साल या उससे ऊपर के लोगों को ही पोस्ट करने और कमेंट करने की अनुमति है. लेकिन, हकीकत यह है कि यहां उम्र की सही जांच का कोई असरदार तरीका नहीं है और शिकायत करने के जो विकल्प दिए गए हैं, वे भी नाबालिगों को कोई खास सुरक्षा नहीं दे पाते.

इस सालाना रिपोर्ट से एक और बड़ी बात सामने आई है कि जब आम लोग बच्चों की सुरक्षा से जुड़े नियमों के उल्लंघन की शिकायत करते हैं, तो ये कंपनियां (सोशल मीडिया प्लेटफॉर्म) सिर्फ 2 फीसदी मामलों में ही कोई कार्रवाई करती हैं. लेकिन, जब 'युगेंडशुत्स डॉट नेट' जैसी कोई सरकारी या आधिकारिक संस्था हस्तक्षेप करती है, तो ये कंपनियां लगभग हर बार तुरंत कार्रवाई करती हैं.

इस हफ्ते जब यह सालाना रिपोर्ट पेश की गई, तो युवा मामलों की मंत्री और सेंटर-राइट क्रिश्चियन डेमोक्रेटिक यूनियन की नेता कारीन प्रीन ने इस ‘चिंताजनक सच्चाई' पर बात की. उन्होंने इसे एक ‘डराने वाली हकीकत' बताया. उन्होंने कहा कि आज के दौर में बच्चे और किशोर ऑनलाइन दुनिया में पूरी तरह बेबस और लाचार छोड़ दिए गए हैं. प्रीन ने बताया, "हम अभी भी उस स्थिति से बहुत दूर हैं जहां बच्चे और युवा बिना किसी डर और चिंता के सुरक्षित होकर इंटरनेट का इस्तेमाल कर सकें. हमें आज ‘सुरक्षा, बचाव और स्पष्ट नियमों' की जरूरत है, जो ‘तकनीक के बदलते दौर के साथ कदम से कदम मिलाकर' चल सकें.”

देशों के कानून से ऊपर होता है यूरोपीय कानून
हालांकि, असली समस्या यही पर है. यूरोपीय संघ में साल 2024 से एक कानून लागू है, जिसका नाम है ‘डिजिटल सर्विसेज एक्ट' (डीएसए). इस कानून के तहत, सोशल मीडिया कंपनियों के लिए बच्चों की सुरक्षा और प्राइवेसी का पूरा ध्यान रखना जरूरी है. इसके तहत, कंपनियों को खुद आगे बढ़कर खतरों की जांच करनी होगी और अपने ऐप को इस तरह डिजाइन करना होगा कि वे बच्चों के लिए सुरक्षित हों. उदाहरण के लिए, इसमें यह नियम भी शामिल है कि कम उम्र के बच्चों के अकाउंट हमेशा ‘प्राइवेट' मोड पर ही रहने चाहिए, ताकि कोई अंजान व्यक्ति उनकी पोस्ट न देख सके.

ऐसे एल्गोरिदम जो लोगों को एक के बाद एक वीडियो दिखाते हैं, उनमें भी बदलाव किए जाने चाहिए. इसका मकसद ऐसे कंटेंट को रोकना है जो सोशल मीडिया की लत को और बढ़ाता है. साथ ही, ‘ऑटोप्ले' (वीडियो का खुद-ब-खुद चालू हो जाना) और ‘पुश नोटिफिकेशन' (बार-बार आने वाले मैसेज) जैसी सुविधाओं पर भी रोक लगानी होगी.

प्रीन ने आगाह किया कि आज हर चार में से एक बच्चा सोशल मीडिया का इस्तेमाल ऐसे तरीके से करता है जो जोखिम भरा है या लत जैसा है. इसी को देखते हुए, यूरोपियन यूनियन के स्तर पर ‘डिजिटल फेयरनेस एक्ट' नाम के एक नए कानून पर काम चल रहा है. यह कानून खास तौर पर सोशल मीडिया के ‘लत लगाने वाले और नुकसानदेह डिजाइन' पर रोक लगाएगा और सोशल मीडिया में एआई के इस्तेमाल को सीमित करेगा.

उम्र की सही जांच करना इस समय सबसे बड़ा मुद्दा है. ऐसे तकनीकी तरीके अभी तक नहीं बनाए जा सके हैं, जिन्हें बच्चे आसानी से चकमा न दे सकें. ऑस्ट्रेलिया का उदाहरण लें, जहां दिसंबर 2025 से ही सोशल मीडिया के इस्तेमाल पर उम्र की पाबंदी लागू कर दी गई है, लेकिन अब तक इसका बहुत कम असर देखने को मिला है. शुरुआती अध्ययनों से पता चलता है कि वहां 16 साल से कम उम्र के आधे से ज्यादा बच्चे अभी भी इन सोशल मीडिया प्लेटफॉर्म पर सक्रिय हैं.

असल में सोशल मीडिया कंपनियां कमाई के इस जबरदस्त खेल को छोड़ना नहीं चाहती हैं. समाज को बांटने वाली बातें और भावनाओं को भड़काने वाला कंटेंट लोगों का ध्यान सबसे ज्यादा खींचता है. प्रीन ने कहा कि सरकार जब भी कोई नया नियम बनाती है, ये कंपनियां उसे अदालत में चुनौती दे देती हैं और फिर इन अदालती मामलों का फैसला आने में सालों-साल लग जाते हैं.

उन्होंने कहा, "जो कोई भी बच्चों को सुरक्षित रखना चाहता है, उसे डिजिटल दुनिया के इन बड़े और ताकतवर खिलाड़ियों के जाल को समझना होगा और जरूरत पड़ने पर उनसे सीधे टक्कर लेने के लिए भी तैयार रहना होगा.” वह आगे बताती हैं, "हमें अब एक ऐसे मुकाम पर पहुंचना होगा, जहां सरकार को तकनीक के नए बदलावों के पीछे-पीछे न भागना पड़े, बल्कि सरकार नियमों के मामले में तकनीक से दो कदम आगे रहे.”