सोशल मीडिया प्लेटफॉर्म मेटा ने मंगलवार को एक डिटेल्ड ब्लॉग पब्लिश किया है, जिसमें उसने अपने ऐप्स पर बच्चों के यौन शोषण से जुड़े कंटेंट से निपटने की कोशिशों के बारे में बताया है. इसमें AI-बेस्ड डिटेक्शन, ऐड रिव्यू सिस्टम और बड़े पैमाने पर की गई कार्रवाई का जिक्र किया गया. यह कदम सरकार द्वारा इंस्टाग्राम विज्ञापनों में ऐसे कंटेंट को बढ़ावा देने की रिपोर्ट्स पर सोशल मीडिया कंपनी को नोटिस भेजने के कुछ दिनों बाद उठाया गया. बच्चों के शोषण को एक भयानक अपराध बताते हुए मेटा ने कहा कि वह अपने प्लेटफॉर्म पर और उसके बाहर भी इस तरह के शोषण से लड़ने के लिए हर दिन तेजी से काम करती है.

कंपनी ने कहा, ‘हमें भारत में इंस्टाग्राम विज्ञापनों के बारे में हालिया खबरों की जानकारी है, जिन्होंने बच्चों के शोषण के खिलाफ हमारी पॉलिसी का उल्लंघन किया और हम साफ तौर पर कहना चाहते हैं कि हम इन चिंताओं को गंभीरता से लेते हैं, हम कभी नहीं चाहते कि ऐसा कंटेंट हमारे प्लेटफ़ॉर्म पर हो और हम इससे निपटने की अपनी कोशिशों को बेहतर बनाने के लिए प्रतिबद्ध हैं’.

मेटा ने कहा कि यह कहना पूरी तरह गलत है कि वह जानबूझकर और सोच-समझकर ऐसे विज्ञापन लोगों को दिखाती है जिनमें बच्चे हों और जो गलत दिलचस्पी पर आधारित हों. मेटा ने कहा, ‘बिल्कुल इसके उलट, हम ऐसी टेक्नोलॉजी का इस्तेमाल करते हैं जो बच्चों से जुड़ी संदिग्ध गतिविधि वाले अकाउंट्स की पहचान करती है और हमने पिछले साल ऐसे 40 लाख से ज्यादा अकाउंट्स को अपने-आप हटा दिया था’. मेटा ने कहा कि उसने बच्चों के शोषण के खिलाफ AI-बेस्ड कार्रवाई को और मज़बूत किया है, जिसमें नए सिस्टम ऑनलाइन मौजूद 98 प्रतिशत लोगों द्वारा बोली जाने वाली भाषाओं को कवर करते हैं.

पिछले साल इसने दुनिया भर में 40 लाख से ज्यादा संदिग्ध अकाउंट्स और बच्चों के शोषण से जुड़े 3.6 करोड़ कंटेंट को अपने-आप हटा दिया था. भारत में AI टूल्स ने पिछले छह महीनों में शोषणकारी गतिविधि से जुड़े संदिग्ध लिंक पोस्ट करने वाले 1,60,000 अकाउंट्स को हटाने में मदद की. मेटा ने आगे कहा कि मामलों के इसके ध्यान में आने से पहले ही इसके एनफोर्समेंट सिस्टम ने पॉलिसी का उल्लंघन करने वाले कई विज्ञापनों और उनके पीछे के अकाउंट्स की पहचान कर उन्हें बंद कर दिया था. मेटा ने बताया, ‘हमारी बाद की जांच के कारण और भी कार्रवाई की गई, जिसमें और विज्ञापन हटाना, अकाउंट्स बंद करना और पॉलिसी का उल्लंघन करने वाले कंटेंट से जुड़े URL को ब्लॉक करना शामिल था’.

दरअसल, कैलिफोर्निया के मेनलो पार्क में हेडक्वार्टर वाली टेक्नोलॉजी कंपनी मेटा, लोकप्रिय सोशल मीडिया प्लेटफॉर्म Facebook, Instagram और WhatsApp की मालिक है. मेटा ने कहा, ‘हमने ऐसे एडवांस्ड AI डिटेक्शन टूल्स लगाए हैं, जो यह पहचानते हैं कि कब लोग बच्चों के शोषणकारी गतिविधि का संकेत देने वाले दूसरे सिग्नल्स के साथ संदिग्ध ऑफ-प्लेटफॉर्म लिंक पोस्ट करते हैं. अकेले पिछले 6 महीनों में इसके कारण भारत में 1,60,000 अकाउंट्स हटाए गए’.

पीटीआई के मुताबिक, सरकारी सूत्रों ने बताया कि शनिवार को भेजे गए नोटिस पर मेटा के आधिकारिक जवाब का इंतजार है. उन्होंने कहा कि सरकार का ध्यान कंपनी द्वारा सभी चिंताओं को दूर करने के लिए उठाए गए सुधारात्मक कदमों और कार्रवाई पर होगा. पिछले हफ्ते सरकार ने इंस्टाग्राम पर पेड विज्ञापनों में बच्चों के यौन शोषण और दुर्व्यवहार से जुड़ी सामग्री (CSEAM) को लेकर मेटा को एक सख्त नोटिस जारी किया था.

MeitY (इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय) ने इंस्टाग्राम को CSEAM को बढ़ावा देने और उस तक पहुंच आसान बनाने वाले सभी विज्ञापनों और कंटेंट को बंद करने का आदेश दिया था और 7 दिनों के भीतर विस्तृत स्पष्टीकरण भी मांगा था. यह कार्रवाई तब हुई जब IT मंत्री अश्विनी वैष्णव ने MeitY अधिकारियों को इंस्टाग्राम विज्ञापनों के जरिए बच्चों के यौन शोषण से जुड़ी सामग्री को बढ़ावा देने के आरोपों पर मेटा को तलब करने का निर्देश दिया.

मंत्रालय की ओर से यह नियामक जांच BBC की एक रिपोर्ट के बाद शुरू हुई, जिसमें आरोप लगाया गया था कि मेटा का रिकमेंडेशन एल्गोरिदम बच्चों के यौन शोषण से जुड़ी सामग्री वाले वीडियो को बढ़ावा दे रहा था, जिससे सुरक्षा उपायों में गंभीर कमियां उजागर हुईं. बीबीसी की जांच में यह भी पाया गया कि मेटा की विज्ञापन नीतियों में नग्नता और यौन रूप से स्पष्ट सामग्री पर स्पष्ट रूप से रोक होने के बावजूद, Facebook और Instagram पर इस तरह के विज्ञापन दिखाई दे रहे थे.

आरोप है कि इंस्टाग्राम ने ‘रेप वीडियो’ और ‘चाइल्ड वीडियो’ जैसे शब्दों वाले पेड विज्ञापन दिखाए, जो यूजर्स को Telegram चैनलों पर ले जाते थे, जहां कथित तौर पर ऐसी सामग्री बेची जा रही थी. मंगलवार को एक ब्लॉग पोस्ट में मेटा ने कहा कि उसकी विज्ञापन समीक्षा प्रक्रिया में नीति का उल्लंघन करने वाले विज्ञापनों का पता लगाने और उन्हें हटाने के लिए ऑटोमेटेड सिस्टम और इंसानी समीक्षकों का इस्तेमाल किया जाता है, साथ ही यह भी माना कि कोई भी सिस्टम हर उल्लंघन को नहीं पकड़ सकता.

कंपनी के अनुसार, विज्ञापनों को चलने से पहले जांचा जाता है और उनकी लगातार समीक्षा और दोबारा समीक्षा की जाती है, साथ ही यूज़र्स संदिग्ध उल्लंघनों की रिपोर्ट भी कर सकते हैं. मेटा ने कहा कि वह अलग-अलग विज्ञापनों के अलावा विज्ञापनदाताओं के व्यवहार पर भी नजर रखती है, और अपनी नीतियों का उल्लंघन करने वाले विज्ञापनदाताओं के बिजनेस अकाउंट, विज्ञापन अकाउंट, पेज और यूज़र अकाउंट को रिजेक्ट या प्रतिबंधित कर सकती है.

इस सोशल मीडिया कंपनी ने बताया कि वह बुरे लोगों को अपने प्लेटफॉर्म से दूर रखने और यूजर्स की बेहतर सुरक्षा के लिए अपने विज्ञापन समीक्षा सिस्टम और नियमों को लागू करने की प्रक्रिया को लगातार मजबूत कर रही है. कंपनी ने कहा, ‘हम अपने प्लेटफॉर्म से बुरे लोगों को दूर रखने के लिए प्रतिबद्ध हैं और उनसे आगे रहने के लिए लगातार अपने सिस्टम को बेहतर बना रहे हैं. हमारे प्लेटफॉर्म का इस्तेमाल करने वाले लोगों की सुरक्षा हमारे विज्ञापन मानकों को बनाने और लागू करने के केंद्र में है’.

इस मुद्दे पर जीरो-टॉलरेंस (सख्त) रवैया अपनाते हुए मेटा ने कहा कि उसके पास बच्चों की नग्नता, दुर्व्यवहार और शोषण के खिलाफ विस्तृत और मजबूत नीतियां हैं, जिनमें बच्चों के शोषण से जुड़ी तस्वीरें साझा करना या मांगना और अनुचित बातचीत शामिल हैं.

ये भी पढ़ें: Google ने किया Android Backup के नियम में बदलाव, जल्दी भरने लगेगी 15GB स्टोरेज!