'मेटा'कडून भारतात बाललैंगिक शोषणाशी संबंधित जाहिराती अजूनही सुरूच; नव्या अहवालात गंभीर आरोप

(महत्त्वाचंः या बातमीत अत्याचाराच्या घटनांचं वर्णन आहे.)

अमेरिकेतील एका संस्थेनं जाहीर केलेल्या नवीन अहवालानुसार, गेल्या 10 महिन्यांत 'मेटा'ने बाल लैंगिक शोषणाचं चित्रण करणाऱ्या एआय-निर्मित चित्रांच्या शेकडो जाहिराती दिल्या. यातील काही जाहिराती भारतातही दाखवण्यात आल्या आहेत.

हा अहवाल भारत सरकारने 'मेटा'ला इन्स्टाग्रामवर बाल लैंगिक शोषणाशी संबंधित कोणत्याही सामग्रीच्या किंवा मजकुराचा (Child Sexual Abuse Material - CSAM) आणि जाहिरातींच्या प्रसाराला आळा घालण्याचे आदेश दिल्यानंतर दोन महिन्यांनी आला आहे.

त्याआधी 'बीबीसी आय'ने केलेल्या तपासात इन्स्टाग्रामवर भारतात CSAM चा प्रचार करणाऱ्या जाहिराती दिल्या जात असल्याचं समोर आलं होतं. त्यानंतर सरकारने हे आदेश दिले होते.

वॉशिंग्टन येथील टेक ट्रान्सपरन्सी प्रोजेक्ट (टीटीपी) या संस्थेनं फेसबुक आणि इन्स्टाग्रामवर बाल लैंगिक शोषणाशी संबंधित मजकूर (सीएसएएम) असलेल्या 332 जाहिराती आढळून आल्याचं म्हटलं आहे. यापैकी बहुतांश म्हणजे 274 जाहिराती ऑगस्टमध्ये दाखवण्यात आल्या होत्या.

या निष्कर्षांबाबत बीबीसीने 'मेटा'शी संपर्क साधला. त्यावर 'मेटा'ने सांगितलं, "आम्ही नग्नता दाखवणारे ॲप्सना किंवा बाल शोषणाशी संबंधित कोणत्याही मजकूराला, ती खरी असो किंवा एआयच्या मदतीने तयार केलेली असो, कंपनी परवानगी देत नाही. अशा गुन्ह्यांमध्ये सहभागी असलेले लोक कारवाईपासून वाचण्यासाठी सतत नवनवीन पद्धती वापरतात. त्यामुळे त्यांना शोधून त्यांच्यावर कारवाई करण्यासाठी मेटा आपल्या यंत्रणा अधिक मजबूत करत आहे."

मंगळवारी (8 सप्टेंबर) प्रसिद्ध झालेल्या टीटीपीच्या अहवालात म्हटलं आहे की, या जाहिरातींमध्ये काही खऱ्या मुलांचे फोटो वापरण्यात आले होते. यामध्ये युरोपमधील एका राजघराण्यातील मुलाचाही फोटो होता. हे फोटो नंतर एआयच्या मदतीने बदलण्यात आले.

टीटीपीने मेटाला याबाबत माहिती दिल्यानंतरही, मेटाच्या प्लॅटफॉर्मवर अशा डझनहून अधिक जाहिराती दिसून आल्या, असं अहवालात म्हटलं आहे.

यापैकी साधारण एक चतुर्थांश म्हणजे 84 जाहिराती भारतात दाखवण्यात आल्या. यातील 78 जाहिराती भारत सरकारने सीएसएएम हटवण्याचे आदेश दिल्यानंतर आणि मेटाच्या वरिष्ठ अधिकाऱ्यांसोबत बैठक झाल्यानंतरही प्रसिद्ध झाल्या.

बीबीसीच्या तपासानंतर, बालहक्कांसाठीचे राष्ट्रीय बाल हक्क संरक्षण आयोग आणि राष्ट्रीय मानवाधिकार आयोगासह भारतातील अनेक सरकारी संस्थांनी या प्रकरणाची चौकशी सुरू केली आहे.

भारतात मुलांच्या लैंगिक शोषणाशी संबंधित सामग्री पसरवणे हा गुन्हा आहे. 'मेटा'च्या धोरणांनुसारही, मुलांचं लैंगिक शोषण किंवा त्यांना धोका पोहोचवणारी कोणतीही सामग्री किंवा मजकूर जाहिरातींमध्ये दाखवण्यास परवानगी नाही.

बीबीसीने या तपासाबाबत मेटाशी संपर्क साधला. त्यावर कंपनीने सांगितलं की, जर मुलांच्या शोषणाची कोणतीही घटना त्यांच्या निदर्शनास आली, तर कायद्यानुसार त्याची माहिती अमेरिकेतील नॅशनल सेंटर फॉर मिसिंग अँड एक्स्प्लॉइटेड चिल्ड्रन (एनसीएमईसी) या संस्थेला दिली जाते.

एनसीएमईसी ही मुलांच्या ऑनलाइन लैंगिक शोषणाबाबतची एक केंद्रीकृत जागतिक अहवाल प्रणाली आहे.

परंतु, भारतात मुलांवरील हिंसाचार रोखण्यासाठी काम करणाऱ्या 250 हून अधिक संस्थांच्या 'जस्ट राइट्स फॉर चिल्ड्रेन' या नेटवर्कचे संस्थापक भुवन रिभू यांच्या मते, ही कारवाई पुरेशी नाही.

'जस्ट राइट्स फॉर चिल्ड्रन' या संस्थेनं बीबीसीच्या तपासातील निष्कर्षांचा, माहितीचा आधार घेत सर्वोच्च न्यायालयात याचिका दाखल केली आहे. मुलांच्या लैंगिक शोषणाशी संबंधित सामग्रीचा प्रचार करणाऱ्यांची ओळख पटवून त्यांची माहिती देणं सोशल मीडिया प्लॅटफॉर्मसाठी बंधनकारक करावं, अशी मागणी या संस्थेनं केली आहे.

"बाल लैंगिक शोषणाशी संबंधित मजकुराची माहिती भारतीय तपास यंत्रणांना देणं कायद्यानुसार बंधनकारक आहे. परंतु, सोशल मीडिया कंपन्या ही माहिती देत नाहीत आणि त्यामुळे त्या भारतीय कायद्यांचं स्पष्टपणे उल्लंघन करत आहेत," असं रिभू यांनी म्हटलं.

मोठ्या टेक कंपन्यांना त्यांच्या कामासाठी जबाबदार धरणाऱ्या 'कॅम्पेन फॉर अकाउंटेबिलिटी' या ना-नफा संस्थेच्या टीटीपी या संशोधन प्रकल्पाने हा अभ्यास केला. टीटीपीला अमेरिका, ब्रिटन, युरोपियन युनियन, ऑस्ट्रेलिया आणि भारतात फेसबुक आणि इन्स्टाग्रामवर बाल लैंगिक शोषणाशी संबंधित मजकूर असलेल्या 332 जाहिराती आढळून आल्या आहेत. या सर्व जाहिरातींची माहिती टीटीपीने एनसीएमईसीला दिली आहे.

टीटीपीच्या म्हणण्यानुसार, त्यांना आढळून आलेल्या जवळपास सर्व जाहिरातींमध्ये सुरुवातीला एका मुलाचा फोटो असतो. व्हीडिओ पुढे सुरू झाल्यावर एआयच्या मदतीने त्या फोटोमध्ये बदल करून मुलाला लैंगिक कृती करताना दाखवलं जातं.

टीटीपीने भारतात दाखवण्यात आलेल्या एका जाहिरातीचं वर्णन केलं आहे. या जाहिरातीत एका अल्पवयीन मुलीचा फोटो एआयच्या मदतीने बदलून तिला लैंगिक कृत्य करताना दाखवण्यात आलं होतं.

या जाहिरातीत आवाजाच्या (व्हॉइसओव्हर) माध्यमातून, "यावर कोणतीही बंधनं नाहीत. यात दाखवलेली सर्व पात्रं खरी माणसं आहेत आणि अनेक पर्याय उपलब्ध आहेत. प्रत्यक्षात पुरुष एआयचा अशाच प्रकारे वापर करतात," असं सांगण्यात आलं होतं. पण, बीबीसीने ही जाहिरात स्वतः पाहिलेली नाही.

टीटीपीच्या म्हणण्यानुसार, ऑगस्टमध्ये 2 आठवड्यांच्या कालावधीत भारतातील 50 हून अधिक वेगवेगळ्या हँडल्सवरून ही जाहिरात पोस्ट करण्यात आली होती.

जुलैमध्ये बीबीसीच्या तपासानंतर मेटाने आपल्या वेबसाइटवर मुलांच्या म्हणजेच बालशोषणाला आळा घालण्यासाठी आपल्या ॲप्सवर कोणती पावलं उचलली जातात, याबाबत सविस्तर माहिती प्रसिद्ध केली होती.

"आमच्या धोरणांचं उल्लंघन करणारी जाहिरात आहे, असं कोणाला वाटत असेल, तर ती जाहिरात कोणीही रिपोर्ट करू शकतं," असं मेटानं म्हटलं आहे.

टीटीपीने मेटाच्या रिपोर्टिंग यंत्रणेचा वापर करून या जाहिरातींची तक्रार करण्याचा प्रयत्न केला. भारतात दाखवण्यात आलेल्या 84 जाहिरातींपैकी 55 जाहिरातींची तक्रार करता आली, असं टीटीपीने सांगितलं. मेटाकडे जाहिरात लाइव्ह सुरू असतानाच ती रिपोर्ट करण्याचा पर्याय उपलब्ध असतो.

यापैकी 43 जाहिरातींबाबत टीटीपीला मेटाकडून उत्तर मिळालं. त्यात मेटाने म्हटलं की, "आम्ही ही जाहिरात तपासली असून ती आमच्या जाहिरातींच्या नियमांचं, मानकांचं उल्लंघन करत नाही."

यापैकी 11 जाहिरातींची सामग्री किंवा मजकूर आधीच हटवण्यात आली असल्याचं टीटीपीला सांगण्यात आलं. तर एका जाहिरातीबाबत त्यांना अद्याप कोणतंही उत्तर किंवा प्रतिसाद मिळालेला नाही.

बीबीसीने याबाबत प्रतिक्रियेसाठी मेटाकडे संपर्क साधला. त्यावर कंपनीने सांगितलं की, आम्ही मजबूत सुरक्षा उपाययोजना केल्या आहेत. यामध्ये नियमांचं उल्लंघन करणाऱ्या जाहिराती रोखण्यासाठी यंत्रणा काम करतात. एखादी जाहिरात सुरुवातीला नजरेतून सुटली, तरी तिच्यावर लक्ष ठेवून ती हटवली जाते.

मेटाने म्हटलं की, टीटीपीने रिपोर्ट केलेल्या अनेक जाहिराती आधीच हटवण्यात आल्या होत्या. यापैकी बहुतांश जाहिराती 200 पेक्षा कमी लोकांनी पाहिल्या होत्या (इम्प्रेशन) आणि या जाहिरातींवर एकूण 5 हजार डॉलर्सपेक्षा कमी खर्च झाला होता.

टीटीपीने मेटाकडे याबाबत प्रतिक्रियेसाठी संपर्क साधला, तेव्हा त्यांनी रिपोर्ट केलेल्या सर्व जाहिराती हटवण्यात आल्याचे सांगितले.

बीबीसीच्या तपासादरम्यानही असंच घडलं होतं. बीबीसीने मेटाच्या रिपोर्टिंग यंत्रणेचा वापर करून बाल लैंगिक शोषणाशी संबंधित एका जाहिरातीची इन्स्टाग्रामकडे तक्रार केली. परंतु, इन्स्टाग्रामने ती जाहिरात हटवली नाही.

नंतर बीबीसीने मेटाकडे याबाबत प्रतिक्रिया मागितली. त्यावर कंपनीने सांगितलं की, काही जाहिराती आधीच बंद केल्या होत्या आणि त्या जाहिराती पोस्ट करणारी अकाउंट्सही निलंबित करण्यात आली होती. त्यांच्या धोरणांचं उल्लंघन करणाऱ्या इतर मजकुराचे यूआरएलही ब्लॉक केले.

टीटीपीने सांगितलं की, त्यांना आढळून आलेल्या 332 जाहिरातींपैकी बहुतांश जाहिराती वापरकर्त्यांना एआयच्या मदतीने फोटो किंवा व्हीडिओ तयार करणाऱ्या ॲप्सकडे घेऊन जात होत्या. यातील बहुतांश ॲप्स चीनमधील डेव्हलपर्सनी तयार केलेले आहेत.

अहवालात म्हटलं आहे की, बाल लैंगिक शोषणाशी संबंधित छायाचित्रांचा वापर करून या ॲप्सच्या जाहिराती करण्यात आल्या. त्यामुळे हे ॲप्स अशा प्रकारची सामग्री किंवा मजकूर तयार करण्यासाठी किंवा पाहण्यासाठी वापरता येऊ शकतात, असा संदेश या जाहिरातींमधून जातो.

मेटाने म्हटलं आहे की, एआयच्या मदतीने एखाद्याच्या परवानगीशिवाय त्यांचे बनावट नग्न किंवा अश्लील फोटो तयार करणाऱ्या 'न्यूडिफाय' ॲप्सच्या जाहिराती करण्यास कंपनीची परवानगी नाही.

भारताच्या सायबर पोलिसांमधील वरिष्ठ अधिकारी आणि तेलंगणाच्या सायबर सिक्युरिटी ब्युरोच्या संचालक शिखा गोयल यांनी बीबीसीला सांगितलं, "सीएसएएम प्रकरणांमधील मोठं आव्हान म्हणजे वापरकर्ते एका प्लॅटफॉर्मवरून दुसऱ्या प्लॅटफॉर्मवर सहज जाऊ शकतात. त्यामुळे त्यांना शोधून पकडणं जास्त कठीण होतं."

"सरकार सोशल मीडिया कंपन्यांसोबतच्या अलीकडच्या चर्चेत हा मुद्दा मांडेल आणि त्यांना त्यानुसार योग्य सूचना देईल, अशी आम्हाला आशा आहे," असं त्या पुढे म्हणाल्या.

बीबीसीच्या तपासात आढळलेल्या जाहिरातींमधून वापरकर्त्यांना आणखी एका ॲपकडे-मेसेजिंग ॲप टेलिग्रामकडे- पाठवलं जात होतं. तिथे ही सामग्री केवळ 99 रुपयांमध्ये खरेदी करता येत होती.

त्या वेळी टेलिग्रामने बीबीसीला सांगितलं होतं की, सीएसएएम रोखण्यासाठी कंपनी स्वयंचलित यंत्रणा आणि मानवी तपासणी, अशा दोन्ही पद्धतींचा वापर करते. तसेच, आपल्या प्लॅटफॉर्मवर सीएसएएम मोठ्या प्रमाणावर सार्वजनिकपणे पसरवण्याचं प्रमाण 'जवळपास पूर्णपणे थांबवलं' आहे.

मेटाच्या प्लॅटफॉर्मवर जाहिरात दाखवण्यापूर्वी तिची तपासणी कंपनीच्या मॉडरेशन यंत्रणेकडून केली जाते. ही यंत्रणा प्रामुख्याने स्वयंचलित पद्धतीने काम करते. जाहिरातीतील फोटो, व्हीडिओ, मजकूर आणि ऑडिओसोबतच, ही जाहिरात कोणाला दाखवली जाणार आहे आणि त्यातील लिंक वापरकर्त्यांना कुठे घेऊन जाते, याचीही तपासणी केली जाते.

बीबीसीच्या तपासानंतर मेटाने म्हटलं होतं की, 'कोणतीही यंत्रणा परिपूर्ण नसते'. "गुन्हे करण्याचा निर्धार असलेले लोक, आमच्या प्लॅटफॉर्मचा गैरवापर करण्याचा सतत प्रयत्न करत असतात. त्यासाठी ते आमच्या जाहिरात यंत्रणेचाही वापर करतात."

पण, टीटीपीला आढळून आलं की बाल लैंगिक शोषणाशी संबंधित काही जाहिराती चीनमधील मेटाच्याच स्वतःच्या जाहिरात एजन्सी भागीदारांनी दिल्या होत्या.

'रिसेलर्स' म्हणून ओळखले जाणारे हे जाहिरात भागीदार चीनमधील अब्जावधी डॉलरच्या जाहिराती फेसबुक आणि इन्स्टाग्रामवर पोहोचवतात. टीटीपीने विचारलेल्या प्रश्नांना या भागीदारांनी कोणताही प्रतिसाद दिला नाही.

टीटीपीने सांगितलं की, आपल्या अहवालातील निष्कर्षांची माहिती मेटाला दिल्यानंतरही नवीन जाहिराती दिसत राहिल्या. टीटीपीने अशा 17 जाहिरातींची माहिती शेअर केली. यापैकी 11 जाहिराती 1 आणि 2 सप्टेंबरला भारतात दाखवण्यात आल्या होत्या.

(बीबीसीसाठी कलेक्टिव्ह न्यूजरूमचे प्रकाशन)