स्मार्ट ग्लास युझरकडून 'सेक्स रेकॉर्डिंग'; आरोपांवर स्पष्टीकरण देण्यासाठी मेटा कंपनीवर येतोय दबाव

'एआय'ला ट्रेन करणाऱ्या कंपनीचा करार रद्द केल्यामुळे फेसबुकची मालकी असलेली 'मेटा' ही कंपनी वादात सापडली आहे.

केनियामध्ये काम करणाऱ्या काही कर्मचाऱ्यांनी असा आरोप केलाय की, त्यांना 'मेटा'च्या स्मार्ट ग्लासेसने रेकॉर्ड केलेले आक्षेपार्ह आणि अत्यंत खाजगी व्हीडिओ पाहण्यास भाग पाडलं जात होतं.

या आरोपांनंतर मेटा कंपनीनं करार रद्द करण्याचा निर्णय घेतला.

गेल्या फेब्रुवारीमध्ये, 'समा' कंपनीच्या कर्मचाऱ्यांनी दोन स्वीडिश वृत्तपत्रांना सांगितलं की, त्यांनी स्मार्ट ग्लासेस वापरणारे लोक टॉयलेटला जात असल्याचं तसेच लैंगिक संबंध ठेवत असल्याचं रेकॉर्डिंग पाहिलं होतं.

जवळपास दोन महिन्यांपेक्षाही कमी कालावधीनंतर, मेटानं 'समा'सोबतचा आपला करार संपुष्टात आणला आहे. त्यामुळे 1,108 नोकऱ्या जाण्याची शक्यता असल्याचं समानं म्हटलं आहे.

दरम्यान, मेटा कंपनीचा असा दावा आहे की 'समा' कंपनीनं त्यांच्या निर्धारित मापदंडांनुसार काम केलेलं नाही. मात्र, समा कंपनीनं हा आरोप फेटाळला आहे. एका केनियन कामगार संघटनेचा आरोप आहे की, कर्मचाऱ्यांच्या स्पष्टवक्तेपणामुळे मेटाने हा निर्णय घेतलाय.

मेटाने या आरोपांवर थेट प्रत्युत्तर दिलेलं नाहीये. परंतु, 'बीबीसी न्यूज'ला दिलेल्या उत्तरात त्यांनी म्हटलं आहे की, "समा कंपनीने आमचे निकष पूर्ण न केल्यामुळे आम्ही त्यांच्यासोबतचा करार संपुष्टात आणण्याचा निर्णय घेतला आहे."

समाने आपल्या कृतींचं समर्थन केलंय.

"समाने 'मेटा'सह काम करताना आपल्या सर्व ग्राहकांसोबत कामकाज, सुरक्षा आणि गुणवत्तेचे आवश्यक मापदंड सातत्याने पूर्ण केलेले आहेत," असं समा कंपनीनं एका निवेदनात म्हटलं आहे.

आम्ही हे मापदंड पूर्ण करण्यात अयशस्वी ठरलो आहोत, असं आम्हाला मेटाकडून कधीही सांगण्यात आलेलं नाही आणि आम्ही आमच्या कामाच्या गुणवत्तेची व प्रामाणिकपणाची ठामपणे हमी देतो.

काय आरोप आहेत?

फेब्रुवारी महिन्याच्या अखेरीस, स्वीडिश वृत्तपत्रे 'स्वेन्स्का डागब्लाडेट' आणि 'गोटेबॉर्ग्स-पोस्टेन' यांनी एक तपास अहवाल प्रकाशित केला आहे. यामध्ये मेटाच्या स्मार्ट ग्लासेसने रेकॉर्ड केलेले व्हीडिओ पाहण्यास सांगितलेल्या कर्मचाऱ्यांनी दिलेल्या वक्तव्यांचा समावेश होता.

या अहवालामध्ये लिहिलंय की एका कर्मचाऱ्यानं असं म्हटलं की, "आम्ही सर्व काही पाहतो. दिवाणखान्यांपासून ते नग्न शरीरांपर्यंत..."

जेव्हा हा अहवाल प्रकाशित झाला, तेव्हा मेटानं हे मान्य केलं होतं की जेव्हा लोक 'मेटा एआय'सोबत कंटेट शेअर करतात, तेव्हा त्यांचे सबकाँट्रॅक्टवर काम करणारेही कर्मचारी कधीकधी स्मार्ट ग्लासेसमधून रेकॉर्ड केलेला कंटेट पाहू शकतात.

कंपनीनं म्हटलं होतं की, ग्राहकांचा अनुभव सुधारण्यासाठी हे केलं जातं आणि इतर कंपन्यादेखील असंच करतात.

मात्र, ही माहिती उघडकीस आल्यानंतर नियामक संस्थांनी कारवाई सुरू केली.

स्वीडिश तपास अहवालानंतर लगेचच, यूकेची डेटा नियामक संस्था, 'इन्फॉर्मेशन कमिशनर ऑफिस'ने (ICO), मेटाला पत्र लिहून हा अहवाल 'चिंताजनक' असल्याचं म्हटलं.

केनियाच्या डेटा संरक्षण आयुक्त कार्यालयानंही स्मार्ट ग्लासेसबाबत उपस्थित करण्यात आलेल्या गोपनीयतेसंबंधी प्रश्नांची चौकशी सुरू करत असल्याची घोषणा केली.

'काही कर्मचाऱ्यांच्या नोकऱ्या गेल्या'च्या वृत्तांवर प्रतिक्रिया देताना, मेटाच्या एका प्रवक्त्यानं बीबीसीला सांगितलं की, "या आरोपांची चौकशी होत असताना, आम्ही गेल्या महिन्यात समासोबतचा आमचा करार स्थगित केला आहे."

आम्ही या बाबी गांभीर्यानं घेत आहोत. फोटो आणि व्हीडिओ हे युझर्सचे वैयक्तिक असतात. उत्पादनाची कार्यक्षमता सुधारण्यासाठी म्हणूनच लोक एआय कंटेटची समीक्षा करत असतात. त्यासाठी आम्ही युझर्सकडून स्पष्टपणे संमती घेत असतो.

'गोपनीयतेचे मापदंड'

सप्टेंबर महिन्यामध्ये, मेटा कंपनीनं 'रे-बॅन' आणि 'ओकली' या ब्रँड्ससोबत भागीदारी करत एआय-आधारित स्मार्ट ग्लासेसची एक नवीन रेंज सादर केली होती.

एआय आधारित या स्मार्ट ग्लासेसचं वैशिष्ट्य म्हणजे हे ग्लासेस एखाद्या मजकुराचं भाषांतर करू शकतात किंवा युझरला जे पाहतोय, त्यासंदर्भातील प्रश्नांची उत्तरंही देऊ शकतात. हे स्मार्ट ग्लासेस विशेषतः दृष्टिबाधित किंवा कमी दृष्टी असलेल्या लोकांसाठी उपयुक्त मानलं जातात.

मात्र, जसजशी या उपकरणांची लोकप्रियता वाढत गेली, तसतसा त्यांचा गैरवापरही वाढत गेला आणि त्याविषयीची चिंताही वाढल्या.

स्वीडिश वृत्तपत्रांशी बोलणारे हे कर्मचारी 'डेटा ॲनोटेटर्स' होते. ते कंटेटला स्वतः मॅन्यूअली लेबल लावून मेटाच्या 'एआय'ला प्रतिमांचं वाचन कसं करायचं आणि त्या समजून कशा घ्यायच्या, हे शिकवत होते.

कर्मचाऱ्यांनी हेदेखील सांगितलं की, एआयनं प्रश्नांची अचूक उत्तरं दिली आहेत की नाही, हे तपासण्यासाठी त्यांनी एआयसोबत झालेल्या संभाषणांचे ट्रान्स्क्रीप्टही पाहिलं.

एका प्रकरणामध्ये, एका कर्मचाऱ्यानं वृत्तपत्रांना सांगितलं की, बेडरूममध्ये एका व्यक्तीचे स्मार्ट ग्लासेस रेकॉर्डिंग मोडवरच चालू राहिले होते आणि त्याने कथितरित्या आपल्या पत्नीचं कपडे बदलतानाचे रेकॉर्डिंग केले होते.

मेटाच्या स्मार्ट ग्लासेसचच्या फ्रेमच्या कोपऱ्यामध्ये एक लाईट लागतो. त्या लाईटवरूनच कॅमेरा रेकॉर्डिंग करत असल्याचं लक्षात येतं.

परंतु, आता या स्मार्ट ग्लासेसचा संबंध केनियामधील महिलांचं त्यांच्या संमतीशिवाय चित्रीकरण करण्याशीही जोडण्यात आला आहे. त्यामुळे या स्मार्ट ग्लासेसचा गैरवापर होत असल्याचा आरोप होतो आहे.

याआधीही झाला आहे वाद

'समा' ही अमेरिकेतील एक आउटसोर्सिंग कंपनी आहे. ती तंत्रज्ञान क्षेत्रातील नोकऱ्यांच्या माध्यमातून रोजगार वाढवण्याच्या उद्देशानं एक ना-नफा संस्था म्हणून सुरू करण्यात आली होती. आता ती स्वतःला एक 'एथिकल' बी-कॉर्प (बी कॉर्पोरेशन प्रमाणित) म्हणून संबोधते.

'मेटा'सोबतच्या करारासंदर्भात वाद झाल्याचं हे काही पहिलंच प्रकरण नाहीये.

यापूर्वी, फेसबुक पोस्ट मॉडरेशनशी संबंधितही एक करार वादात सापडला होता.

त्या प्रकरणामध्ये माजी कर्मचाऱ्यांनी कायदेशीर कारवाई केली. त्यापैकी काहींच्या म्हणण्यानुसार त्यांना अत्यंत हिंसक आणि मानसिकदृष्ट्या अस्वस्थ करणारा कंटेट पाहण्यास भाग पाडण्यात आलं होतं.

नंतर समा कंपनीनं म्हटलं होतं की त्यांना हे काम स्वीकारल्याचा आता 'पश्चात्ताप' आहे.

त्या प्रकरणातील चालू असलेल्या कायदेशीर कार्यवाहीतील याचिकाकर्ते, 'आफ्रिका टेक वर्कर्स मूव्हमेंट'चे नाफ्ताली वांबालो यांनी बीबीसीला सांगितलं की, त्यांनी स्मार्ट ग्लासेसशी निगडीत काँट्रक्टमध्ये सहभागी असलेल्या कामगारांशीही संवाद साधला होता.

वाम्बालो यांचं असं मत आहे की, मेटानं करार रद्द केला कारण स्मार्ट ग्लासेसने रेकॉर्ड केलेला कंटेट काहीवेळा माणसांकडूनही तपासला जाऊ शकतो, ही बाब कर्मचाऱ्यांनी उघड करू नये असं त्यांना वाटत होतं.

"मला वाटतं की इथं ज्या मापदंडाबद्दल बोललं जात आहे, ती खरंतर गोपनीयतेसंदर्भातील मापदंड आहेत," असं त्यांनी बीबीसी न्यूजला सांगितलं.

या विषयावर प्रतिक्रिया मिळवण्यासाठी बीबीसीनं मेटा कंपनीशी संपर्क साधला आहे.

मेटा कंपनीनं यापूर्वीच म्हटलं आहे की, युझर्सना त्यांच्या सेवाशर्तींमध्ये या शक्यतेबद्दलची माहिती आधीच देण्यात आलेली होती की, मानवाकडून त्यांच्या कंटेटची समीक्षा होऊ शकते.

याचिकाकर्त्यांचे वकील आणि 'ओव्हरसाइट लॅब' या मोहीम गटाच्या कार्यकारी संचालक मर्सी मुटेमी म्हणाल्या की, मेटा यांचं वक्तव्य केनिया सरकारसाठी धोक्याचा एक इशारा असायला हवा.

"एआय इकोसिस्टममध्ये प्रवेश करण्याचा हाच मार्ग आहे, असं आम्हाला सांगण्यात आलं होतं," असंही त्यांनी बीबीसीला सांगितलं. "परंतु, त्यावर संपूर्ण उद्योग उभारण्यासाठी हा एक खूपच कमकुवत पाया आहे," असंही त्या म्हणाल्या.

(बीबीसीसाठी कलेक्टिव्ह न्यूजरूमचे प्रकाशन.)