'नॅशनल क्रश' गिरिजा ओक अशी ठरली डीपफेकची बळी; म्हणाली, 'AI खूपच भीतीदायक'

एक पॉडकास्ट व्हायरल झाला अन् अभिनेत्री गिरिजा ओक संपूर्ण इंटरनेटवर प्रसिद्ध झाली होती. इंटरनेटवर लोक तिला 'नॅशनल क्रश' देखील म्हणून लागले होते.

मात्र, त्यानंतर तिच्या फोटोंचा ज्याप्रकारे गैरवापर करण्यात आला आणि तो ज्या पातळीवर झाला, त्यामुळं तिलाही धक्का बसला.

मुंबईत एका मुलाखतीत गिरिजा यासंदर्भात बीबीसीशी सविस्तर बोलली.

"मला एक फोटो पाठवण्यात आला होता. त्यामध्ये एका खूपच कमी कपडे असलेल्या महिलेच्या शरीरावर माझा फोटो लावण्यात आलेला होता.

त्या महिलेसोबत एक अतिशय कमी कपडे घातलेला पुरुष बसलेला होता. त्या पुरुषाच्या शरीरावर माझ्या 12 वर्षांच्या मुलाचा चेहरा लावण्यात आला होता. ते खूपच वाईट होतं. ते पाहून मला प्रचंड रांग आला," असं गिरिजा म्हणाली.

हा फोटो पाहिल्यानंतर गिरिजानं डिसेंबर 2025 मध्ये ओशिवारा पोलीस ठाण्यामध्ये एफआयआर नोंदवला. त्यानंतर अनेक फोटो आणि व्हीडिओ हटवण्यात आले आहेत.

त्या एफआयआरमध्ये भारतीय न्याय संहितेच्या कलम 79 (महिलांच्या प्रतिष्ठेचा अपमान करणं किंवा त्यांच्या सन्मानाला धक्का पोहोचवणं), 356 (2) (बदनामी किंवा अब्रुनुकसानी) आणि आयटी ॲक्टची योग्य ती कलमं लावण्यात आली होती.

"हे एआय नावाचं टूल कोणाच्याही हातात असू शकतं आणि ते खूपच भीतीदायक आहे," असं गिरिजा ओक म्हणाली.

गिरिजा ओकच्या बाबतीत काय घडलं होतं?

गिरिजा ओक ही मराठी चित्रपटांमधील एक प्रसिद्ध अभिनेत्री आहे. त्याचबरोबर तिनं 'तारे जमीन पर', 'शोर इन द सिटी' आणि 'जवान' सारख्या हिंदी चित्रपटांमध्येही अभिनय केला आहे.

आम्ही तिला मुंबईतील कार्टर रोडवर भेटलो. तिथे लोक तिच्याबरोबर सेल्फी घेण्यासाठी तिला थांबवत होते. गिरिजा स्माईल देत चाहत्यांबरोबर फोटो काढत होती.

नोव्हेंबर 2025 मध्ये सौरभ द्विवेदी यांच्याबरोबर एक पॉडकास्ट सीरिज केल्यानंतर गिरिजा इंटरनेटवर व्हायरल झाली होती.

या पॉडकास्टमध्ये निळी साडी परिधान केलेली गिरिजा ज्या आत्मविश्वासानं बोलत होती, त्यामुळे ती लोकांना खूप आवडली होती.

मात्र एकीकडे गिरिजाचे चाहते होते. तर दुसऱ्या बाजूला काहीजण असे होते, ज्यांनी तिच्या फोटोमध्ये छेडछाड करत त्यात बदल केले आणि ते फोटो पोस्ट केले.

कदाचित इंटरनेटला एक नवीन चेहरा मिळाला होता. त्याच्यावर आर्टिफिशियल इंटेलिजन्स (एआय)चा प्रयोग करण्यात यावा असा त्यांनी विचार केला असावा, असं गिरिजा म्हणाली.

"माझे काही फोटो असे आहेत, ज्यात मी साडी नेसलेली आहे. मात्र ते फोटो एकदम बिकिनीमध्ये रुपांतरित झाले. माझा टॉप हटवण्यात आला होता. लोक अशा फोटोमध्ये ॲनिमेशनचा देखील वापर करतात.

यात मी पुढे वाकून जीभ बाहेर काढणं, किंवा अचानक एखादा पुरुष फ्रेममध्ये येणं किंवा मग आम्ही चुंबन घेणं, असं दाखवलं आहे," असं गिरिजा म्हणाली.

अशाप्रकारच्या बऱ्याचशा कॉन्टेंटकडे गिरिजानं दुर्लक्ष केलं. मात्र जेव्हा तिच्या मुलासोबतचा तिचा एक एआय फोटो तिला पाठवण्यात आला, तेव्हा तिनं मुंबईतील ओशिवारा पोलीस ठाण्यात तक्रार नोंदवली. त्यानंतर सोशल मीडियावर तिचे फोटो हटवण्यात आले.

एआयचा गैरवापर

आता आर्टिफिशियल इंटेलिजन्स म्हणजे एआय हे आपल्या आयुष्याचा एक महत्त्वाचा भाग झालं आहे. एआय हे आपल्याला मदत करण्यासाठी आहे, असं मानलं जातं. मात्र आता दिसतं आहे की याचा गैरवापर होतो आहे. त्याच्या निशाण्यावर आपण सर्वच आहोत.

असंदेखील दिसतं आहे की एआयचा वापर करून विशेषकरून महिला आणि मुलांचे आक्षेपार्ह आणि अश्लील व्हीडिओ बनवले जातात. त्यांना सर्क्युलेट केलं जातं. यात एआयच्या मदतीनं डीपफेकसारख्या अनेक साधनांचा वापर केला जातो आहे.

अलीकडेच तामिळनाडूतील मुलींचे फेक व्हीडिओ बनवले जाण्याचं एक प्रकरण समोर आलं होतं.

त्यात एका विद्यार्थ्यानं एआयचा वापर करून काही विद्यार्थिनींचे फोटो मॉर्फ केले आणि मग ऑनलाइन पोस्ट केले होते.

या प्रकरणात पोलिसांनी एफआयआरदेखील नोंदवला होता. तसंच 20 वर्षांच्या विद्यार्थ्याला अटकदेखील केली होती.

तसंच हेदेखील आढळलं आहे की लोक सूडाच्या भावनेनं देखील असे व्हीडिओ बनवतात. आसाममध्ये एक असंच प्रकरण समोर आलं होतं.

बीबीसीच्या एका वृत्तानुसार, एका महिलेच्या माजी बॉयफ्रेंडनं सूड घेण्याच्या हेतूनं एआयचा वापर त्या महिलेच्या फोटोंमध्ये बदल केले. त्याचं रुपांतर अश्लील फोटोंमध्ये केलं आणि ते फोटो ऑनलाइन पोस्ट केले. हे फोटो पोस्ट करून त्यानं लाखो रुपयेदेखील कमावले होते.

'न्यूडिफिकेशन ॲप्स', म्हणजे ज्या ॲप्सचा वापर करून फोटोमध्ये छेडछाड केली जाते, बदल केले जातात, ते हल्लीच्या काळात खूपच सामान्य झाले आहेत, असंही तज्ज्ञ म्हणतात.

गृह मंत्रालयानं राज्यसभेत सांगितलं की 2025 मध्ये नॅशनल सायबर क्राइम पोर्टलवर, क्राइम्स अगेंस्ट वीमेनची 76,657 प्रकरणं नोंदवण्यात आली. तर 2024 मध्ये अशा प्रकरणांची संख्या 48,335 होती.

उमा सुब्रमणियन, रति फाउंडेशन या एका स्वयंसेवी संस्थेच्या सह-संस्थापक आहेत. उमा यांच्या मते, मोठ्या शहरांबरोबरच छोट्या शहरांमध्ये देखील हा चुकीचा ट्रेंड सुरू आहे.

छोट्या शहरांमधील मुलींना देखील डीपफेकचा वापर करून लक्ष्य केलं जात आहे. ही संस्था ऑनलाइन जेंडर हिंसेला तोंड देत असलेल्या मुलींसाठी काम करते.

उमा सुब्रमणियन यांनी सांगितलं की, हेल्पलाइनवरून 2024-25 मध्ये त्यांच्याकडे जे कॉल आले, त्यातील दहापैकी एक कॉल एआय कॉन्टेंटशी संबंधित तक्रार करण्यासाठी आला होता.

वाराणसीमध्ये अशाच प्रकारे एका इन्फ्लुएंसरच्या फोटोमध्ये एआयचा वापर करून बदल करण्यात आले होते. त्यात तिचा अश्लील फोटो तयार करून तो व्हायरल करण्यात आला होता.

या प्रकरणातील वकील राघव अवस्थी म्हणाले की ही इन्फ्लुएन्सर जेव्हा जेव्हा तिच्या सोशल मीडियावर काही पोस्ट करायची, तेव्हा तिचे एआय जनरेटेड अश्लील फोटो व्हायरल केले जायचे.

राघव अवस्थी बीबीसी म्हणाले, "या प्रकरणात आम्हाला पोलीस किंवा जिल्हा न्यायालयाकडून दिलासा मिळाला नाही. त्यानंतर आम्ही दिल्ली उच्च न्यायालयात याचिका दाखल केली आणि एका डायनामिक इंजंक्शनची मागणी केली.

डायनामिक इंजंक्शन म्हणजे ज्या फोटोंच्या लिंक देण्यात आल्या आहेत, ते तर हटवले जातातच. त्यासोबत, प्रत्येक ठिकाणाहून असे फोटो हटवण्याचे आदेश न्यायालय सोशल मीडिया कंपन्यांना देते."

या प्रकरणात फोटो हटवण्यासाठी बरेच कायदेशीर प्रयत्न करावे लागले. मात्र याचा सामना करावा लागणाऱ्या प्रत्येक महिलेकडे हा लढा देण्यासाठीची हिंमत आणि संसाधनं असतीलच असं नाही, असं राघव अवस्थी म्हणाले.

एआयचा वापर करून तयार करण्यात आलेल्या कॉन्टेंटमध्ये अनेकदा महिलांविषयी वाईट किंवा प्रतिगामी विचारसरणीला देखील चालना देण्याचा प्रयत्न केला जातो.

उदाहरणार्थ, महिला पुढे जाण्यासाठी किंवा प्रगतीसाठी त्यांच्या शरीराचा वापर करतात, अशी विचारसरणी रुजवण्याचा प्रयत्न याप्रकारच्या कॉन्टेंटमधून केला जातो, असंही तज्ज्ञांनी सांगितलं.

"अनेक वर्षांपासून आम्ही ज्या सामाजिक समस्यांशी लढा देत आहोत, त्याच समस्यांना पुन्हा चालना दिली जाते आहे. कॉन्टेंटमधून सांगितलं जात आहे की गोरा रंग असल्यास कसं यश मिळतं किंवा विशिष्ट प्रकारच्या शरीरयष्टीमुळेच कसं यश मिळतं. अनेक छोट्या मुली किंवा बालिकांचंदेखील ऑनलाइन लैंगिक शोषण होतं आहे," असं सेंटर फॉर सोशल रिसर्च इंडियाच्या ज्योती वढेरा म्हणाल्या.

कशी मिळू शकते मदत?

गुरुग्राम पोलिसांनी सांगितलं की ऑनलाइन लैंगिक शोषणाच्या वाढत्या घटना लक्षात घेऊन त्यांनी 'डिजिटल सहेली' नावाची एक हेल्पलाइनदेखील सुरू केली आहे.

ही हेल्पलाइन 24 तास सुरू असते. तिथे 4 महिला कॉन्स्टेबल तैनात असतात. या हेल्पलाइनची सुरुवात 2022 मध्ये झाली होती. पहिल्या एक महिन्यातच या हेल्पलाइनवर देशभरातून 373 कॉल नोंदवले गेले होते.

गुरुग्रामचे पोलीस आयुक्त विकास अरोडा म्हणाले, "बहुतांश तक्रारी सेक्सटॉर्शन (एखाद्याचे खासगी फोटो किंवा व्हीडिओ लीक करण्याची धमकी देऊन त्याच्याकडून पैसे किंवा इतर गोष्टींची मागणी करणं) आणि रिवेंज पॉर्न (एखाद्याचे खासगी फोटो किवा व्हीडिओ सार्वजनिक करणं, अनेकदा त्यांची स्थिती लज्जास्पद करण्यासाठी किंवा त्यांचं नुकसान करण्यासाठी) संदर्भात नोंदवल्या जात आहेत."

"त्याचबरोबर, काही प्रकरणं अशीदेखील असतात, ज्यात गुन्हेगाराचा हेतू फक्त मजा घेण्याचा असतो."

एका अशाच प्रकरणाची माहिती देताना त्यांनी सांगितलं, "आमच्याकडे एक तक्रार आली होती, ज्यात एका स्टेजवर एक व्हीव्हीआयपी व्यक्ती उभे होते. त्याच्यासोबत एक महिलादेखील उभी होती. मात्र एआयचा वापर करून असं दाखवण्यात आलं की ते चुंबन घेत आहेत."

"नंतर तपासातून समोर आलं की हा व्हीडिओ बिहारमधील गोपालगंजमध्ये राहणाऱ्या एका 15 वर्षांच्या मुलानं बनवला होता."

तज्ज्ञ म्हणाले की, जर तुम्हाला तुमचं असं एखादं कॉन्टेंट पोस्ट झालेलं दिसलं, तर घाबरू नका. उलट त्याबाबतीत कायद्याची मदत कशी घेतली जाऊ शकते, याबद्दल विचार केला पाहिजे.

अशा प्रकरणांमध्ये पुरावे गोळा करण्याचं महत्त्व समजावत, तुम्ही कशाप्रकारे तक्रार नोंदवू शकता, हे उमा सुब्रमणियन यांनी सांगितलं. त्यानुसार,

(बीबीसीसाठी कलेक्टिव्ह न्यूजरूमचे प्रकाशन)