एआई और डीपफ़ेक कैसे बन रहे हैं महिलाओं के लिए ख़तरा और कैसे इससे बचें

एक पॉडकास्ट के वायरल होने के बाद मराठी अभिनेत्री गिरिजा ओक पूरे इंटरनेट पर छा गई थीं. इंटरनेट पर उन्हें लोगों ने 'नेशनल क्रश' भी बुलाना शुरू कर दिया.

लेकिन इसके बाद उनकी तस्वीरों का दुरुपयोग जिस तरह से हुआ, और जिस स्तर पर हुआ, उससे वो भी हैरान रह गईं.

मुंबई में एक इंटरव्यू में गिरिजा ने इस बारे में बीबीसी हिन्दी से विस्तार में बात की.

उन्होंने बताया, "मुझे एक फ़ोटो भेजी गई, जिसमें एक बहुत ही कम कपड़ों वाली औरत के धड़ पर मेरी शक्ल चिपकाई गई, औरत के बराबर में एक बहुत ही कम कपड़ों में आदमी बैठा नज़र आ रहा था, जिसके धड़ पर मेरे 12 साल के बेटे का चेहरा लगा हुआ था. वो बहुत बुरा था, मुझे बहुत गुस्सा आया."

इस फ़ोटो को देखने के बाद गिरिजा ने दिसंबर 2025 में ओशिवारा पुलिस थाने में एफ़आईआर दर्ज करवाई, जिसके बाद काफ़ी फ़ोटो और वीडियो हटा लिए गए हैं.

एफ़आईआर में भारतीय न्याय संहिता की धारा 79 (महिला की मर्यादा को ठेस पहुंचाना), 356 (2) (मानहानि), और आईटी एक्ट की उपयुक्त धाराएं लगाई गई थीं.

गिरिजा ओक ने बताया, "ये एआई नाम का टूल किसी के भी हाथ में हो सकता है और ये बहुत ही डरावना है."

गिरिजा की कहानी

गिरिजा ओक मराठी सिनेमा की एक जानी-मानी अभिनेत्री हैं. साथ ही वे 'तारे ज़मीन पर', 'शोर इन द सिटी' और 'जवान' जैसी हिन्दी फिल्मों में काम कर चुकी हैं.

हम उनसे मुंबई के कार्टर रोड पर मिले जहाँ लोग उन्हें सेल्फी के लिए रोक रहे थे, और गिरिजा मुस्कुराकर अपने प्रशंसकों के साथ फ़ोटो खिंचवा रही थीं.

नवंबर 2025 में सौरभ द्विवेदी के साथ एक पॉडकास्ट सिरीज करने के बाद, गिरिजा इंटरनेट पर वायरल हो गईं. नीली साड़ी में बैठी गिरिजा जिस कॉन्फिडेंस से बात कर रही थीं, उसे लोगों ने बहुत पसंद किया.

लेकिन जहां एक ओर गिरिजा के प्रशंसक थे वहीं दूसरी ओर कुछ ऐसे थे जिन्होंने उनकी फ़ोटो के साथ छेड़छाड़ की और उन्हें पोस्ट कर दिया.

गिरिजा बताती हैं कि शायद इंटरनेट को एक नया चेहरा मिल गया था जिस पर उन्होंने सोचा कि एआई का प्रयोग किया जाए.

उन्होंने कहा, "कुछ ऐसी फ़ोटो हैं जिनमें मैंने साड़ी पहनी हुई है वो एकदम से बिकिनी में तब्दील हो गई या मेरा टॉप हटा दिया गया था. लोग ऐसी फ़ोटो में एनीमेशन भी डाल देते हैं, जैसे मेरा आगे झुककर जीभ बाहर निकालना, या अचानक से किसी आदमी का फ्रेम में आ जाना और हम फिर किस करने लगते हैं."

गिरिजा ने काफी कंटेंट नज़रअंदाज़ किया, लेकिन जब उन्हें उनके बेटे के साथ एक एआई फोटो भेजी गयी, तो उन्होंने मुंबई के ओशिवारा थाने में कंप्लेंट दर्ज करवाई जिसके बाद उनकी फ़ोटो सोशल मीडिया से हटाई गईं.

एआई का दुरुपयोग

एआई हम सबकी ज़िन्दगी का एक अहम हिस्सा बन चुका है. ये समझा जाता है कि ये हमारी मदद के लिए हैं लेकिन यहां देखा जा रहा है कि इसका दुरुपयोग हो रहा है और इसके निशाने पर हम सब हैं.

ये भी देखा जा रहा है कि एआई के ज़रिए ख़ासकर महिलाओं और बच्चों के आपत्तिजनक और अश्लील वीडियो बनाए जाते हैं और उन्हें सर्कुलेट कर दिया जाता है. इसमें एआई की मदद से डीपफे़क जैसे कई टूल्स हैं जिनका इस्तेमाल किया जा रहा है.

हाल ही में तमिलनाडु में लड़कियों के फ़ेक वीडियो बनाए जाने का एक मामला सामने आया था.

यहां एक छात्र ने कुछ छात्राओं की फ़ोटो एआई के ज़रिए मॉर्फ करके ऑनलाइन पोस्ट कर दी थी. इस मामले में पुलिस ने एफ़आईआर भी दर्ज की और 20 वर्षीय छात्र को गिरफ़्तार भी किया.

वहीं ये भी देखा गया है कि लोग बदले की भावना से भी ऐसे वीडियो बनाते हैं. ऐसा एक मामला असम में सामने आया था.

बीबीसी की एक रिपोर्ट के मुताबिक, एक महिला के पूर्व में रहे बॉयफ्रेंड ने बदले की भावना से महिला की एआई के ज़रिए फ़ोटो में बदलाव किए और उन अश्लील फ़ोटो को ऑनलाइन पोस्ट कर दिया. ये तस्वीरें पोस्ट करके उसने लाखों रुपये भी कमाए.

विशेषज्ञ ये भी बताते हैं कि 'न्यूडिफिकेशन ऐप्स', यानी जिन ऐप्स के ज़रिए फ़ोटो से छेड़छाड़ की जाती है, आजकल बहुत आम हो गए हैं.

गृह मंत्रालय ने राज्यसभा को बताया कि 2025 में नेशनल साइबर क्राइम पोर्टल पर क्राइम्स अगेंस्ट वीमेन के 76,657 मामले दर्ज किए गए, जबकि 2024 में ऐसे 48,335 मामले सामने आए थे.

एक एनजीओ रति फाउंडेशन की सह-संस्थापक उमा सुब्रमणियन के मुताबिक़ बड़े के साथ-साथ छोटे शहरों में भी ये ग़लत ट्रेंड चल पड़ा है और इन शहरों की लड़कियों को भी डीपफ़ेक का शिकार बनाया जाता है.

ये संस्था ऑनलाइन जेंडर हिंसा झेल रहीं लड़कियों के लिए काम करती है.

उमा सुब्रमणियन कहती हैं कि हेल्पलाइन पर उनके पास साल 2024-2025 के बीच में जो कॉल आईं उनमें से दस में से एक कॉल एआई कंटेंट से संबंधित शिकायत दर्ज करने के लिए आईं.

वाराणसी में एक ऐसी ही इन्फ्लुएंसर की फ़ोटो का एआई इस्तेमाल किया गया जिसमें उनकी अश्लील फ़ोटो वायरल कर दी गईं.

इस मामले में वकील राघव अवस्थी बताते हैं कि जब भी ये इन्फ्लुएंसर अपने सोशल मीडिया पर जब भी कुछ पोस्ट करती थीं, उनकी एआई जनरेटेड अश्लील फ़ोटो वायरल की जाती थीं.

राघव अवस्थी ने बीबीसी हिन्दी को बताया, " हमें इस मामले में पुलिस या ज़िला अदालत से राहत नहीं मिली. इसके बाद हमने दिल्ली हाई कोर्ट में याचिका दाख़िल की और एक डायनामिक इंजंक्शन मांगा. डायनामिक इंजंक्शन का मतलब है कि जिन फ़ोटो के लिंक रिपोर्ट किए गए हैं उन्हें तो हटाया ही जाता है. साथ ही, अदालत सोशल मीडिया कंपनियों को निर्देश देती है कि ऐसी ही फ़ोटो हर जगह से हटाई जाएं."

राघव अवस्थी कहते हैं कि इस मामले में फ़ोटो को हटाने के लिए काफ़ी क़ानूनी मशक्कत करनी पड़ी, लेकिन हर सर्वाइवर के पास ये लड़ाई लड़ने की हिम्मत और साधन हों, ऐसा नहीं होता.

विशेषज्ञ ये भी कहते हैं कि एआई के ज़रिये बने कंटेंट में कई बार महिलाओं के ख़िलाफ़ घटिया या दकियानूसी सोच को भी बढ़ावा देने की कोशिश होती है. जैसे इस तरह के कंटेंट से ऐसी सोच को आगे बढ़ाने की कोशिश होती है कि महिलाएं आगे बढ़ने के लिए अपने शरीर का इस्तेमाल करती हैं.

सेंटर फॉर सोशल रिसर्च इंडिया की ज्योति वढेरा कहती हैं, "जिन सामाजिक समस्याओं से हम इतने सालों से लड़ रहे हैं, उन्हें दोबारा बढ़ावा मिल रहा है. कंटेंट में बताया जा रहा है कि कैसे गोरे रंग से सफलता मिलती है या एक तरह के शरीर से सफलता मिलती है. बहुत छोटी लड़कियों या बच्चियों का भी ऑनलाइन यौन शोषण हो रहा है."

कैसे मिल सकती है मदद

गुरुग्राम पुलिस का कहना है कि ऑनलाइन यौन उत्पीड़न की बढ़ती घटनाओं को देखते हुए उन्होंने 'डिजिटल सहेली' नाम की एक हेल्पलाइन भी लॉन्च की गई है.

ये हेल्पलाइन 24 घंटे चलती है और यहां चार महिला कांस्टेबल तैनात रहती हैं. इस हेल्पलाइन की शुरुआत साल 2022 में हुई थी और इस हेल्पलाइन पर पहले एक महीने में ही देशभर से 373 कॉल दर्ज की गईं.

गुरुग्राम पुलिस कमिश्नर विकास अरोड़ा ने बताया, "ज़्यादातर शिकायत सेक्सटॉरशन (किसी की निजी तस्वीरें या वीडियो लीक करने की धमकी देकर उनसे पैसे या अन्य मांग करना) और रिवेंज पोर्न (किसी की निजी तस्वीरें या वीडियो सार्वजनिक करना, अक्सर उन्हें शर्मिंदा करने के लिए या नुकसान पहुंचाने के लिए) की दर्ज कराई जा रही हैं. साथ ही कुछ ऐसे केस आते हैं जहां अपराधी का मकसद सिर्फ़ मजे लेना भी होता है."

एक ऐसा ही मामला साझा करते हुए वे बताते हैं, "हमारे पास एक शिकायत आई थी जहां एक स्टेज पर एक वीवीआईपी खड़े थे और उनके साथ में एक महिला भी खड़ी थीं लेकिन एआई का इस्तेमाल करके दिखाया गया कि वे किस कर रहे हैं. जांच में पता चला कि ये वीडियो बिहार के गोपालगंज में रहने वाले एक 15 साल के लड़के ने बनाया था."

विशेषज्ञ ये बताते हैं कि अगर आप अपना ऐसा कोई कंटेंट पोस्ट होते देखते हैं तो घबराने की ज़रूरत नहीं है, बल्कि कैसे क़ानून की मदद ली जा सकती है, उसके बारे में सोचना चाहिए.

उमा सुब्रमणियन ऐसे मामलों में सबूत इकट्ठा करने की अहमियत समझाते हुए कहती हैं कि आप कैसे शिकायत दर्ज करा सकते हैं.

वे बताती हैं:

बीबीसी के लिए कलेक्टिव न्यूज़ रूम की ओर से प्रकाशित