గిరిజ ఓక్: ఈ నటి ఫోటోలను డీప్‌ఫేక్‌తో అశ్లీలంగా ఎలా మార్చేశారు? ఆమె ఏమంటున్నారు

గత ఏడాది ఒక పాడ్‌కాస్ట్ వైరల్ కావడంతో నటి గిరిజ ఓక్ ఇంటర్నెట్‌లో బాగా ట్రెండ్ అయ్యారు.

అయితే... తన ఫోటోలను దుర్వినియోగం చేసిన తీరు, ఆ దుర్వినియోగం జరిగిన స్థాయిని చూసి ఆమె దిగ్భ్రాంతికి గురయ్యారు.

ముంబయిలో ‘బీబీసీ’కి ఇచ్చిన ఒక ఇంటర్వ్యూలో ఆమె తన ఫోటోల మార్ఫింగ్, డీప్‌ఫేక్‌తో అశ్లీలంగా మార్చడం వంటి విషయాలన్నీ మాట్లాడారు.

‘‘ఒకరు నాకో ఫోటో పంపించారు. అందులో చాలా తక్కువ దుస్తులు వేసుకున్న ఒక మహిళ శరీరానికి నా ముఖం అతికించి ఉంది. ఆ మహిళ పక్కన సరిగా దుస్తుల్లేని ఒక పురుషుడు కూర్చున్నాడు. ఆ పురుషుడి శరీరానికి 12 ఏళ్ల నా కొడుకు ముఖాన్ని పెట్టారు. అది చాలా దారుణంగా అనిపించింది. చూడగానే చాలా కోపం వచ్చింది" అని గిరిజ అన్నారు.

ఈ ఫోటోను చూసిన తర్వాత గిరిజ 2025 డిసెంబర్‌లో ఓశివారా పోలీస్ స్టేషన్‌లో ఎఫ్‌ఐఆర్ దాఖలు చేశారు. తర్వాత చాలా ఫోటోలు, వీడియోలను ఇంటర్‌నెట్ నుంచి తొలగించారు.

భారత న్యాయ సంహితలోని సెక్షన్ 79 (మహిళల గౌరవానికి భంగం కలిగించడం లేదా వారి పరువుకు భంగం కలిగించడం), 356 (2) (పరువు నష్టం)తో పాటు ఐటీ చట్టంలోని సంబంధిత సెక్షన్ల కింద కూడా ఎఫ్ఐఆర్ నమోదు చేశారు.

"ఏఐ అనే సాధనం ఎవరి చేతిలోనైనా ఉండొచ్చు, ఇది చాలా భయంకరమైంది" అని గిరిజ ఓక్ అన్నారు.

అసలేం జరిగింది?

గిరిజ ఓక్ మరాఠీ చిత్రసీమలో ప్రముఖ నటి. 'తారే జమీన్ పర్', 'షోర్ ఇన్ ది సిటీ', 'జవాన్' వంటి హిందీ చిత్రాలలోనూ ఆమె నటించారు.

ముంబయిలోని కార్టర్ రోడ్‌లో బీబీసీ ఆమెను కలిసింది.

2025 నవంబర్‌లో సౌరభ్ ద్వివేదితో కలిసి ఒక పాడ్‌కాస్ట్ సిరీస్ చేసిన తర్వాత గిరిజ ఇంటర్నెట్‌లో వైరల్ అయ్యారు.

ఆ పాడ్‌కాస్ట్‌లో నీలిరంగు చీర ధరించిన గిరిజ ఎంతో ఆత్మవిశ్వాసంతో మాట్లాడిన తీరు ప్రజలను బాగా ఆకట్టుకుంది.

ఒకవైపు ఆమెకు అభిమానులు పెరుగుతుండగా, మరోవైపు కొందరు ఆమె ఫోటోలను మార్ఫింగ్ చేసి, వాటిని సోషల్ మీడియాలో పోస్ట్ చేస్తూ దుర్వినియోగం చేశారు.

బహుశా ఇంటర్నెట్‌కు కొత్త ముఖం దొరికిందనుకుని, దానిపై ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (ఏఐ)తో ప్రయోగాలు చేయాలని వారు భావించి ఉండొచ్చని గిరిజ అన్నారు.

"నేను చీర కట్టుకున్న కొన్ని ఫోటోలు ఉన్నాయి. కానీ అవన్నీ సడన్‌గా బికినీ ఫోటోలుగా మారిపోయాయి. వాటిలో నా టాప్‌ను తొలగించారు. ఇలాంటి ఫోటోలలో యానిమేషన్ కూడా వాడుతుంటారు" అని ఆమె చెప్పారు.

"అందులో నేను ముందుకు వంగి నాలుక బయట పెట్టినట్టు, అకస్మాత్తుగా ఒక పురుషుడు ఫ్రేమ్‌లోకి వచ్చినట్టు, ఇంకా మేమిద్దరం ముద్దు పెట్టుకుంటున్నట్టు చూపించారు" అని గిరిజ చెప్పురు.

ఇలాంటి చాలా కంటెంట్‌ను గిరిజా మొదట పట్టించుకోలేదు. కానీ తన కొడుకుతో ఉన్నట్లుగా ఏఐ మార్ఫింగ్ ఫోటోను చూసిన తర్వాత ఆమె పోలీసులకు ఫిర్యాదు చేశారు.

ఏఐ దుర్వినియోగం

"ఇప్పుడు ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ మన జీవితంలో ఒక ముఖ్యమైన భాగంగా మారింది. ఏఐ మనకు సహాయం చేయడానికే రూపొందించారని చెబుతారు. కానీ ఇప్పుడు దుర్వినియోగం చేస్తున్నారు. దీని ప్రభావం మనందరిపై పడే అవకాశముంది" అని ఆమె చెప్పారు.

మహిళలు, పిల్లలను లక్ష్యంగా చేసుకుని ఏఐ సహాయంతో అభ్యంతరకరమైన, అసభ్యకరమైన వీడియోలు తయారు చేస్తున్న ఘటనలు రోజురోజుకూ పెరుగుతున్నాయి. వీటిని సోషల్ మీడియాలో, ఆన్‌లైన్ ప్లాట్‌ఫామ్‌లలో విస్తృతంగా షేర్ చేస్తున్నారు. ఇందుకు డీప్‌ఫేక్ వంటి ఏఐ టూల్స్‌ను ఉపయోగిస్తున్నారు.

ఇటీవల తమిళనాడులో కూడా బాలికల ఫేక్ వీడియోలు తయారు చేసిన ఒక కేసు వెలుగులోకి వచ్చింది.

ఇందులో ఒక విద్యార్థి ఏఐని ఉపయోగించి కొంతమంది విద్యార్థినుల ఫోటోలను మార్ఫింగ్ చేసి వాటిని ఆన్‌లైన్‌లో పోస్ట్ చేశాడు.

ఈ కేసులో పోలీసులు ఎఫ్ఐఆర్ నమోదు చేసి 20 ఏళ్ల ఆ విద్యార్థిని అరెస్ట్ చేశారు.

అయితే మరికొంతమంది ప్రతీకారం తీర్చుకోవడానికి కూడా ఇలాంటి వీడియోలు చేస్తున్నారని తేలింది. అస్సాంలో ఇలాంటి ఘటన ఒకటి వెలుగులోకి వచ్చింది.

ఒక మహిళ మాజీ ప్రియుడు ప్రతీకారం తీర్చుకోవడానికి ఆమె ఫోటోలను మార్చడానికి ఏఐ ఉపయోగించారు. ఆయన వాటిని అశ్లీల ఫోటోలుగా మార్చి ఆన్‌లైన్‌లో పోస్ట్ చేశారు.

ఫోటోలను మార్ఫింగ్ చేసి మార్చే 'న్యూడిఫికేషన్ యాప్స్' ఇటీవలి కాలంలో చాలా సాధారణమయ్యాయని నిపుణులు కూడా అంటున్నారు.

2025లో మహిళలపై నేరాలకు సంబంధించి నేషనల్ సైబర్ క్రైమ్ పోర్టల్‌లో 76,657 కేసులు నమోదయ్యాయని, 2024లో ఈ సంఖ్య 48,335గా ఉందని హోం శాఖ రాజ్యసభలో వెల్లిడించింది.

పెద్ద నగరాలతో పాటు చిన్న పట్టణాల్లో కూడా ఈ ప్రమాదకర ధోరణి వేగంగా పెరుగుతోందని ఎన్జీవో, రతి ఫౌండేషన్ సహ వ్యవస్థాపకురాలు ఉమా సుబ్రమణియన్ అన్నారు.

చిన్న పట్టణాల్లోని అమ్మాయిలను కూడా డీప్‌ఫేక్‌ల ద్వారా లక్ష్యంగా చేసుకుంటున్నారు.

ఆన్‌లైన్ జెండర్ వయలెన్స్‌ బారినపడుతున్న బాలికలకోసం రతి ఫౌండేషన్ పనిచేస్తుంది.

2024-25లో వారి హెల్ప్‌లైన్‌కు వచ్చిన ప్రతి పది కాల్స్‌లో ఒకటి ఏఐ ఆధారిత కంటెంట్‌కు సంబంధించిన ఫిర్యాదేనని ఉమా సుబ్రమణియన్ చెప్పారు.

ఇలాంటి ఘటనే వారణాసిలో కూడా జరిగింది. ఒక ఇన్‌ఫ్లుయెన్సర్ ఫోటోను ఏఐని ఉపయోగించి మార్ఫింగ్ చేశారు. ఆమె అసభ్యకరమైన ఫోటోను సృష్టించి వైరల్ చేశారు.

"ఈ ఇన్‌ఫ్లుయెన్సర్ తన సోషల్ మీాడియాలో ఏదైనా పోస్ట్ చేసినప్పుడల్లా, ఏఐతో మార్ఫింగ్ చేసిన అశ్లీల ఫోటోలను వైరల్ చేసేవారు" అని ఈ కేసులో న్యాయవాది అయిన రాఘవ్ అవస్థి అన్నారు.

"ఈ కేసులో మాకు పోలీసుల నుంచి గానీ, జిల్లా కోర్టు నుంచి గానీ ఎలాంటి ఉపశమనం లభించలేదు. అందుకే దిల్లీ హైకోర్టులో పిటిషన్ వేసి, డైనమిక్ ఇంజంక్షన్ కోరాం" అని రాఘవ్ అవస్థి బీబీసీకి తెలిపారు.

డైనమిక్ ఇంజంక్షన్ అంటే ఫిర్యాదులో పేర్కొన్న లింకులను మాత్రమే కాకుండా అదే తరహా ఫోటోలు లేదా కంటెంట్ ఎక్కడ కనిపించినా వాటిని తొలగించాలని కోర్టు సోషల్ మీడియా కంపెనీలను ఆదేశాలివ్వడం.

ఈ కేసుల్లో ఫోటోలను తొలగించేందుకు చాలా న్యాయపరమైన ప్రయత్నాలు చేయాల్సి వచ్చిందని న్యాయవాది రాఘవ్ అవస్థి తెలిపారు. అయితే ఇలాంటి పోరాటం చేయడానికి అవసరమైన ధైర్యం, వనరులు ప్రతి మహిళ వద్ద ఉండవని ఆయన చెప్పారు.

ఏఐతో తయారయ్యే కంటెంట్‌లో మహిళలపై ప్రతికూలమైన లేదా వెనుకబడిన భావజాలాన్ని ప్రోత్సహించే ప్రయత్నం జరుగుతోందని నిపుణులు హెచ్చరిస్తున్నారు.

"మేం ఏళ్లుగా పోరాడుతున్న అవే సామాజిక సమస్యలు మళ్లీ పెరుగుతున్నాయి. చాలా మంది బాలికలు, మహిళలు ఆన్‌లైన్‌లో లైంగిక వేధింపులకు గురవుతున్నారు" అని సెంటర్ ఫర్ సోషల్ రీసెర్చ్ ఇండియాకు చెందిన జ్యోతి వధేరా అన్నారు.

మీ ఫోటోలు, వీడియోలు ఎవరైనా పోస్ట్ చేస్తే ఏం చేయాలి?

ఆన్‌లైన్ లైంగిక వేధింపుల ఘటనలు పెరుగుతున్న దృష్ట్యా 'డిజిటల్ సహేలి' అనే హెల్ప్‌లైన్‌ను కూడా ప్రారంభించినట్లు గురుగ్రామ్ పోలీసులు తెలిపారు.

ఈ హెల్ప్‌లైన్ 24 గంటలూ పనిచేస్తుంది.

అక్కడ నలుగురు మహిళా కానిస్టేబుళ్లు విధుల్లో ఉంటారు. ఈ హెల్ప్‌లైన్‌ను 2022లో ప్రారంభించారు. మొదటి నెలలోనే దేశవ్యాప్తంగా ఈ హెల్ప్‌లైన్‌కు 373 కాల్స్ వచ్చాయని పోలీసులు తెలిపారు.

మీకు సంబంధించిన కంటెంట్ ఎవరైనా పోస్ట్ చేయడం చూస్తే, కంగారు పడొద్దని, ఈ విషయంలో చట్టపరమైన సహాయం ఎలా పొందవచ్చో ఆలోచించాలని నిపుణులు చెబుతున్నారు.

ఇలాంటి కేసులలో సాక్ష్యాధారాలు సేకరించడం ప్రాముఖ్యాన్ని వివరిస్తూ, ఫిర్యాదును ఎలా దాఖలు చేయవచ్చో ఉమా సుబ్రమణియన్ వివరించారు.

( బీబీసీ కోసం కలెక్టివ్ న్యూస్‌రూమ్ ప్రచురణ)

(బీబీసీ తెలుగును వాట్సాప్‌,ఫేస్‌బుక్, ఇన్‌స్టాగ్రామ్‌, ట్విటర్‌లో ఫాలో అవ్వండి. యూట్యూబ్‌లో సబ్‌స్క్రైబ్ చేయండి.)