మెటా: ప్రభుత్వం ఆదేశించిన తరువాత కూడా ఇండియాలో చిన్నారులపై లైంగిక వేధింపుల యాడ్స్‌ను ఈ సంస్థ ప్రోత్సహిస్తోందా?

హెచ్చరిక: ఈ కథనంలో లైంగిక హింసకు సంబంధించిన వివరణలు ఉన్నాయి

పిల్లలపై లైంగిక వేధింపులకు సంబంధించి కృత్రిమ మేథతో రూపొందించిన చిత్రాలతో గత 10 నెలలుగా మెటా సంస్థ వందలాది పెయిడ్ ప్రకటనలను తన ఫ్లాట్‌ఫామ్స్‌పై నడిపిందని, వాటిలో కొన్ని భారత్‌లోనూ ఉన్నాయని అమెరికాకు చెందిన ఉద్యమ సంస్థ తాజా నివేదిక తెలిపింది.

పిల్లలపై లైంగిక వేధింపులను ప్రోత్సహించే కంటెంట్ మెటీరియల్ (సీఎస్‌ఏఎం) పెయిడ్ ప్రకటనలను భారత్‌లో ఇన్‌స్టాగ్రామ్ నడుపుతోందని బీబీసీ ఐ ఇన్విస్టిగేషన్ ఇటీవలే వెల్లడించింది. దీంతో ఇన్‌స్టాగ్రామ్ నుంచి సీఎస్ఏఎంను తొలగించాలని భారత్ మెటాను ఆదేశించిన రెండు నెలల తరువాత ఈ నివేదిక వెలువడింది.

ఫేస్‌బుక్, ఇన్‌స్టాగ్రామ్‌లో సీఎస్ఏఎంతో కూడిన 332 ప్రకటనలను వాషింగ్టన్‌ కేంద్రంగా పనిచేసే టెక్ ట్రాన్స్‌పరెన్సీ ప్రాజెక్ట్ (టీపీపీ) గుర్తించింది. వీటిలో అత్యధిక ప్రకటనలు ఈ ఏడాది ఆగస్టులోనే కనిపించాయి.

దీనిపై బీబీసీ మెటాను సంప్రదించింది. ‘‘నిజమైనవైనా, కృత్రిమ మేథతో రూపొందించినవైనా.. పిల్లలను లైంగికంగా దోపిడీ చేసే ఎలాంటి చర్యలనూ, అశ్లీల యాప్‌లనూ మేం సహించం. ఈ నేరస్థులు తమను గుర్తించకుండా తప్పించుకోవడానికి నిరంతరం తమ పద్ధతులను మార్చుకుంటుంటారు. ఇలాంటివాటిని గుర్తించే మా భదత్రా చర్యలను ఎప్పటికప్పుడు బలోపేతం చేస్తున్నాం’’ అని మెటా ఓ ప్రకటనలో తెలిపింది.

అనేకమంది నిజమైన చిన్నపిల్లల ఫోటోలను ఈ ప్రకటనల్లో గుర్తించినట్టు టీపీపీ మంగళవారం ప్రచురించిన తమ నివేదికలో తెలిపింది. వీటిల్లో ఒక యూరోపియన్‌ రాజకుటుంబానికి చెందిన వ్యక్తి ఫోటో కూడా ఉంది. యాడ్స్‌లో వచ్చిన ఈ ఫోటోను తీసుకుని ఏఐ సాయంతో మార్చినట్లు నివేదిక తెలిపింది. తాము కనిపెట్టిన విషయాలను మెటా దృష్టికి తీసుకెళ్లిన తర్వాత కూడా డజనుకు పైగా ప్రకటనలు మెటా ప్లాట్‌ఫామ్‌లలో కనిపించాయని టీపీపీ పేర్కొంది.

మొత్తం ప్రకటనల్లో దాదాపు నాలుగో వంతు అంటే 84 ప్రకటనలు భారత్‌లో కనిపించాయి. వీటిలో 78 ప్రకటనలు, సీఎస్ఏఎంను తొలగించాలని భారత్ ఆదేశించిన తర్వాత, అలాగే మెటా ఉన్నతాధికారులతో ప్రభుత్వం సమావేశమైన తర్వాత ప్రచురితమయ్యాయి.

బీబీసీ రిపోర్టు తర్వాత, ఈ వ్యవహారంపై దర్యాప్తు చేస్తున్నామని బాలల హక్కుల పరిరక్షణ జాతీయ కమిషన్, మానవ హక్కుల జాతీయ కమిషన్ సహా పలు భారతీయ సంస్థలు తెలిపాయి.

వందలాది ప్రకటనలు

భారత్‌లో సీఎస్ఏఎంను పంపిణీ చేయడం నేరం. పిల్లలను లైంగికంగా దోపిడీ చేసే లేదా వారికి ప్రమాదం కలిగించే కంటెంట్‌ ప్రకటనల్లో ఉండరాదని మెటా విధానం కూడా స్పష్టం చేస్తోంది.

బీబీసీ తన దర్యాప్తు గురించి మెటాను సంప్రదించినప్పుడు, పిల్లలపై లైంగిక దోపిడీ జరిగినట్లు అనుమానించే విషయం తమ దృష్టికి వచ్చినప్పుడు, చట్టపరమైన బాధ్యతలకు అనుగుణంగా దానిని అమెరికాకు చెందిన నేషనల్‌ సెంటర్‌ ఫర్‌ మిస్సింగ్‌ అండ్‌ ఎక్స్‌ప్లాయిటెడ్‌ చిల్డ్రన్‌ (ఎన్‌సీఎంఈసీ)కు నివేదిస్తామని మెటా తెలిపింది. ఎన్‌సీఎంసీ అనేది ఆన్‌లైన్‌లో పిల్లలపై జరిగే లైంగిక దోపిడీకి సంబంధించిన సమాచారాన్ని ప్రపంచవ్యాప్తంగా నివేదించే కేంద్రీకృత వ్యవస్థ.

భారత్‌లో పిల్లలపై హింస నివారణపై పనిచేస్తున్న 250కి పైగా సంస్థల నెట్‌వర్క్‌ ‘జస్ట్‌ రైట్స్‌ ఫర్‌ చిల్డ్రన్‌’ వ్యవస్థాపకుడు భువన్‌ రిభు మాత్రం ఇది సరిపోదని అంటున్నారు.

బీబీసీ ఇన్వెస్టిగేషన్‌లో వెల్లడైన అంశాలను ప్రస్తావిస్తూ జస్ట్‌ రైట్స్‌ ఫర్‌ చిల్డ్రన్‌ సుప్రీంకోర్టులో పిటిషన్‌ దాఖలు చేసింది. పిల్లలపై లైంగిక వేధింపులకు సంబంధించిన మెటీరియల్‌ను ప్రోత్సహించే వారిని తప్పనిసరిగా రిపోర్టు చేయడం, గుర్తించడం కోసం సోషల్‌ మీడియా ప్లాట్‌ఫామ్‌లకు ఆదేశాలు ఇవ్వాలని కోరింది.

"మన బాలల హక్కుల పరిరక్షణ చట్టాల ప్రకారం, బాలలపై లైంగిక వేధింపులకు సంబంధించిన సమాచారాన్ని భారత దర్యాప్తు సంస్థలకు నివేదించడం తప్పనిసరి. కానీ అలా చేయకపోవడం ద్వారా, సోషల్ మీడియా కంపెనీలు భారత చట్టాలను స్పష్టంగా ఉల్లంఘిస్తున్నాయి" అని రిభు అన్నారు.

పెద్ద టెక్నాలజీ కంపెనీలను జవాబుదారీగా నిలబెట్టేందుకు ఉద్యమించే లాభాపేక్షలేని సంస్థ ‘క్యాంపెయిన్‌ ఫర్‌ అకౌంటబిలిటీ’కి చెందిన పరిశోధనా విభాగమే టీటీపీ. అమెరికా, బ్రిటన్‌, యూరోపియన్‌ యూనియన్‌, ఆస్ట్రేలియా, భారత్‌లలో ఇన్‌స్టాగ్రామ్‌, ఫేస్‌బుక్‌లలో సీఎస్ఏఎంతో కూడిన 332 ప్రకటనలు నడుస్తున్నట్లు ఆ సంస్థ తెలిపింది. ఈ ప్రకటనలన్నింటినీ ఎన్‌సీఎంఈసీకు నివేదించినట్లు పేర్కొంది.

పిల్లవాడితో మొదలై...

దాదాపు తాము గుర్తించిన అన్ని ప్రకటనలలో మొదట ఒక పిల్లవాడి ఫోటోతో ప్రారంభమవుతాయి. వీడియో కొనసాగుతున్న కొద్దీ, ఆ ఫోటోను ఏఐ సాయంతో మార్చి, ఆ పిల్లవాడు స్పష్టమైన లైంగిక చర్యకు పాల్పడుతున్నట్లు చూపిస్తారని టీపీపీ తెలిపింది.

యుక్తవయస్సుకు ముందు ఉన్న ఒక బాలిక ఫోటోను యానిమేట్‌ చేసి, ఆమె లైంగిక చర్యకు పాల్పడుతున్నట్లు స్పష్టంగా చూపించారు. దానికి జత చేసిన వాయిస్‌ఓవర్‌లో, "ఎలాంటి పరిమితులు లేవు. పాత్రలన్నీ నిజమైన వ్యక్తులే, చాలా ఆప్షన్లు ఉన్నాయి. నిజ జీవితంలో పురుషులు ఉపయోగించే ఏఐ ఇదే" అని చెబుతారని భారత్‌లో నడిచిన ఒక ప్రకటనను టీటీపీ వివరించింది. అయితే ఈ ప్రకటనను బీబీసీ చూడలేదు.

ఈ ఏడాది ఆగస్టులో రెండు వారాల వ్యవధిలో భారత్‌లో 50కి పైగా వేర్వేరు హ్యాండిళ్ల ద్వారా ఈ ప్రకటనను పోస్టు చేసినట్లు టీటీపీ తెలిపింది.

బీబీసీ పరిశీలన తర్వాత జులైలో, తన యాప్‌లలో పిల్లలపై జరిగే దోపిడీని ఎలా ఎదుర్కొంటుందనే విషయాన్ని మెటా తన వెబ్‌సైట్‌లో సవివరంగా ప్రచురించింది.

''మా ఫ్లాట్‌ఫామ్‌లోని ఏ ప్రకటననైనా మా విధానాలను ఉల్లంఘించాయని భావిస్తే, వాటిపై ఎవరైనా ఫిర్యాదు చేయవచ్చు'' అని మెటా తెలిపింది.

మెటా సొంత రిపోర్టింగ్ వ్యవస్థ ద్వారా ఈ ప్రకటనలను రిపోర్ట్ చేయడానికి తాము ప్రయత్నించామని టీటీపీ తెలిపింది. భారత్‌లో నడిచిన 84 ప్రకటనల్లో 55 ప్రకటనలను తాము రిపోర్ట్ చేయగలిగామని పేర్కొంది. ప్రకటనలు ప్రత్యక్షంగా నడుస్తున్న సమయంలో మాత్రమే మెటా వాటిని రిపోర్ట్ చేసే అవకాశం ఇస్తుంది.

అయితే టీటీపీ రిపోర్ట్ చేసిన 55 ప్రకటనలల్లో 43 ప్రకటనలకు సంబంధించి మెటా జవాబు ఇచ్చింది. "మేం వాటిని పరిశీలించాం. అవి మా ప్రకటనల ప్రమాణాలకు విరుద్ధంగా లేవని గుర్తించాం"అని టీటీపీకి మెటా సమాధానమిచ్చింది.

మరో 11 ప్రకటనల విషయంలో, ఆ కంటెంట్‌ను ఇప్పటికే తొలగించినట్లు వారికి తెలిపారు. ఒక ప్రకటన విషయంలో మాత్రం తమకు ఇంకా ఎలాంటి సమాధానం రాలేదని టీటీపీ తెలిపింది.

దీనిపై బీబీసీ మెటాను సంప్రదించింది. "ఉల్లంఘనలకు పాల్పడే ప్రకటనలను అడ్డుకునే వ్యవస్థలతో పాటు, తొలుత ఏదైనా మా దృష్టికి రాకపోతే గుర్తించేందుకు నిరంతర పర్యవేక్షణ వంటి బలమైన రక్షణ వ్యవస్థలను మేం ఏర్పాటు చేశాం. అందుకే మాకు రిపోర్ట్ చేసిన అనేక ప్రకటనలను అప్పటికే తొలగించాం. వాటిలో చాలా ప్రకటనలకు 200 కంటే తక్కువ ఇంప్రెషన్లు వచ్చాయి. మొత్తం ప్రకటనల కోసం చేసిన ఖర్చు 5,000 డాలర్ల కంటే తక్కువే'' అని మెటా తెలిపింది.

తాము రిపోర్ట్ చేసిన ప్రకటనలపై స్పందన కోరుతూ మెటాను సంప్రదించినప్పుడు, వాటన్నింటినీ మెటా తొలగించిందని టీటీపీ తెలిపింది.

బీబీసీ ఇన్వెస్టిగేషన్ సమయంలోనూ ఇదే తరహాలో జరిగింది. పిల్లలపై లైంగిక వేధింపులకు సంబంధించిన కంటెంట్‌తో ఉన్న ప్రకటనల్లో ఒకదాన్ని మెటా రిపోర్టింగ్ వ్యవస్థ ద్వారా ఇన్‌స్టాగ్రామ్‌కు బీబీసీ రిపోర్ట్ చేసినప్పుడు , ఆ ప్లాట్‌ఫామ్‌ దానిని తొలగించలేదు.

ఆ తర్వాత బీబీసీ మెటా స్పందన కోరగా, అప్పటికే పలు ప్రకటనలను నిలిపివేసి, వాటిని పోస్టు చేసిన ఖాతాలను సస్పెండ్‌ చేసినట్లు తెలిపింది. బీబీసీ ఇన్వెస్టిగేషన్‌లో వెల్లడైన అంశాలకు స్పందనగా మరిన్ని ప్రకటనలను తొలగించామని, మరిన్ని ఖాతాలను నిలిపివేశామని, తమ విధానాలను ఉల్లంఘించే ఇతర కంటెంట్‌కు సంబంధించిన యూఆర్‌ఎల్‌లను బ్లాక్‌ చేశామని కంపెనీ తెలిపింది.

తాము గుర్తించిన 332 ప్రకటనల్లో అత్యధికం వినియోగదారులను ఏఐతో చిత్రాలు లేదా వీడియోలను రూపొందించే యాప్‌లకు మళ్లించాయని టీటీపీ తెలిపింది. వీటిలో ఎక్కువ భాగం చైనా డెవలపర్లు రూపొందించిన యాప్‌లేనని పేర్కొంది.

పిల్లలపై లైంగిక వేధింపులకు సంబంధించిన చిత్రాలను ఉపయోగించిన ఈ యాప్‌ల ప్రకటనలకు అనుమతివ్వడం ద్వారా, వాటిని సీఎస్ఏఎంను రూపొందించడానికి లేదా వీక్షించడానికి ఉపయోగించవచ్చనే భావన కలుగుతోందని నివేదిక పేర్కొంది.

ఏఐ సాయంతో నకిలీ, అనుమతి లేని నగ్న లేదా లైంగికంగా స్పష్టమైన చిత్రాలను రూపొందించే 'న్యూడిఫై' యాప్‌ల ప్రచారాన్ని తాము నిషేధిస్తున్నామని మెటా తెలిపింది.

ఒక ఫ్లాట్‌ఫామ్ నుంచి మరో ఫ్లాట్‌ఫామ్‌పైకి..

భారత్‌లోని టాప్ సైబర్ అధికారులలో ఒకరైన తెలంగాణ సైబర్‌ సెక్యూరిటీ బ్యూరో డైరెక్టర్‌, శిఖా గోయల్‌ బీబీసీతో మాట్లాడుతూ , సీఎస్ఏఎం విషయంలో అతిపెద్ద సవాళ్లలో ఒకటి "వినియోగదారులు ఒక ప్లాట్‌ఫామ్‌ నుంచి మరో ప్లాట్‌ఫామ్‌కు చాలా సులభంగా మారిపోగలగడం. దీనివల్ల వారిని పట్టుకోవడం మరింత కష్టమవుతోంది" అన్నారు.

"సోషల్‌ మీడియా మధ్యవర్తులతో ప్రభుత్వం తాజాగా జరుపుతున్న చర్చల్లో ఈ అంశాన్ని పరిష్కరిస్తుందని, తదనుగుణంగా వారికి ఆదేశాలు ఇస్తుందని ఆశిస్తున్నాం" అన్నారు.

బీబీసీ తన దర్యాప్తులో ఈ ప్రకటనలను గుర్తించినప్పుడు కూడా, అవి యూజర్లను టెలిగ్రామ్‌ మెసెజింగ్ యాప్ వైపు మళ్లించాయి. అక్కడ వారు ఈ మెటీరియల్‌ను కేవలం 99 రూపాయలకు కొనుగోలు చేయగలిగారు.

సీఎస్ఎఏంను అరికట్టడానికి తమ సంస్థ ఆటోమేటెడ్ వ్యవస్థలతోపాటు , మానవ పర్యవేక్షణను కూడా ఏర్పాటు చేసినట్టు ఆ సమయంలో టెలిగ్రామ్ బీబీసీకి చెప్పింది. తన ప్లాట్‌ఫామ్‌లో సీఎస్ఏఎం బహిరంగంగా వ్యాప్తి చెందడాన్ని "దాదాపు పూర్తిగా నిర్మూలించాం" అని పేర్కొంది.

మెటా ప్లాట్‌ఫామ్‌లలో ప్రకటనలు ప్రచురితమయ్యే ముందు, వాటిని ముందుగా దాని మోడరేషన్‌ సాంకేతిక వ్యవస్థ ఆమోదించాలి. ఆ సమీక్ష వ్యవస్థ ప్రధానంగా ఆటోమేషన్‌పై ఆధారపడి ఉంటుంది. చిత్రాలు, వీడియోలు, టెక్స్ట్‌, ఆడియోతో పాటు ప్రకటన ఎవరిని లక్ష్యంగా చేసుకుంది, అందులోని లింకులు వినియోగదారులను ఎక్కడికి తీసుకెళ్తాయన్నదీ అది పరిశీలించేలా రూపొందించారు.

బీబీసీ రిపోర్టు తర్వాత మెటా స్పందిస్తూ, "ఏ వ్యవస్థా పరిపూర్ణం కాదు" అని, "నేరస్థులు మా ప్రకటన వ్యవస్థలతో సహా మా ప్లాట్‌ఫామ్‌ను దుర్వినియోగం చేసేందుకు ప్రయత్నిస్తూనే ఉంటారు" అని తెలిపింది.

అయితే, పిల్లలపై లైంగిక వేధింపులకు సంబంధించిన కంటెంట్‌తో ఉన్న పలు ప్రకటనలను చైనాలోని మెటా సొంత ప్రకటనల ఏజెన్సీ భాగస్వాములే ప్రచురించినట్లు టీటీపీ గుర్తించింది.

"రీ-సెల్లర్లు"గా పిలిచే ఈ భాగస్వాములు, చైనాకు చెందిన బిలియన్ల డాలర్ల విలువైన ప్రకటనలను ఫేస్‌బుక్‌, ఇన్‌స్టాగ్రామ్‌లలోకి చేర్చేలా వ్యవహరిస్తారు. టీటీపీ అడిగిన ప్రశ్నలకు ఈ భాగస్వాములు స్పందించలేదు.

తమ నివేదికలోని అంశాలను మెటా దృష్టికి తీసుకెళ్లిన తర్వాత కూడా కొత్త ప్రకటనలు కనిపిస్తూనే ఉన్నాయని టీటీపీ తెలిపింది. సెప్టెంబర్‌ 1, 2 తేదీల్లో భారత్‌లో నడిచిన 11 ప్రకటనలు సహా మొత్తం 17 ప్రకటనలకు సంబంధించిన వివరాలను అది షేర్ చేసింది.

(బీబీసీ కోసం కలెక్టివ్ న్యూస్‌రూమ్ ప్రచురణ)

(బీబీసీ తెలుగును వాట్సాప్‌,ఫేస్‌బుక్, ఇన్‌స్టాగ్రామ్‌, ట్విటర్‌లో ఫాలో అవ్వండి. యూట్యూబ్‌లో సబ్‌స్క్రైబ్ చేయండి.)