గ్రోక్ ఏఐ అశ్లీల కంటెంట్ వివాదం: ‘ఎక్స్’ వివరణను పరిశీలిస్తున్న కేంద్రం
సోషల్ మీడియా ప్లాట్ఫారమ్ ‘ఎక్స్'లో అందుబాటులో ఉన్న 'గ్రోక్' అనే ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (ఏఐ) సాధనం దుర్వినియోగం అవుతుండటంపై భారత ప్రభుత్వం కఠినంగా వ్యవహరిస్తోంది. గ్రోక్ బాట్ ఉపయోగించి మహిళలు, చిన్నారులకు సంబంధించిన అశ్లీల చిత్రాలను సృష్టిస్తున్నారనే ఆరోపణలపై వివరణ ఇవ్వాలని ఐటీ శాఖ ఆదేశించగా, తాజాగా 'ఎక్స్' సంస్థ తన నివేదికను సమర్పించింది. ప్రస్తుతం కేంద్ర ఐటీ మంత్రిత్వ శాఖ ఈ నివేదికను క్షుణ్ణంగా పరిశీలిస్తోంది.
అసలు వివాదం ఏమిటి?
'ఎక్స్' ప్లాట్ఫారమ్లో అంతర్నిర్మితంగా ఉండే 'గ్రోక్ ఏఐ'ని ఉపయోగించి కొంతమంది వినియోగదారులు మహిళల అసభ్యకర చిత్రాలను, నకిలీ వీడియోలను (డీప్ఫేక్స్) సృష్టిస్తున్నారు. కేవలం నకిలీ ఖాతాల ద్వారానే కాకుండా, సాధారణ మహిళల ఫోటోలను కూడా ట్యాంపరింగ్ చేసి అశ్లీలంగా మారుస్తున్నట్లు ప్రభుత్వం గుర్తించింది. ఇది మహిళల గౌరవానికి భంగం కలిగించడమే కాకుండా, భారత ఐటీ చట్టాలను ఉల్లంఘించడమేనని మంత్రిత్వ శాఖ స్పష్టం చేసింది.
కేంద్రం హెచ్చరిక
జనవరి 2న ఐటీ శాఖ ‘ఎక్స్' సంస్థకు గట్టి వార్నింగ్ ఇచ్చింది. అశ్లీల, చట్టవిరుద్ధమైన కంటెంట్ను వెంటనే తొలగించాలని ఆదేశించింది. దీనిపై తీసుకున్న చర్యల గురించి బుధవారం సాయంత్రం 5 గంటల లోపు పూర్తి నివేదిక ఇవ్వాలని గడువు విధించింది. ఒకవేళ నిబంధనలు పాటించకపోతే, సోషల్ మీడియా సంస్థలకు ఉండే 'సేఫ్ హార్బర్' (వినియోగదారులు చేసే పోస్టులకు కంపెనీకి బాధ్యత ఉండదు అనే మినహాయింపు) రక్షణను తొలగిస్తామని, దానివల్ల కంపెనీపై నేరుగా క్రిమినల్ కేసులు నమోదవుతాయని ప్రభుత్వం హెచ్చరించింది.
'ఎక్స్' స్పందన
ప్రభుత్వ ఆదేశాలపై స్పందించిన 'ఎక్స్' యాజమాన్యం, తమ ప్లాట్ఫారమ్లో చట్టవిరుద్ధమైన కంటెంట్ను తాము ప్రోత్సహించబోమని తెలిపింది. ముఖ్యంగా చిన్నారులపై జరిగే లైంగిక వేధింపుల కంటెంట్ను తొలగించడంలో రాజీ పడబోమని, అలాంటి వారి ఖాతాలను శాశ్వతంగా తొలగిస్తామని పేర్కొంది. గ్రోక్ ఏఐ ద్వారా ఎవరైనా తప్పుడు కంటెంట్ను సృష్టించాలని ప్రయత్నిస్తే, వారు కూడా కఠిన చర్యలు ఎదుర్కోవాల్సి ఉంటుందని 'ఎక్స్' సేఫ్టీ విభాగం స్పష్టం చేసింది.
అంతర్జాతీయంగా నిరసనలు
కేవలం భారతదేశంలోనే కాకుండా బ్రిటన్, మలేషియా వంటి దేశాల్లో కూడా గ్రోక్ ఏఐపై ఫిర్యాదులు వెల్లువెత్తుతున్నాయి. బ్రిటన్ నియంత్రణ సంస్థ 'Ofcom' కూడా ఈ విషయంలో 'ఎక్స్' సంస్థను సంప్రదించింది. మహిళల గౌరవానికి భంగం కలిగించే చిత్రాలను సృష్టించకుండా సాంకేతికంగా ఎలాంటి రక్షణలు ఏర్పాటు చేశారో చెప్పాలని కోరింది. భారత ప్రభుత్వం కూడా ఇప్పుడు 'ఎక్స్' సమర్పించిన నివేదికను బట్టి తదుపరి చర్యలు తీసుకోనుంది.