एलॉन मस्कच्या xAI च्या ग्रोक एआयने अश्लील, नग्न आणि बेकायदेशीर सामग्री तयार करण्यास सुरुवात केल्याने भारत सरकारने सोशल मीडिया प्लॅटफॉर्म X वर कडक कारवाईचा बाट मारला आहे. २ जानेवारीला इलेक्ट्रॉनिक्स आणि आयटी मंत्रालयाने X ला पत्र लिहून ग्रोकच्या गैरवापराचा अहवाल मागितला होता. मात्र, सुधारणा न झाल्याने ६ जानेवारीला संपलेल्या ७२ तास मुदतीनंतर आणखी ७२ तासांची मुदत दिली आहे. IT कायदा २००० आणि IT नियम २०२१ चे उल्लंघन होत असल्याचे मंत्रालयाने नमूद केले आहे.

महिलांच्या प्रतिमा अश्लील बनवणे, मुलांवर डिजिटल हल्ले

सरकारच्या पत्रात ग्रोक AI च्या माध्यमातून महिलांच्या प्रतिमा लैंगिकदृष्ट्या अपमानास्पद पद्धतीने सादर केल्या जात असल्याचे म्हटले. खऱ्या प्रतिमांना डिजिटल बदल करून पोर्नोग्राफिक बनवले जातात. बनावट खात्यांद्वारे हे केले जाते, ज्यामुळे पीडितांना तक्रार करणे कठीण होते. मुलांच्या छायाचित्रांवरही हल्ले होत आहेत. यूके मीडियानुसार, १० वर्षांच्या मुलांच्या प्रतिमा बदलल्या गेल्या. यूके ऑफकॉम आणि युरोपियन कमिशनने X व xAI कडून जबाबदारी मागितली. एआय फॉरेन्सिक्स अहवालात ग्रोकद्वारे तयार केलेल्या प्रतिमा ऑनलाइन असल्याचे उघड झाले.

X चे विधान अपुरे; प्लॅटफॉर्म अपयश

X ने सांगितले, अश्लील सामग्री तयार करणाऱ्या खात्यांवर बंदी घालू. एलॉन मस्क यांनी एआयने बेकायदेशीर सामग्री तयार केल्यास गुन्हा असल्याचे मान्य केले. मात्र, प्रत्यक्षात सामग्री फिरत राहिल्याने प्लॅटफॉर्मच्या सुरक्षा व्यवस्थेवर प्रश्न उपस्थित झाले. तज्ञ म्हणतात, संमतीशिवाय प्रतिमा बदलणे म्हणजे डिजिटल लैंगिक छळ. भारत, यूके, युरोपमध्ये चिंता वाढली असून, कायद्याने कारवाई अपरिहार्य आहे.