नवी दिल्ली – एआय-निर्मित (Artificial Intelligence) आणि डीपफेक स्वरूपातील आक्षेपार्ह, दिशाभूल करणारे किंवा अश्लील साहित्य रोखण्यासाठी केंद्र सरकारने कठोर नियम लागू केले आहेत. नव्या आदेशानुसार, कोणत्याही प्लॅटफॉर्मवर आक्षेपार्ह एआय-निर्मित मजकूर, फोटो किंवा व्हिडिओ आढळल्यास तो तीन तासांच्या आत हटवणे बंधनकारक करण्यात आले आहे. नियमांचे उल्लंघन करणाऱ्या सोशल मीडिया कंपन्यांवर कडक कारवाईचा इशाराही देण्यात आला आहे.
माहिती तंत्रज्ञान मंत्रालयाने सर्व प्रमुख सोशल मीडिया प्लॅटफॉर्म, डिजिटल इंटरमीडियरी आणि कंटेंट होस्टिंग कंपन्यांना स्पष्ट निर्देश दिले आहेत की, डीपफेक किंवा एआयच्या माध्यमातून तयार केलेले दिशाभूल करणारे, बदनामीकारक अथवा समाजात तणाव निर्माण करणारे साहित्य तातडीने हटवावे. विशेषतः महिला आणि सार्वजनिक व्यक्तींविरोधात तयार होणाऱ्या बनावट व्हिडिओंच्या वाढत्या घटनांच्या पार्श्वभूमीवर हा निर्णय घेण्यात आल्याचे सूत्रांनी सांगितले.
सरकारने स्पष्ट केले आहे की, डीपफेक सामग्रीमुळे व्यक्तीची प्रतिमा मलिन होऊ शकते, सामाजिक अस्थिरता निर्माण होऊ शकते आणि निवडणूक प्रक्रियेलाही बाधा येऊ शकते. त्यामुळे डिजिटल प्लॅटफॉर्मनी ‘ड्यू डिलिजन्स’ पाळणे आणि तक्रार प्राप्त होताच त्वरित कारवाई करणे आवश्यक आहे. तीन तासांच्या आत संबंधित मजकूर हटवण्यात अपयश आल्यास आयटी कायद्यानुसार दंडात्मक कारवाई केली जाऊ शकते.
तसेच, प्लॅटफॉर्मना वापरकर्त्यांना स्पष्ट सूचना देणे, एआय-निर्मित सामग्रीला योग्य लेबल लावणे आणि तक्रार निवारण यंत्रणा अधिक सक्षम करणे बंधनकारक करण्यात आले आहे. सरकार लवकरच डीपफेक ओळखण्यासाठी तांत्रिक उपाययोजना आणि मार्गदर्शक तत्त्वेही जाहीर करणार असल्याची माहिती मिळते. डिजिटल युगात एआयचा वापर वाढत असताना त्याचा गैरवापर रोखणे ही मोठी जबाबदारी असल्याचे तज्ज्ञांचे मत आहे. सरकारच्या या निर्णयामुळे ऑनलाइन सुरक्षितता वाढेल आणि नागरिकांच्या गोपनीयतेचे रक्षण होईल, अशी अपेक्षा व्यक्त केली जात आहे.