Indonesia ने AI चैटबॉट Grok पर लगाया प्रतिबंध, अश्लील डीपफेक कंटेंट बना वजह

Indonesia सरकार ने एलन मस्क की कंपनी xAI द्वारा विकसित AI चैटबॉट ‘Grok’ को देश में अस्थायी रूप से बैन कर दिया है. यह फैसला AI-जनित अश्लील और डीपफेक कंटेंट से जुड़ी गंभीर चिंताओं के बाद लिया गया है.

इंडोनेशिया के कम्युनिकेशन एंड डिजिटल अफेयर्स मंत्रालय ने कहा कि Grok के इमेज जेनरेशन फीचर के जरिए बिना सहमति के अश्लील डीपफेक तस्वीरें बनाए जाने का खतरा सामने आया है, जो देश के डिजिटल कानूनों और सामाजिक मूल्यों का उल्लंघन है.

Indonesia सरकार ने क्यों उठाया यह कदम?

सरकारी बयान के अनुसार, Grok AI के जरिए पोर्नोग्राफिक और यौन-शोषण से जुड़ा कंटेंट तैयार किया जा सकता है. यह मानव गरिमा, निजता और डिजिटल सुरक्षा के लिए गंभीर खतरा है. इंडोनेशिया के सख्त एंटी-पोर्नोग्राफी और साइबर सुरक्षा कानूनों के तहत यह अस्वीकार्य है.

X (ट्विटर) से मांगा गया जवाब

इंडोनेशियाई सरकार ने X (पूर्व में ट्विटर) के स्थानीय प्रतिनिधियों को भी तलब किया है। सरकार ने स्पष्ट किया है कि जब तक Grok में मजबूत कंटेंट मॉडरेशन, डीपफेक रोकने के ठोस उपाय, और कानूनी अनुपालन की गारंटी नहीं दी जाती, तब तक प्रतिबंध जारी रहेगा.

वैश्विक स्तर पर बढ़ रहा विवाद

Grok AI पहले भी कई देशों में विवादों में रहा है। खासकर इसके AI इमेज जनरेशन फीचर को लेकर सवाल उठते रहे हैं, जिसमें सेलिब्रिटी और आम लोगों की फर्जी, आपत्तिजनक तस्वीरें बनाए जाने की आशंका जताई गई है.

डिजिटल एक्सपर्ट्स का मानना है कि यह मामला आने वाले समय में AI रेगुलेशन को लेकर वैश्विक बहस को और तेज कर सकता है.

इंडोनेशिया सरकार ने संकेत दिया है कि यदि xAI और X प्लेटफॉर्म आवश्यक सुधार और सुरक्षा उपाय लागू करते हैं, तो भविष्य में Grok पर से प्रतिबंध हटाया जा सकता है.