Grok विवाद: अश्लील कंटेंट और डीपफेक को लेकर बढ़ी मुश्किलें
भारत में कार्रवाई के बाद ग्रोक ने 3,500 आपत्तिजनक कंटेंट किए ब्लॉक डीपफेक और अश्लील कंटेंट को लेकर इंडोनेशिया और मलेशिया में टेम्पोररी बैन भारत समेत कई देशों में कानून के तहत जांच के घेरे में एलन मस्क का AI प्लेटफॉर्म
Buisness news: एलन मस्क के एआई चैटबॉट Grok पर विवाद थमने का नाम नहीं ले रहा है। भारत में एआई के जरिए बनाए गए अश्लील और आपत्तिजनक कंटेंट को लेकर कड़ी कार्रवाई के बाद ग्रोक ने करीब 3,500 कंटेंट ब्लॉक किए हैं। इसके साथ ही प्लेटफॉर्म ने अपनी गलती स्वीकार करते हुए भारत के कानूनों का पालन करने की बात कही है। हालांकि, भारत के बाद अब दो और देशों ने ग्रोक पर बैन लगा दिया है। एलन मस्क के इस एआई प्लेटफॉर्म पर डीपफेक और आपत्तिजनक कंटेंट फैलाने के आरोपों के चलते यह कार्रवाई की गई है।
इन दो देशों में लगा ग्रोक पर बैन
एलन मस्क के एआई चैटबॉट Grok को इंडोनेशिया और मलेशिया में टेम्पोररी बैन कर दिया गया है। xAI के इस एजेंटिक चैटबॉट को लेकर दुनियाभर में आलोचना हो रही है। भारत, यूरोप, इंडोनेशिया और मलेशिया में ग्रोक पर एआई से जनरेट किए गए अश्लील और आपत्तिजनक कंटेंट को लेकर कार्रवाई की गई है। इन देशों की ओर से ग्रोक को तलब किया गया था, क्योंकि प्लेटफॉर्म पर एआई के जरिए बनाया गया आपत्तिजनक कंटेंट तेजी से फैल रहा था।
मलेशिया और इंडोनेशिया की सख्त कार्रवाई
मलेशिया कम्युनिकेशन एंड मल्टीमीडिया कमीशन (MCMC) ने अपने आधिकारिक X हैंडल से जानकारी दी कि Grok को तत्काल प्रभाव से मलेशिया में ब्लॉक कर दिया गया है। वहीं, इंडोनेशिया की कम्युनिकेशन और डिजिटल मिनिस्टर Meutya Hafid ने भी ग्रोक की सर्विस पर बैन को लेकर आधिकारिक बयान जारी किया है। मलेशिया की सरकारी एजेंसी MCMC का कहना है कि ग्रोक के जरिए पोर्नोग्राफिक और अश्लील कंटेंट जेनरेट किए जाने के कई मामले सामने आए हैं। इसके बावजूद प्लेटफॉर्म ने इसे रोकने के लिए कोई ठोस कदम नहीं उठाए।
डीपफेक कंटेंट पर नहीं लग रही रोक
Grok एआई के जरिए बनाए जा रहे आपत्तिजनक कंटेंट में महिलाओं और बच्चों की तस्वीरें भी शामिल हैं, जो सीधे तौर पर कानून का उल्लंघन है। इसे लेकर X और xAI दोनों को 3 जनवरी और 8 जनवरी को नोटिस जारी किए गए थे और प्रभावी कार्रवाई करने के निर्देश दिए गए थे। MCMC ने यह भी कहा कि X प्लेटफॉर्म पर केवल यूजर-इनिशिएटेड रिपोर्टिंग सिस्टम मौजूद है। एआई टूल्स से होने वाले डायरेक्ट जोखिम को रोकने के लिए कोई मजबूत मैकेनिज्म नहीं है, जिसके चलते एआई से बनाए गए रियल जैसे दिखने वाले डीपफेक तेजी से फैल रहे हैं। इसी वजह से ग्रोक पर टेम्पोररी बैन लगाया गया है।
