सोशल मीडिया प्लेटफॉर्म X के AI टूल Grok के कथित दुरुपयोग को लेकर उठे विवाद के बीच X ने अपनी गलती मान ली है. सरकारी सूत्रों के मुताबिक, एलन मस्क के स्वामित्व वाले इस सोशल मीडिया प्लेटफॉर्म ने भरोसा दिलाया है कि वह भारतीय कानूनों का पूरी तरह पालन करेगा और भविष्य में इस तरह की सामग्री को बढ़ावा नहीं देगा.
आपत्तिजनक कंटेंट के मामले में, X ने अब तक करीब 3,500 आपत्तिजनक कंटेंट ब्लॉक कर दिए हैं और 600 से अधिक अकाउंट्स को डिलीट कर दिया है. साथ ही प्लेटफॉर्म ने यह भी स्पष्ट किया है कि आगे चलकर आपत्तिजनक इमेजरी को अनुमति नहीं दी जाएगी.
Parasakthi Movie Review: हिंदी थोपने के खिलाफ उठी आवाज़, 1960 के विद्रोह को ज़िंदा करती तमिल फिल्म
MeitY की चेतावनी के बाद तेज हुई कार्रवाई
यह पूरा घटनाक्रम तब सामने आया, जब Ministry of Electronics and Information Technology (MeitY) ने 2 जनवरी को X को पत्र भेजकर 72 घंटे के भीतर वैधानिक दायित्वों का पालन करने का निर्देश दिया था. हाल के दिनों में X पर यूजर्स की गतिविधियां तेजी से बढ़ी थीं, खासकर तब, जब इसका AI चैटबॉट Grok आपत्तिजनक कंटेंट को लेकर वायरल हुआ. इसके बाद लोग Grok का इस्तेमाल अलग-अलग विषयों पर जानकारी और संदर्भ पाने के लिए भी करने लगे थे.
महिलाओं को निशाना बनाने पर सरकार की सख्त आपत्ति
MeitY ने अपने पत्र में Grok के दुरुपयोग पर गहरी चिंता जताते हुए कहा था, कि इस AI टूल का इस्तेमाल कर अश्लील, भद्दी और आपत्तिजनक तस्वीरें व वीडियो तैयार किए जा रहे हैं. मंत्रालय के अनुसार, ये सामग्री खास तौर पर महिलाओं को निशाना बनाकर प्रॉम्प्ट्स, इमेज मैनिपुलेशन और सिंथेटिक आउटपुट के जरिए फैलाई जा रही थी. मंत्रालय ने साफ किया कि इस तरह का कंटेंट IT एक्ट, 2000 और IT (इंटरमीडियरी गाइडलाइंस एवं डिजिटल मीडिया एथिक्स कोड) नियम, 2021 का उल्लंघन है. साथ ही यह महिलाओं और बच्चों की गरिमा, निजता और सुरक्षा को नुकसान पहुंचाता है, जो प्लेटफॉर्म-स्तरीय सुरक्षा उपायों की विफलता को दर्शाता है.
More Read
सेफ हार्बर पर भी दी चेतावनी
MeitY ने X को याद दिलाया कि एक महत्वपूर्ण सोशल मीडिया मध्यस्थ के रूप में आईटी कानूनों का पालन करना अनिवार्य है. मंत्रालय ने चेतावनी दी थी कि नियमों का उल्लंघन होने पर X को आईटी एक्ट की धारा 79 के तहत मिलने वाली ‘सेफ हार्बर’ सुरक्षा से भी हाथ धोना पड़ सकता है, साथ ही आगे कानूनी कार्रवाई भी हो सकती है. साथ ही मंत्रालय ने X को निर्देश दिया था कि वह Grok का तकनीकी और गवर्नेंस स्तर पर व्यापक रिव्यू करे, यूजर पॉलिसी को सख्ती से लागू करे, गैरकानूनी कंटेंट को तुरंत हटाए और 72 घंटे के भीतर एक्शन टेकन रिपोर्ट जमा करे.
सरकारी सूत्रों के मुताबिक, X ने अब मंत्रालय की चिंताओं को स्वीकार कर लिया है, चिन्हित कंटेंट को हटाया है और भविष्य में अश्लील सामग्री के निर्माण व प्रसार को रोकने के लिए मजबूत सुरक्षा उपाय लागू करने का आश्वासन दिया है.
