Grok AI विवाद: X ने मानी चूक, 3,500 पोस्ट ब्लॉक, 600 से अधिक अकाउंट्स हटाए

जुबिली स्पेशल डेस्क 

सोशल मीडिया प्लेटफॉर्म X ने अपने AI टूल Grok से जुड़े अश्लील और आपत्तिजनक कंटेंट विवाद पर अपनी गलती स्वीकार कर ली है।

कंपनी ने भारत सरकार को भरोसा दिलाया है कि वह भारतीय कानूनों और आईटी नियमों के अनुसार ही काम करेगी। सरकारी सख्ती के बाद X ने अब तक करीब 3,500 आपत्तिजनक पोस्ट को ब्लॉक किया है, जबकि 600 से अधिक अकाउंट्स को प्लेटफॉर्म से स्थायी रूप से हटाया गया है।

यह कार्रवाई ऑनलाइन अश्लीलता, फेक प्रोफाइल और महिलाओं को निशाना बनाए जाने से जुड़े मामलों पर बढ़ती चिंता के बीच की गई है। X ने आगे कंटेंट मॉडरेशन सिस्टम को और सख्त करने का भी वादा किया है।

Grok विवाद में क्या हुआ

हाल ही में भारत सरकार ने X के AI टूल Grok के जरिए अश्लील और आपत्तिजनक कंटेंट फैलाए जाने को लेकर गंभीर चिंता जताई थी। सरकारी एजेंसियों के अनुसार, Grok का इस्तेमाल फर्जी प्रोफाइल बनाने, महिलाओं को ऑनलाइन परेशान करने और उन्हें निशाना बनाने में किया जा रहा था।

इमेज एडिटिंग, सिंथेटिक कंटेंट और गलत प्रॉम्प्ट्स के जरिए महिलाओं की तस्वीरों और वीडियो के दुरुपयोग के मामले सामने आए थे। इसी को लेकर सरकार ने X से जवाब मांगा था और कड़ी कार्रवाई की चेतावनी दी थी।

कितनी पोस्ट और अकाउंट्स पर कार्रवाई

सरकारी सूत्रों के मुताबिक, X ने इस मामले में अब तक लगभग 3,500 आपत्तिजनक पोस्ट को ब्लॉक किया है। इसके साथ ही अश्लील और गैरकानूनी कंटेंट फैलाने में शामिल पाए गए 600 से ज्यादा अकाउंट्स को प्लेटफॉर्म से हटा दिया गया है।

X का दावा है कि भविष्य में इस तरह के कंटेंट को तेजी से पहचानने और हटाने के लिए उसके सिस्टम और मॉनिटरिंग मैकेनिज्म को मजबूत किया जाएगा।

अब तक की कार्रवाई का पूरा घटनाक्रम

2 जनवरी को इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने X को आदेश दिया था कि वह Grok से जुड़े सभी अश्लील, भद्दे और गैरकानूनी कंटेंट को तत्काल हटाए। मंत्रालय ने स्पष्ट किया था कि आदेश की अनदेखी करने पर आईटी एक्ट और अन्य कानूनों के तहत कार्रवाई की जाएगी।

X को 72 घंटे के भीतर एक विस्तृत ‘एक्शन टेकन रिपोर्ट’ सौंपने को कहा गया था। 8 जनवरी को X ने अपनी रिपोर्ट सरकार को सौंपी, जिसे सरकार ने विस्तृत तो माना, लेकिन पर्याप्त नहीं बताया। इसके बाद कंपनी को सुधार के लिए अतिरिक्त 72 घंटे का समय दिया गया।

कंटेंट मॉडरेशन में आगे क्या बदलेगा

सरकारी सूत्रों के अनुसार, X ने भरोसा दिया है कि वह भारतीय कानूनों के अनुरूप अपने कंटेंट मॉडरेशन सिस्टम को और सख्त करेगा। कंपनी ने कहा है कि अब आपत्तिजनक कंटेंट, संदिग्ध यूजर्स और अकाउंट्स पर पहले से कहीं तेज कार्रवाई की जाएगी। इसके अलावा अनिवार्य रिपोर्टिंग, निगरानी और तकनीकी नियंत्रण को भी मजबूत किया जाएगा।