नई दिल्ली। एलन मस्क समर्थित एआई चैटबॉट Grok से जुड़े अश्लील कंटेंट को लेकर केंद्र सरकार की सख्ती के बाद माइक्रोब्लॉगिंग प्लेटफॉर्म X ने अपनी गलती स्वीकार करते हुए बड़ा कदम उठाया है। सरकारी सूत्रों के मुताबिक, X ने करीब 3,500 आपत्तिजनक कंटेंट हटाए हैं और 600 से अधिक अकाउंट डिलीट किए हैं। साथ ही कंपनी ने भरोसा दिलाया है कि वह आगे से भारतीय कानूनों का पूरी तरह पालन करेगी।
यह कार्रवाई ऐसे समय में हुई है, जब दुनियाभर की सरकारें Grok एआई को लेकर कड़ी निगरानी बढ़ा रही हैं। खास तौर पर कंटेंट मॉडरेशन, डेटा सुरक्षा और गैर-सहमति से बनाए जा रहे यौन रूप से आपत्तिजनक व ‘डिजिटल अनड्रेसिंग’ वाले कंटेंट को लेकर X और Grok पर भारी दबाव है।
आईटी मंत्रालय की सख्ती
आईटी मंत्रालय ने 2 जनवरी को X को निर्देश दिया था कि Grok द्वारा बनाए गए सभी अश्लील, आपत्तिजनक और गैरकानूनी कंटेंट को तुरंत हटाया जाए, अन्यथा कानूनी कार्रवाई की जाएगी। मंत्रालय ने 72 घंटे के भीतर एक्शन टेकन रिपोर्ट (ATR) भी मांगी थी, जिसमें तकनीकी और संगठनात्मक उपायों, चीफ कंप्लायंस ऑफिसर की भूमिका, दोषी यूजर्स और अकाउंट्स पर की गई कार्रवाई तथा भविष्य में रोकथाम की व्यवस्था का विवरण देने को कहा गया था।
मंत्रालय ने साफ कहा था कि Grok एआई का दुरुपयोग कर महिलाओं की तस्वीरों और वीडियो को अश्लील व अपमानजनक तरीके से तैयार और प्रसारित किया जा रहा है, जो आईटी कानूनों का गंभीर उल्लंघन है।
सेफ हार्बर पर भी चेतावनी
सरकार ने X को चेताया कि आईटी एक्ट की धारा 79 के तहत मिलने वाली ‘सेफ हार्बर’ छूट तभी मिलेगी, जब प्लेटफॉर्म ड्यू डिलिजेंस का सख्ती से पालन करेगा। नियमों का उल्लंघन होने पर यह छूट खत्म हो सकती है और आईटी एक्ट व भारतीय न्याय संहिता के तहत कार्रवाई की जा सकती है।
शुरुआती जवाब से असंतुष्ट थी सरकार
X ने पहले जो जवाब दिया था, उसे सरकार ने अपर्याप्त बताया। मंत्रालय का कहना था कि कंपनी ने ठोस कार्रवाई, कंटेंट हटाने का ब्योरा और भविष्य की रोकथाम के उपाय स्पष्ट नहीं किए। इसके बाद सरकार ने रुख और सख्त किया।
अब X ने सरकार को बताया है कि उसने गलती मानी है, कंटेंट हटाया है और आगे से ऐसे किसी भी अश्लील या गैरकानूनी कंटेंट की अनुमति नहीं दी जाएगी।
वैश्विक दबाव भी बढ़ा
भारत के अलावा ब्रिटेन और यूरोपीय संघ ने भी Grok और X पर दबाव बढ़ाया है। ब्रिटिश प्रधानमंत्री कीयर स्टारमर ने इस मामले को “घिनौना” बताया है। ब्रिटेन के नियामक Ofcom ने X और xAI से संपर्क कर यह जानना चाहा है कि यूके में यूजर्स की सुरक्षा के लिए क्या कदम उठाए गए हैं।
वहीं यूरोपीय आयोग ने कथित तौर पर X से Grok से जुड़े सभी दस्तावेज लंबे समय तक सुरक्षित रखने को कहा है। अमेरिका में भी तीन डेमोक्रेटिक सीनेटरों ने Apple और Google से X और Grok को ऐप स्टोर्स से हटाने की मांग की है।
X का दावा
X के ‘सेफ्टी’ हैंडल ने कहा है कि प्लेटफॉर्म चाइल्ड सेक्सुअल एब्यूज मैटेरियल (CSAM) सहित किसी भी अवैध कंटेंट के खिलाफ सख्त कार्रवाई करता है। कंपनी का कहना है कि Grok के जरिए अवैध कंटेंट बनाने या फैलाने वालों पर वही कार्रवाई होगी, जो सीधे अवैध कंटेंट अपलोड करने वालों पर की जाती है।
फिलहाल, सरकार और वैश्विक नियामक X और Grok की गतिविधियों पर कड़ी नजर बनाए हुए हैं।
