X ने नियमों के उल्लंघन पर मांगी माफी, भारत में AI के दुरुपयोग और अश्लील सामग्री पर कसेगी नकेल

सरकारी सूत्रों के अनुसार, सोशल मीडिया प्लेटफॉर्म एक्स ने अपनी गलती स्वीकार कर ली है और अपने कंटेंट मॉडरेशन मानकों में खामियों को माना है। उसने भारत सरकार को यह भी बताया है कि वह भारतीय कानून का पूरी तरह से पालन करेगा और नियमों के अनुसार काम करेगा।

यह मुद्दा तब सामने आया जब प्लेटफॉर्म पर अश्लील और यौन रूप से स्पष्ट सामग्री के प्रसार को लेकर चिंताएं जताई गईं, जिसमें कथित तौर पर इसकी कृत्रिम बुद्धिमत्ता उपकरण, ग्रोक के माध्यम से उत्पन्न या प्रसारित सामग्री भी शामिल है।

सरकारी सूत्रों के अनुसार, लगभग 3,500 अश्लील सामग्री को ब्लॉक कर दिया गया है और 600 से अधिक खाते हटा दिए गए हैं। प्लेटफॉर्म ने यह भी आश्वासन दिया है कि वह भविष्य में अश्लील छवियों की अनुमति नहीं देगा।

पिछले सप्ताह इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने X कॉर्प (पूर्व में ट्विटर) के भारत संचालन के मुख्य अनुपालन अधिकारी को नोटिस भेजा और ग्रोक और X एआई की अन्य सेवाओं जैसी एआई आधारित सेवाओं के दुरुपयोग के माध्यम से अश्लील, नग्न, अभद्र और यौन रूप से स्पष्ट सामग्री की मेजबानी, उत्पादन, प्रकाशन, प्रसारण, साझाकरण या अपलोडिंग के तत्काल अनुपालन या रोकथाम के लिए 72 घंटों के भीतर विस्तृत कार्रवाई रिपोर्ट मांगी।

इसी बीच, राज्यसभा सांसद प्रियंका चतुर्वेदी ने सोशल मीडिया प्लेटफॉर्म X की आलोचना करते हुए कहा कि ग्रोक के माध्यम से आपत्तिजनक और यौन उत्तेजक छवियों के निर्माण को पूरी तरह से रोकने के बजाय इसे केवल सशुल्क उपयोगकर्ताओं तक ही सीमित रखा जाना चाहिए।

अपने पोस्ट में उन्होंने आरोप लगाया कि इस कदम से महिलाओं और बच्चों की तस्वीरों का अनधिकृत दुरुपयोग हो सकता है, जिससे वे खतरे में पड़ सकते हैं। उन्होंने कहा कि यह प्लेटफॉर्म रचनात्मकता और नवाचार की आड़ में निंदनीय व्यवहार से पैसा कमा रहा है, और इसे 'एआई का शर्मनाक उपयोग' बताया।

उन्होंने X पर पोस्ट किया, "यह देखना दुर्भाग्यपूर्ण है कि ग्रोक के माध्यम से आपत्तिजनक, यौन उत्तेजक छवियों के निर्माण को पूरी तरह से रोकने के बजाय, प्लेटफ़ॉर्म ने इसका उपयोग केवल सशुल्क उपयोगकर्ताओं तक सीमित कर दिया है। यानी, अगर आप प्लेटफ़ॉर्म को पैसा देते हैं, तो उन्हें दिशा-निर्देशों या सुरक्षा उपायों की परवाह नहीं होगी। इसका सीधा मतलब है कि महिलाओं या बच्चों की छवियों का दुरुपयोग विकृत मानसिकता वाले लोग कर सकते हैं। यह महिलाओं के लिए एक सुरक्षित स्थान नहीं बना रहा है, बल्कि X कॉर्प रचनात्मकता और नवाचार की आड़ में इस निंदनीय विकृत व्यवहार का मुद्रीकरण कर रहा है। एआई का शर्मनाक उपयोग।"

इससे पहले 1 जनवरी को प्रियंका चतुर्वेदी ने केंद्रीय इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्री अश्विनी वैष्णव को पत्र लिखकर सोशल मीडिया प्लेटफॉर्म पर फर्जी खातों का उपयोग करके महिलाओं की आपत्तिजनक तस्वीरें पोस्ट करने के लिए कृत्रिम बुद्धिमत्ता उपकरणों के कथित दुरुपयोग पर चिंता व्यक्त की थी।

उन्होंने कहा कि इस तरह की प्रथाएं महिलाओं की निजता का गंभीर उल्लंघन हैं और उन्होंने केंद्र से उनके अधिकारों की रक्षा के लिए तत्काल कदम उठाने का आग्रह किया।

पत्र में चतुर्वेदी ने लिखा, "मैं सोशल मीडिया, विशेष रूप से X पर उभर रहे एक नए चलन की ओर आपका ध्यान आकर्षित करना चाहता हूँ, जिस पर तत्काल कार्रवाई की आवश्यकता है। इसमें पुरुषों द्वारा फर्जी खातों का उपयोग करके महिलाओं की तस्वीरें पोस्ट की जा रही हैं और ग्रोक को उनके कपड़ों को कम करने और उन्हें कामुक बनाने के लिए संकेत भेजे जा रहे हैं। यह केवल फर्जी खातों के माध्यम से तस्वीरें साझा करने तक ही सीमित नहीं है, बल्कि उन महिलाओं को भी निशाना बनाया जा रहा है जो अपनी तस्वीरें पोस्ट करती हैं। यह अस्वीकार्य है और AI फ़ंक्शन का घोर दुरुपयोग है।"

उन्होंने आगे कहा, "इससे भी बुरी बात यह है कि ग्रोक इस तरह के अनुरोधों को मानकर इस तरह के व्यवहार को बढ़ावा दे रहा है। यह महिलाओं के निजता के अधिकार का उल्लंघन होने के साथ-साथ उनकी तस्वीरों का अनधिकृत उपयोग भी है, जो न केवल अनैतिक है बल्कि आपराधिक भी है।"

प्रियंका चतुर्वेदी ने केंद्रीय इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्री से सोशल मीडिया प्लेटफॉर्म X के खिलाफ निर्णायक कार्रवाई करने और ऑनलाइन महिलाओं की सुरक्षा सुनिश्चित करने के लिए एआई-आधारित उपकरणों में सुरक्षा उपाय लागू करने का आग्रह किया है।