- Hindi News
- National
- X Admits Obscene Content Error, Blocks 3500 Posts, Deletes 600 Accounts | Priyanka Chaturvedi Grok AI
नई दिल्ली2 मिनट पहले
- कॉपी लिंक
सोशल मीडिया प्लैटफॉर्म X पर Grok से यूजर अश्लील कंटेंट बना रहे थे जिसपर सरकार ने X से कार्रवाई करने के लिए कहा था। अब X ने अपनी गलती मानी है।
सोशल मीडिया प्लेटफॉर्म X ने अपनी कंटेंट मॉडरेशन में गलतियां स्वीकार की हैं। कंपनी ने कहा है कि वह अब भारत के कानूनों का पूरी तरह पालन करेगी। सरकार के मुताबिक, यह फैसला अश्लील कंटेंट वायरल होने के बाद लिया गया।
प्लेटफॉर्म ने बताया कि उन्होंने 3,500 से ज्यादा कंटेंट ब्लॉक कर दिए हैं। साथ ही 600 से अधिक अकाउंट्स भी डिलीट कर दिए गए। कंपनी ने कहा कि आगे से अश्लील तस्वीरें प्लेटफॉर्म पर बिल्कुल नहीं चलेंगी।
दरअसल, शिवसेना (UBT) की सांसद प्रियंका चतुर्वेदी ने 2 जनवरी को AI चैटबोट Grok के गलत इस्तेमाल को लेकर आईटी मिनिस्टर को लेटर लिखा था। इसके बाद केंद्र सरकार ने उसी दिन X से कहा था कि वह AI ऐप Grok से बनाई जा रही अश्लील, फूहड़ कंटेंट को तुरंत हटाए, नहीं तो कानून कार्रवाई की जाएगी।
X ने कहा- भारत हमारे लिए बड़ा बाजार है
X ने कार्रवाई की जानकारी देते हुए कहा कि भारत हमारे लिए बड़ा बाजार है। कंपनी ने कहा कि वह यहां के नियमों का सम्मान करेगी। यह कदम कंटेंट मॉडरेशन को मजबूत बनाएगा।
प्रियंका चतुर्वेदी ने कहा- X ने कंटेंट को रोकने की जगह सीमित कर दिया है
राज्यसभा सांसद प्रियंका चतुर्वेदी ने शनिवार को X पर इस मामले में फिर एक पोस्ट किया। उन्होंने लिखा कि सोशल मीडिया प्लेटफॉर्म X ने ग्रोक के माध्यम से आपत्तिजनक और यौन रूप से उत्तेजक इमेज जेनरेशन को पूरी तरह से रोकने के बजाय केवल पेड यूजर्स तक सीमित कर दिया है।
उन्होंने आरोप लगाया कि यह कदम प्रभावी रूप से महिलाओं और बच्चों की तस्वीरों के अनधिकृत दुरुपयोग की अनुमति देता है, जिससे उन्हें जोखिम में डाला जा रहा है। उन्होंने कहा कि प्लेटफॉर्म निंदनीय व्यवहार को मॉनिटाइज कर रहा है, ये शर्मनाक है।
मस्क बोले थे- जिम्मेदारी टूल की नहीं, यूजर की
इससे पहले X के मालिक इलॉन मस्क ने 3 जनवरी को कहा था कि कुछ लोग कह रहे हैं कि Grok आपत्तिजनक तस्वीरें बना रहा है, लेकिन यह ऐसे है जैसे किसी बुरी बात को लिखने के लिए पेन को दोष देना। कलम यह तय नहीं करती कि क्या लिखा जाएगा। यह काम उसे पकड़ने वाला करता है।
मस्क ने कहा कि Grok भी उसी तरह काम करता है। आपको क्या मिलेगा, यह काफी हद तक इस बात पर निर्भर करता है कि आप उसमें क्या इनपुट देते हैं। क्योंकि जिम्मेदारी टूल की नहीं, उसे इस्तेमाल करने वाले व्यक्ति की होती है।
शिवसेना (UBT) की सांसद ने उठाया था मुद्दा
शिवसेना (UBT) की सांसद प्रियंका चतुर्वेदी ने 2 जनवरी को AI चैटबोट Grok के गलत इस्तेमाल पर आईटी मिनिस्टर अश्विनी वैष्णव को लेटर लिखा था।
- सोशल मीडिया खासकर X पर, AI के Grok फीचर का गलत इस्तेमाल हो रहा है। कुछ पुरुष फर्जी अकाउंट बनाकर महिलाओं की तस्वीरें पोस्ट कर रहे हैं और AI से कपड़े छोटे दिखाने या तस्वीरों को गलत तरीके से पेश करने को कह रहे हैं।
- यह सिर्फ फेक अकाउंट तक सीमित नहीं है, बल्कि उन महिलाओं को भी निशाना बनाया जा रहा है जो खुद अपनी तस्वीरें शेयर करती हैं। यह बहुत गलत है और AI का गंभीर दुरुपयोग है।
- सबसे ज्यादा चिंता की बात यह है कि Grok इस तरह की गलत डिमांड को मान रहा है। इससे महिलाओं की प्राइवेसी का उल्लंघन हो रहा है और उनकी तस्वीरों का बिना अनुमति इस्तेमाल किया जा रहा है। यह सिर्फ गलत नहीं, बल्कि क्राइम है।
महिलाओं की तस्वीरों को अश्लील तस्वीरों में बदला
दरअसल कुछ यूजर सोशल मीडिया प्लेटफॉर्म X पर फर्जी अकाउंट बनाते हैं। इन अकाउंट्स से वे महिलाओं की तस्वीरें पोस्ट करते हैं। इसके बाद Grok AI को प्रॉम्प्ट दिया जाता है कि महिलाओं की फोटो को गलत और आपत्तिजनक रूप में दिखाया जाए।
AI से कपड़े बदलने या तस्वीर को सेक्शुअल अंदाज में पेश करने जैसी प्रॉम्प्ट दिए जाते हैं। इन तस्वीरों के लिए महिलाओं से कोई अनुमति नहीं ली जाती। कई बार वे महिलाएं खुद भी नहीं जानतीं कि उनकी तस्वीरों का ऐसा इस्तेमाल हो रहा है। आरोप है कि Grok इस तरह की गलत मांगों को रोकने के बजाय उन्हें स्वीकार कर लेता है।
कुछ यूजर्स Grok पर इस तरह के प्रॉम्प्ट्स देकर महिलाओं की अश्लील फोटो बनाते हैं।
इन प्रॉम्प्ट्स की मदद से Grok पर अश्लील कंटेंट बनाया जाता है।
————————————–
ये खबर भी पढ़ें…
सोशल मीडिया पर अश्लील कंटेंट को लेकर केंद्र की चेतावनी:कहा- कंपनियां ऐसे कंटेंट पर रोक लगाएं, नहीं तो केस होगा; यूजर भी सोच-समझकर पोस्ट करें
केंद्र सरकार ने 30 दिसंबर को सभी सोशल मीडिया प्लेटफॉर्म्स को अश्लील कंटेंट को लेकर चेतावनी जारी की। इसमें कहा गया है कि कंपनियां अश्लील, भद्दे, पोर्नोग्राफिक, बच्चों से जुड़े यौन शोषण वाले और गैर-कानूनी कंटेंट पर तुरंत रोक लगाएं। यदि कंपनियां ऐक्शन नहीं लेंगी तो उन पर केस चलेगा। पूरी खबर पढ़ें…