नई दिल्ली3 घंटे पहले
- कॉपी लिंक
एलन मस्क ने कहा है कि जिम्मेदारी AI टूल की नहीं, उसे इस्तेमाल करने वाले व्यक्ति की होती है। File Image
सोशल मीडिया प्लेटफॉर्म X के मालिक एलन मस्क का भारत सरकार के एक्शन पर बयान आया है।
मस्क ने शनिवार को कहा- कुछ लोग कह रहे हैं कि Grok आपत्तिजनक तस्वीरें बना रहा है, लेकिन यह ऐसे है जैसे किसी बुरी बात को लिखने के लिए पेन को दोष देना। कलम यह तय नहीं करती कि क्या लिखा जाएगा। यह काम उसे पकड़ने वाला करता है।
मस्क ने कहा कि Grok भी उसी तरह काम करता है। आपको क्या मिलेगा, यह काफी हद तक इस बात पर निर्भर करता है कि आप उसमें क्या इनपुट देते हैं। क्योंकि जिम्मेदारी टूल की नहीं, उसे इस्तेमाल करने वाले व्यक्ति की होती है।
दरअसल, भारत सरकार ने 2 जनवरी को दिए निर्देश पर आया है। इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने X से कहा कि वह AI एप Grok से बनाई जा रही अश्लील, फूहड़ कंटेंट को तुरंत हटाए, नहीं तो कानून कार्रवाई की जाएगी।
इसके साथ ही MeitY ने कहा था कि आदेश जारी होने के समय से 72 घंटे के भीतर एक एक्शन टेकन रिपोर्ट सौंपें।
शिवसेना (UBT) की सांसद ने उठाया मुद्दा
दरअसल, शिवसेना (UBT) की सांसद प्रियंका चतुर्वेदी ने 2 जनवरी को AI चैटबोट Grok के गलत इस्तेमाल पर चिंता जताई थी। उन्होंने आईटी मिनिस्टर अश्विनी वैष्णव को लेटर लिखा था।
इसमें कहा था कि कुछ लोग AI की मदद से महिलाओं की असली तस्वीरों को आपत्तिजनक रूप में बदल रहे हैं, जो बेहद गंभीर मामला है।
इससे पहले 29 दिसंबर को MeitY ने सभी सोशल मीडिया प्लेटफॉर्म्स को चेतावनी दी थी कि अश्लील और गैरकानूनी कंटेंट पर सख्ती नहीं करने पर कानूनी कार्रवाई होगी।
महिलाओं की तस्वीरों को अश्लील तस्वीरों में बदला
दरअसल कुछ यूजर सोशल मीडिया प्लेटफॉर्म X पर फर्जी अकाउंट बनाते हैं। इन अकाउंट्स से वे महिलाओं की तस्वीरें पोस्ट करते हैं। इसके बाद Grok AI को प्रॉम्प्ट दिया जाता है कि महिलाओं की फोटो को गलत और आपत्तिजनक रूप में दिखाया जाए।
AI से कपड़े बदलने या तस्वीर को सेक्शुअल अंदाज में पेश करने जैसी प्रॉम्प्ट दिए जाते हैं। इन तस्वीरों के लिए महिलाओं से कोई अनुमति नहीं ली जाती। कई बार वे महिलाएं खुद भी नहीं जानतीं कि उनकी तस्वीरों का ऐसा इस्तेमाल हो रहा है। आरोप है कि Grok इस तरह की गलत मांगों को रोकने के बजाय उन्हें स्वीकार कर लेता है।
कुछ यूजर्स Grok पर इस तरह के प्रॉम्प्ट्स देकर महिलाओं की अश्लील फोटो बनाते हैं।
इन प्रॉम्प्ट्स की मदद से Grok पर अश्लील कंटेंट बनाया जाता है।
सरकार ने आदेश में क्या कहा ?
मंत्रालय का कहना है कि X ने सूचना प्रौद्योगिकी अधिनियम, 2000 और आईटी नियम 2021 के तहत तय कानूनी जिम्मेदारियों का पालन नहीं किया। अगर नियमों का पालन नहीं हुआ, तो X, उसके जिम्मेदार अधिकारियों और ऐसे कंटेंट फैलाने वाले यूजर्स के खिलाफ आईटी एक्ट, आईटी रूल्स और अन्य लागू कानूनों के तहत सख्त कार्रवाई की जा सकती है।
प्रियंका चतुर्वेदी ने लेटर में लिखा-
- सोशल मीडिया खासकर X पर, AI के Grok फीचर का गलत इस्तेमाल हो रहा है। कुछ पुरुष फर्जी अकाउंट बनाकर महिलाओं की तस्वीरें पोस्ट कर रहे हैं और AI से कपड़े छोटे दिखाने या तस्वीरों को गलत तरीके से पेश करने को कह रहे हैं।
- यह सिर्फ फेक अकाउंट तक सीमित नहीं है, बल्कि उन महिलाओं को भी निशाना बनाया जा रहा है जो खुद अपनी तस्वीरें शेयर करती हैं। यह बहुत गलत है और AI का गंभीर दुरुपयोग है।
- सबसे ज्यादा चिंता की बात यह है कि Grok इस तरह की गलत डिमांड को मान रहा है। इससे महिलाओं की प्राइवेसी का उल्लंघन हो रहा है और उनकी तस्वीरों का बिना अनुमति इस्तेमाल किया जा रहा है। यह सिर्फ गलत नहीं, बल्कि क्राइम है।
- भारत चुपचाप नहीं देख सकता कि टेक्नोलॉजी और इनोवेशन के नाम पर महिलाओं की इज्जत को सार्वजनिक और डिजिटल तरीके से नुकसान पहुंचाया जाए। बड़े टेक प्लेटफॉर्म पर ऐसी घटनाएं लगातार बढ़ रही हैं, जो चिंता का विषय हैं।
- देश महिलाओं के सम्मान के साथ हो रहे ऐसे डिजिटल अपराधों को नजरअंदाज नहीं कर सकता। दूसरे बड़े टेक प्लेटफॉर्म पर भी इस तरह की घटनाएं हो रही हैं, जहां कोई रोक नहीं है।
- भारत AI और उसके फायदों का समर्थन करता है, लेकिन महिलाओं को अपमानित करने और निशाना बनाने वाले कंटेंट को बिल्कुल बर्दाश्त नहीं किया जाएगा।
आदेश न मानने पर कानूनी सुरक्षा खत्म होने का खतरा
आईटी एक्ट के अनुसार, अगर X पर कोई अश्लील, आपत्तिजनक, महिला विरोधी या गैरकानूनी कंटेंट डाला जाता है, तो प्लेटफॉर्म को इसकी जानकारी मिलते ही उसे तुरंत हटाना होता है। अगर केंद्र सरकार या कोर्ट X को कोई कंटेंट हटाने या अकाउंट ब्लॉक करने को कहती है, तो उसे मानना कानूनी रूप से जरूरी है।
अगर X आदेश नहीं मानता तो X को जो कानूनी सुरक्षा मिलती है, वह छीन ली जा सकती है। इसके बाद X यूजर्स को ही गैरकानूनी कंटेंट के लिए जिम्मेदार माना जाएगा।
वहीं कंपनी पर क्रिमिनल केस, जुर्माना, जिम्मेदार अधिकारियों पर FIR जांच एजेंसियों द्वारा पूछताछ हो सकती है। सरकार IT Act की धारा 69A के तहत X के किसी खास अकाउंट किसी कंटेंट या पूरे प्लेटफॉर्म के कुछ फीचर्स भारत में ब्लॉक कर सकती है।
————————————–
ये खबर भी पढ़ें…
सोशल मीडिया पर अश्लील कंटेंट को लेकर केंद्र की चेतावनी, कहा- कंपनियां ऐसे कंटेंट पर रोक लगाएं, नहीं तो केस होगा
केंद्र सरकार ने 30 दिसंबर को सभी सोशल मीडिया प्लेटफॉर्म्स को अश्लील कंटेंट को लेकर चेतावनी जारी की थी। इसमें कहा गया है कि कंपनियां अश्लील, भद्दे, पोर्नोग्राफिक, बच्चों से जुड़े यौन शोषण वाले और गैर-कानूनी कंटेंट पर तुरंत रोक लगाएं। यदि कंपनियां ऐक्शन नहीं लेंगी तो उन पर केस चलेगा। पूरी खबर पढ़ें…