क्या है पूरा विवाद?
X ने कहा- भारत हमारे लिए बड़ा बाजार है
X ने कार्रवाई की जानकारी देते हुए कहा कि भारत हमारे लिए बड़ा बाजार है। कंपनी ने कहा कि वह यहां के नियमों का सम्मान करेगी। यह कदम कंटेंट मॉडरेशन को मजबूत बनाएगा।
प्रियंका चतुर्वेदी ने कहा- X ने कंटेंट को रोकने की जगह सीमित कर दिया है
राज्यसभा सांसद प्रियंका चतुर्वेदी ने शनिवार को X पर इस मामले में फिर एक पोस्ट किया। उन्होंने लिखा कि सोशल मीडिया प्लेटफॉर्म X ने Grok के माध्यम से आपत्तिजनक और यौन रूप से उत्तेजक इमेज जेनरेशन को पूरी तरह से रोकने की बजाय केवल पेड यूजर्स तक सीमित कर दिया है।
उन्होंने आरोप लगाया कि यह कदम प्रभावी रूप से महिलाओं और बच्चों की तस्वीरों के अनधिकृत दुरुपयोग की अनुमति देता है, जिससे उन्हें जोखिम में डाला जा रहा है। उन्होंने कहा कि प्लेटफॉर्म निंदनीय व्यवहार को मॉनिटाइज कर रहा है, यह शर्मनाक है।
इससे पहले X के मालिक इलॉन मस्क ने 3 जनवरी को कहा था कि कुछ लोग कह रहे हैं कि Grok आपत्तिजनक तस्वीरें बना रहा है, लेकिन यह ऐसे है जैसे किसी बुरी बात को लिखने के लिए पेन को दोष देना। कलम यह तय नहीं करती कि क्या लिखा जाएगा। यह काम उसे पकड़ने वाला करता है।
मस्क ने कहा कि Grok भी उसी तरह काम करता है। आपको क्या मिलेगा, यह काफी हद तक इस बात पर निर्भर करता है कि आप उसमें क्या इनपुट देते हैं। क्योंकि जिम्मेदारी टूल की नहीं, उसे इस्तेमाल करने वाले व्यक्ति की होती है।
शिवसेना (UBT) की सांसद ने उठाया था मुद्दा
शिवसेना (UBT) की सांसद प्रियंका चतुर्वेदी ने 2 जनवरी को AI चैटबोट Grok के गलत इस्तेमाल पर आईटी मिनिस्टर अश्विनी वैष्णव को लेटर लिखा था।
- सोशल मीडिया खासकर X पर, AI के Grok फीचर का गलत इस्तेमाल हो रहा है। कुछ पुरुष फर्जी अकाउंट बनाकर महिलाओं की तस्वीरें पोस्ट कर रहे हैं और AI से कपड़े छोटे दिखाने या तस्वीरों को गलत तरीके से पेश करने को कह रहे हैं।
- यह सिर्फ फेक अकाउंट तक सीमित नहीं है, बल्कि उन महिलाओं को भी निशाना बनाया जा रहा है जो खुद अपनी तस्वीरें शेयर करती हैं। यह बहुत गलत है और AI का गंभीर दुरुपयोग है।
- सबसे ज्यादा चिंता की बात यह है कि Grok इस तरह की गलत डिमांड को मान रहा है। इससे महिलाओं की प्राइवेसी का उल्लंघन हो रहा है और उनकी तस्वीरों का बिना अनुमति इस्तेमाल किया जा रहा है। यह सिर्फ गलत नहीं, बल्कि क्राइम है।
महिलाओं की तस्वीरों को अश्लील तस्वीरों में बदला
दरअसल कुछ यूजर सोशल मीडिया प्लेटफॉर्म X पर फर्जी अकाउंट बनाते हैं। इन अकाउंट्स से वे महिलाओं की तस्वीरें पोस्ट करते हैं। इसके बाद Grok AI को प्रॉम्प्ट दिया जाता है कि महिलाओं की फोटो को गलत और आपत्तिजनक रूप में दिखाया जाए।
AI से कपड़े बदलने या तस्वीर को सेक्शुअल अंदाज में पेश करने जैसे प्रॉम्प्ट दिए जाते हैं। इन तस्वीरों के लिए महिलाओं से कोई अनुमति नहीं ली जाती। कई बार वे महिलाएं खुद भी नहीं जानतीं कि उनकी तस्वीरों का ऐसा इस्तेमाल हो रहा है। आरोप है कि Grok इस तरह की गलत मांगों को रोकने की बजाय उन्हें स्वीकार कर लेता है।
