एजेंसी, नई दिल्ली। सोशल मीडिया प्लेटफॉर्म एक्स ने अपने एआई एप ग्रोक पर बनाए जा रहे अश्लील कंटेंट को लेकर सख्त नियम बनाए हैं। कंपनी ने कहा है कि ऐसे कंटेंट को तुरंत हटाया जाएगा। साथ ही अगर कोई यूजर ग्रोक का इस्तेमाल करके आपत्तिजनक कंटेंट बनाता है तो उसके खिलाफ वही कार्रवाई होगी, जो सीधे अवैध कंटेंट अपलोड करने पर होती है। यानी कि यूजर्स का अकाउंटर हमेशा के लिए बैन कर दिया जाएगा।
एक्स ने भारत सरकार की तरफ से आपत्ति जताए जाने के तीन दिन बाद नए नियम बनाए हैं। केंद्र सरकार ने 2 जनवरी को एक्स से कहा था कि वह एआई एप ग्रोक से बनाई जा रही अश्लील, फूहड़ कंटेंट को तुरंत हटाए, नहीं तो कानून कार्रवाई की जाएगी। दरअसल, शिवसेना की सांसद प्रियंका चतुर्वेदी ने शुक्रवार को एआई चैटबोट ग्रोक के गलत इस्तेमाल पर चिंता जताई थी। उन्होंने आईटी मिनिस्टर को लेटर लिखा था। इसमें कहा था कि कुछ लोग एआई की मदद से महिलाओं की असली तस्वीरों को आपत्तिजनक रूप में बदल रहे हैं, जो बेहद गंभीर मामला है।
मस्क बोले थे- जिम्मेदारी टूल की नहीं, यूजर की
इससे पहले एक्स के मालिक इलॉन मस्क ने शनिवार को कहा था कि कुछ लोग कह रहे हैं कि ग्रोक आपत्तिजनक तस्वीरें बना रहा है, लेकिन यह ऐसे है जैसे किसी बुरी बात को लिखने के लिए पेन को दोष देना। कलम यह तय नहीं करती कि क्या लिखा जाएगा। यह काम उसे पकड़ने वाला करता है। मस्क ने कहा कि ग्रोक भी उसी तरह काम करता है। आपको क्या मिलेगा, यह काफी हद तक इस बात पर निर्भर करता है कि आप उसमें क्या इनपुट देते हैं। क्योंकि जिम्मेदारी टूल की नहीं, उसे इस्तेमाल करने वाले व्यक्ति की होती है।
शिवसेना की सांसद ने उठाया था मुद्दा
शिवसेना की सांसद प्रियंका चतुर्वेदी ने 2 जनवरी को एआई चैटबोट ग्रोक के गलत इस्तेमाल पर आईटी मिनिस्टर अश्विनी वैष्णव को लेटर लिखा था। सोशल मीडिया खासकर एक्स पर, एआई के ग्रोक फीचर का गलत इस्तेमाल हो रहा है। कुछ पुरुष फर्जी अकाउंट बनाकर महिलाओं की तस्वीरें पोस्ट कर रहे हैं और एआई से कपड़े छोटे दिखाने या तस्वीरों को गलत तरीके से पेश करने को कह रहे हैं। यह सिर्फ फेक अकाउंट तक सीमित नहीं है, बल्कि उन महिलाओं को भी निशाना बनाया जा रहा है जो खुद अपनी तस्वीरें शेयर करती हैं। यह बहुत गलत है और एआई का गंभीर दुरुपयोग है। सबसे ज्यादा चिंता की बात यह है कि ग्रोक इस तरह की गलत डिमांड को मान रहा है। इससे महिलाओं की प्राइवेसी का उल्लंघन हो रहा है और उनकी तस्वीरों का बिना अनुमति इस्तेमाल किया जा रहा है। यह सिर्फ गलत नहीं, बल्कि क्राइम है।
महिलाओं की तस्वीरों को अश्लील तस्वीरों में बदला
दरअसल कुछ यूजर सोशल मीडिया प्लेटफॉर्म एक्स पर फर्जी अकाउंट बनाते हैं। इन अकाउंट्स से वे महिलाओं की तस्वीरें पोस्ट करते हैं। इसके बाद ग्रोक एआई को प्रॉम्प्ट दिया जाता है कि महिलाओं की फोटो को गलत और आपत्तिजनक रूप में दिखाया जाए। एआई से कपड़े बदलने या तस्वीर को सेक्शुअल अंदाज में पेश करने जैसी प्रॉम्प्ट दिए जाते हैं। इन तस्वीरों के लिए महिलाओं से कोई अनुमति नहीं ली जाती। कई बार वे महिलाएं खुद भी नहीं जानतीं कि उनकी तस्वीरों का ऐसा इस्तेमाल हो रहा है। आरोप है कि ग्रोक इस तरह की गलत मांगों को रोकने के बजाय उन्हें स्वीकार कर लेता है।
ये भी पढ़े : राजस्थान में नए साल में पहली बार तापमान 0 डिग्री : एमपी में अगले 3 दिन घना कोहरा…
