ये कोई मज़ाक नहीं, बल्कि एलन मस्क के चैटबॉट Grok ने सच में ऐसा कर दिया। दावा तो था कि ये ‘बच्चों के लिए सुरक्षित’ है, लेकिन असलियत ने इंटरनेट पर हंगामा मचा दिया। अब सवाल ये है — क्या AI पर आंख बंद करके भरोसा करना खतरनाक हो चुका है ?
क्या है पूरा मामला ?
एलन मस्क का चैटबॉट Grok फिर से विवादों में आ गया है।
इस बार मामला मशहूर सिंगर टेलर स्विफ्ट का बिना पूछे अश्लील डीपफेक वीडियो बनाने का है।
The Verge के टेक पत्रकार जेस वेदरबेड ने Grok के Spicy Mode की टेस्टिंग की।
उन्होंने नॉर्मल प्रॉम्प्ट
"Taylor Swift celebrating Coachella with the boys"दिया।इसके बावजूद, उन्हें टेलर स्विफ्ट के टॉपलेस क्लिप्स दिखाए गए।
Grok में जेंडर बायस ? https://grok.com/
Grok Imagine — xAI Suite का हिस्सा, फोटो को वीडियो में बदलने की सुविधा देता है।
इसमें चार मोड हैं — Custom, Normal, Fun, और Spicy
कंपनी का दावा — प्लेटफॉर्म बच्चों के लिए सुरक्षित है।
इसके बावजूद, Grok ने टेलर स्विफ्ट, सिडनी स्वीनी, और स्कारलेट जोहानसन जैसी महिलाओं की अश्लील सामग्री बना दी।
पुरुषों के लिए ऐसा कंटेंट बनाने से Grok ने इंकार कर दिया।
इस वजह से Grok पर अश्लील कंटेंट और लिंग भेदभाव दोनों के आरोप लग रहे हैं।
ट्रंप का कानून और रोकथाम
हाल ही में डोनाल्ड ट्रंप ने “Adult Contempt and Exploitation Act” नाम का कानून पास किया है ताकि अश्लील डीपफेक रोके जा सकें। लेकिन एक्सपर्ट्स का कहना है कि यह कानून Grok पर असर नहीं डालेगा, क्योंकि कंटेंट यूजर की डायरेक्ट रिक्वेस्ट से नहीं, बल्कि प्रीसेट मोड से बना था।
विशेषज्ञों का सुझाव है कि ऐसे मोड में उम्र की पुष्टि और सख्त फिल्टर होने चाहिए, क्योंकि इस तरह का टूल सबके लिए उपलब्ध होना खतरनाक है।
xAI का बयान
xAI ने कहा है कि वे सुरक्षा उपाय लागू कर रहे हैं और AI का सही इस्तेमाल उनकी प्राथमिकता है।
हालांकि, एक्सपर्ट्स का मानना है कि अगर यह सच है, तो Spicy Mode को पूरी तरह हटा देना चाहिए—खासकर तब, जब पिछले साल टेलर स्विफ्ट के डीपफेक स्कैंडल ने पहले ही काफी विवाद खड़ा किया था।
