AI safety Archives

ये कोई मज़ाक नहीं, बल्कि एलन मस्क के चैटबॉट Grok ने सच में ऐसा कर दिया। दावा तो था कि ये ‘बच्चों के लिए सुरक्षित’ है, लेकिन असलियत ने इंटरनेट पर हंगामा मचा दिया। अब सवाल ये है — क्या AI पर आंख बंद करके भरोसा करना खतरनाक हो चुका है ? क्या है पूरा मामला ? एलन मस्क का चैटबॉट Grok फिर से विवादों में आ गया है। इस बार मामला मशहूर सिंगर टेलर स्विफ्ट का बिना पूछे अश्लील डीपफेक वीडियो बनाने का है। The Verge के टेक पत्रकार जेस वेदरबेड ने Grok के Spicy Mode की टेस्टिंग की। उन्होंने नॉर्मल प्रॉम्प्ट "Taylor Swift celebrating Coachella with the boys" दिया। इसके बावजूद, उन्हें टेलर स्विफ्ट के टॉपलेस क्लिप्स दिखाए गए। Grok में जेंडर बायस ? https://grok.com/ Grok Imagine — xAI Suite का हिस्सा, फोटो को वीडियो में बदलने की सुविधा देता है। इसमें चार मोड हैं — Custom, Normal, Fun, और Spicy कंपनी का दावा — प्लेटफॉर्म बच्चों के लिए सुरक्षित है। इसके बावजूद, Grok ने टेलर स्विफ्ट, सिडनी स्वीनी, और स्कारलेट जोहानसन जैसी महिलाओं की अश्लील सामग्री बना दी। पुरुषों के लिए ऐसा कंटेंट बनाने से Grok ने इंकार कर दिया। इस वजह से Grok पर अश्लील कंटेंट और लिंग भेदभाव दोनों के आरोप लग रहे हैं। ट्रंप का कानून और रोकथाम हाल ही में डोनाल्ड ट्रंप ने “Adult Contempt and Exploitation Act” नाम का कानून पास किया है ताकि अश्लील डीपफेक रोके जा सकें। लेकिन एक्सपर्ट्स का कहना है कि यह कानून Grok पर असर नहीं डालेगा, क्योंकि कंटेंट यूजर की डायरेक्ट रिक्वेस्ट से नहीं, बल्कि प्रीसेट मोड से बना था।विशेषज्ञों का सुझाव है कि ऐसे मोड में उम्र की पुष्टि और सख्त फिल्टर होने चाहिए, क्योंकि इस तरह का टूल सबके लिए उपलब्ध होना खतरनाक है। xAI का बयान xAI ने कहा है कि वे सुरक्षा उपाय लागू कर रहे हैं और AI का सही इस्तेमाल उनकी प्राथमिकता है।हालांकि, एक्सपर्ट्स का मानना है कि अगर यह सच है, तो Spicy Mode को पूरी तरह हटा देना चाहिए—खासकर तब, जब पिछले साल टेलर स्विफ्ट के डीपफेक स्कैंडल ने पहले ही काफी विवाद खड़ा किया था। यह भी पढ़ें : भारत में लगा AI सिस्टम, जो खुद पकड़ लेगा अपराधी!

Browsing: AI safety

एलन मस्क का Grok: बिना पूछे टेलर स्विफ्ट का न्यूड वीडियो, और दावा ‘AI बच्चों के लिए सुरक्षित

EPFO ने ऑटो क्लेम लिमिट बढ़ाकर की बड़ी राहत: अब मेडिकल इमरजेंसी और शादी में तुरंत मिलेंगे 5 लाख रुपये

केदारनाथ यात्रा 3 दिन के लिए स्थगित, भक्तों के लिए एडवाइजरी जारी, प्रशासन हाई अलर्ट पर

“भारत झुकेगा नहीं”: टोक्यो से अभिषेक बनर्जी का पाकिस्तान को करारा जवाब

कोचिंग सेंटरों पर क्यों बढ़ रही छात्रों की निर्भरता? केंद्र सरकार ने बनाई जांच समिति

जनता की जेब पर 1 नवंबर से सीधा असर! Aadhaar, बैंक नियम, GST और कार्ड फीस में हुए बड़े बदलाव

DU Admission 2025: CSAS फेज 2 में इन 2 गलतियों से बचें, वरना सीट जा सकती है हाथ से

5 साल बाद भारत में TikTok की वेबसाइट फिर हुई शुरू, ऐप अभी भी नहीं कर सकते डाउनलोड

‘कन्नप्पा’ ने कमाए 9 करोड़, काजोल की ‘मां’ और आमिर की ‘सितारे जमीन पर’ से आगे निकली

Information Links

Quick Links

Useful Links

Tags

Browsing: AI safety

Information Links

Quick Links

Useful Links

Subscribe to Updates