AI Fake Content: सोशल मीडिया पर आर्टिफिशियल इंटेलिजेंस यानी AI के इस्तेमाल से तैयार किए जा रहे फर्जी वीडियो, फोटो और ऑडियो को लेकर केंद्र सरकार ने अपना रुख और कड़ा कर दिया है। बताया जा रहा है की केंद्रीय मंत्री अश्विनी वैष्णव ने Meta के वरिष्ठ अधिकारियों के साथ अहम बैठक में डिजिटल प्लेटफॉर्म्स को स्पष्ट संदेश दिया कि भारत में कारोबार करने वाली कंपनियों को भारतीय कानूनों के मुताबिक ही काम करना होगा।
जानकारी के लिए बता दें इस बैठक में AI से तैयार होने वाले कंटेंट, डीपफेक, यूजर्स की सुरक्षा, डेटा प्राइवेसी और सोशल मीडिया पर गैर-कानूनी सामग्री को लेकर कई महत्वपूर्ण मुद्दों पर चर्चा हुई है। जिसमें सरकार ने खास तौर पर महिलाओं और बच्चों से जुड़े संवेदनशील डीपफेक कंटेंट (Deepfake content) को लेकर तेजी से कार्रवाई की जरूरत पर जोर दिया है।
सरकार ने सोशल मीडिया कंपनियों को दिया सख्त संदेश
बैठक में केंद्रीय मंत्री अश्विनी वैष्णव का कहना है कि भारत में काम करने वाली विदेशी सोशल मीडिया कंपनियां किसी दूसरे देश के नियमों के आधार पर भारत में काम नहीं कर सकतीं। जिसमें अब उन्हें भारतीय कानूनों और यहां लागू होने वाले डिजिटल नियमों का पालन करना होगा।
सरकार का कहना है कि सोशल मीडिया प्लेटफॉर्म पर करोड़ों भारतीय यूजर्स मौजूद हैं। ऐसे में उनकी सुरक्षा और निजता की जिम्मेदारी भी इन कंपनियों की है। खासतौर पर AI तकनीक के बढ़ते इस्तेमाल के बीच फर्जी कंटेंट के जरिए किसी व्यक्ति की छवि खराब करने, गलत सूचना फैलाने या लोगों को गुमराह करने की घटनाओं को गंभीरता से लिया जा रहा है। मंत्री ने कंपनियों को यह भी साफ कहा कि भारतीय यूजर्स से जुड़े मामलों में भारत के कानून सर्वोपरि होंगे। साथ ही सोशल मीडिया कंपनियों को स्थानीय नियमों के अनुरूप अपनी व्यवस्था और शिकायत निवारण प्रणाली को मजबूत करना होगा।
फेक AI कंटेंट हटाने के लिए तय होगी समय सीमा
सरकार की ओर से सोशल मीडिया प्लेटफॉर्म्स पर गैर-कानूनी और भ्रामक AI कंटेंट को लेकर तेज कार्रवाई पर जोर दिया गया है। जिसमें शिकायत या सक्षम सरकारी आदेश मिलने के बाद ऐसे कंटेंट को तय समय सीमा में हटाना जरूरी होगा। जिसमें बताया गया है कि गैर-कानूनी या भ्रामक AI कंटेंट को शिकायत या सरकारी आदेश मिलने के तीन घंटे के भीतर हटाने की व्यवस्था पर जोर दिया गया है। वहीं महिलाओं और बच्चों से जुड़े संवेदनशील, अश्लील या आपत्तिजनक डीपफेक मामलों में कार्रवाई की समय सीमा और कम रखी गई है।
ऐसे मामलों में प्लेटफॉर्म्स को दो घंटे के भीतर कंटेंट हटाने की जरूरत होगी। सरकार का उद्देश्य यही है कि आपत्तिजनक कंटेंट सोशल मीडिया पर लंबे समय तक मौजूद न रहे और उसके वायरल होने से पहले ही कार्रवाई की जा सके।
AI से बने कंटेंट पर लगाना होगा साफ लेबल
AI के जरिए तैयार की गई फोटो, वीडियो और ऑडियो को लेकर भी सरकार ने पारदर्शिता पर जोर दिया है। जिसमें अब यूजर्स के लिए यह समझना आसान होना चाहिए कि सोशल मीडिया पर दिखाई जा रही सामग्री वास्तविक है या AI की मदद से तैयार की गई है।
नए दिशा-निर्देशों के तहत AI से तैयार फोटो या वीडियो पर स्पष्ट रूप से ‘AI-Generated’ लेबल दिखाई देना जरूरी होगा। बताया गया है कि वीडियो या फोटो के कम से कम 10 प्रतिशत हिस्से पर यह लेबल स्पष्ट तरीके से प्रदर्शित किया जाना चाहिए। इसका बड़ा मकसद आम यूजर्स को भ्रम से बचाना है। ऐसे में कई बार AI की मदद से बनाए गए वीडियो इतने वास्तविक नजर आते हैं कि उन्हें देखकर यह पता लगाना मुश्किल हो जाता है कि वीडियो असली है या कृत्रिम तरीके से तैयार किया गया है।
AI आवाज के लिए भी जरूरी होगा डिस्क्लेमर
बता दें सिर्फ फोटो और वीडियो ही नहीं, बल्कि AI से तैयार की गई आवाज को लेकर भी पारदर्शिता के नियमों पर जोर दिया गया है। जिससे AI-generated voice वाली क्लिप में बोलकर डिस्क्लेमर (Disclaimer) देने की व्यवस्था की जा रही है, ताकि सुनने वाले को पता चल सके कि आवाज वास्तविक व्यक्ति की नहीं बल्कि AI तकनीक से तैयार की गई है।
इससे फर्जी ऑडियो के जरिए किसी नेता, अभिनेता, अधिकारी या आम व्यक्ति की आवाज की नकल कर गलत बयान फैलाने जैसी घटनाओं पर रोक लगाने में मदद मिल सकती है।
हर AI फाइल की पहचान करना होगा आसान
आपकी जानकारी के लिए बता दें अब AI कंटेंट की पहचान और उसके स्रोत तक पहुंचने के लिए डिजिटल तकनीक का इस्तेमाल भी किया जाएगा। इसके तहत AI से तैयार की गई फाइल में एक स्थायी डिजिटल कोड रखने की बात सामने आई है।
इस डिजिटल कोड (Digital Code) की मदद से यह पता लगाने में आसानी होगी कि कंटेंट AI से बनाया गया है और इसे किस सिस्टम या स्रोत से तैयार किया गया। सरकार का मानना है कि इस तरह की तकनीकी व्यवस्था फेक कंटेंट के स्रोत का पता लगाने में जांच एजेंसियों की मदद कर सकती है।
नियम नहीं माने तो कानूनी सुरक्षा पर असर
सरकार ने सोशल मीडिया कंपनियों को यह भी संकेत दिया है कि अगर वे तय समय सीमा में गैर-कानूनी या आपत्तिजनक कंटेंट पर कार्रवाई नहीं करती हैं, तो उन्हें कानूनी मुश्किलों का सामना करना पड़ सकता है। ऐसे मामलों में प्लेटफॉर्म को मिलने वाली कानूनी सुरक्षा पर सवाल उठ सकता है। इसके अलावा नियमों का गंभीर उल्लंघन होने पर कंपनी और जिम्मेदार व्यक्ति के खिलाफ कानूनी कार्रवाई की संभावना भी रहेगी।
सरकार का संदेश साफ है कि सोशल मीडिया कंपनियों को सिर्फ कंटेंट उपलब्ध कराने वाली कंपनियों के तौर पर अपनी जिम्मेदारी से पीछे नहीं हटना चाहिए। उन्हें अपने प्लेटफॉर्म पर मौजूद गैर-कानूनी और नुकसान पहुंचाने वाली सामग्री के खिलाफ प्रभावी व्यवस्था बनानी होगी।
#WATCH | Meta officials arrive at the office of Union Minister for Electronics & Information Technology, Ashwini Vaishnaw, in Delhi pic.twitter.com/2Mah1JWjiY
— ANI (@ANI) August 6, 2026
महिलाओं और बच्चों से जुड़े डीपफेक पर खास फोकस
AI तकनीक के गलत इस्तेमाल से महिलाओं और बच्चों को होने वाले नुकसान को लेकर सरकार खास तौर से चिंतित है। डीपफेक तकनीक का इस्तेमाल किसी व्यक्ति के चेहरे या आवाज को किसी दूसरे वीडियो में जोड़ने के लिए किया जा सकता है।
इसका दुरुपयोग अश्लील सामग्री बनाने, बदनाम करने, ब्लैकमेल करने और झूठी जानकारी फैलाने के लिए भी किया जा सकता है। ऐसे मामलों में पीड़ित व्यक्ति को काफी नुकसान उठाना पड़ सकता है। इसी वजह से महिलाओं और बच्चों से जुड़े अश्लील या संवेदनशील डीपफेक मामलों में तेजी से कंटेंट हटाने और शिकायत पर तत्काल कार्रवाई की व्यवस्था को प्राथमिकता दी जा रही है।
AI के बढ़ते इस्तेमाल के बीच सरकार की तैयारी
AI तकनीक का इस्तेमाल तेजी से बढ़ रहा है। जिसमें शिक्षा, मनोरंजन, पत्रकारिता, विज्ञापन और कारोबार समेत कई क्षेत्रों में इसका उपयोग किया जा रहा है, लेकिन इसके साथ ही AI-generated misinformation और deepfake की चुनौती भी बढ़ रही है।
सरकार की कोशिश है कि AI के फायदे लोगों तक पहुंचें, लेकिन तकनीक का इस्तेमाल किसी की निजता, सुरक्षा या प्रतिष्ठा को नुकसान पहुंचाने के लिए न हो। बता दें Meta के साथ हुई बैठक को इसी दिशा में एक महत्वपूर्ण कदम माना जा रहा है। सरकार की ओर से कंपनियों को यह संकेत दिया गया है कि तकनीकी विकास के साथ उनकी जिम्मेदारियां भी बढ़ेंगी।
आखिर क्या है सरकार का मुख्य संदेश?
केंद्र सरकार का रुख इस बैठक के बाद काफी स्पष्ट दिखाई दे रहा है। भारत में काम करने वाले सोशल मीडिया प्लेटफॉर्म्स को भारतीय कानूनों का पालन करना होगा। AI से तैयार कंटेंट की पहचान आसान बनानी होगी और गैर-कानूनी सामग्री के खिलाफ शिकायत मिलने पर तेजी से कार्रवाई करनी होगी। खासकर डीपफेक और महिलाओं-बच्चों से जुड़े आपत्तिजनक कंटेंट को लेकर सरकार किसी तरह की ढिलाई के पक्ष में नहीं है।
अब आने वाले समय में AI तकनीक का इस्तेमाल और बढ़ने की संभावना है। ऐसे में सरकार और सोशल मीडिया कंपनियों के सामने सबसे बड़ी चुनौती यह होगी कि तकनीकी innovation और यूजर्स की सुरक्षा के बीच संतुलन कैसे बनाया जाए। फिलहाल केंद्र का संदेश साफ है कि भारत में सोशल मीडिया प्लेटफॉर्म्स को देश के नियमों के मुताबिक ही काम करना होगा।
ये भी पढ़ें: Monsoon Update Today: देश में मानसून ने पकड़ी रफ्तार, दिल्ली-UP समेत इन 15 राज्यों में झमाझम बारिश का अलर्ट
