एआई के बढ़ते दुरुपयोग को रोकने के लिए सरकार उठाने जा रही है सख्त कदम

एआई से बने फोटो-वीडियो पर पूरे समय दिखाना होगा ‘लेबल’, सरकार ने जनता से भी मांगे सुझाव

टाकिंग पंजाब

नई दिल्ली। देश में एआई के बढ़ते दुरुपयोग को रोकने के लिए सरकार सख्त कदम उठा रही है। आईटी मंत्रालय के इस नए प्रस्ताव के मुताबिक, एआई निर्मित किसी भी कंटेंट पर अब पूरी अवधि तक स्पष्ट ‘लेबल’ दिखाना अनिवार्य होगा। सरकार ने इस ड्राफ्ट को सार्वजनिक परामर्श के लिए जारी किया है। इसके लिए जनता से भी 7 मई तक सुझाव मांगे गए हैं। इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय के नए ड्राफ्ट के तहत सबसे बड़ा बदलाव लेबलिंग की प्रकृति में किया गया है। पहले जहां एआई कंटेंट पर प्रमुख रूप से दिखाई देने वाला लेबल पर्याप्त माना जाता था, वहीं अब इसे पूरे कंटेंट की अवधि के दौरान लगातार और स्पष्ट रूप से प्रदर्शित करना अनिवार्य करने का प्रस्ताव है।   इसका सीधा अर्थ है कि वीडियो, इमेज या किसी भी विजुअल फॉर्मेट में एआई से तैयार सामग्री को दर्शकों से छिपाया नहीं जा सकेगा। इस प्रस्ताव की खास बात यह है कि यह नियम सिर्फ एआई कंपनियों या सोशल मीडिया प्लेटफॉर्म्स तक सीमित नहीं रहेगा। अगर कोई आम यूजर भी एआई से बना कंटेंट तैयार करता है या शेयर करता है, तो उसे भी इन नियमों का पालन करना होगा। यानी जिम्मेदारी अब हर कंटेंट क्रिएटर पर होगी। दरअसल भारत सरकार ने आर्टिफिशियल इंटेलिजेंस ने डीपफेक के दुरुपयोग को रोकने के लिए सूचना प्रौद्योगिकी संशोधन नियम, 2026 अधिसूचित किए हैं। यह नियम 20 फरवरी 2026 से प्रभावी हो गए हैं। इन नए नियमों के तहत एआई लेबलिंग व सामग्री नियंत्रण पर मुख्य कानूनी प्रावधान इस प्रकार हैं।

अनिवार्य एआई लेबलिंग – सोशल मीडिया प्लेटफॉर्म्स जैसे फेसबुक, इंस्टाग्राम, एक्स के लिए यह अनिवार्य कर दिया गया है कि वह एआई से बनाए गए या “सिंथेटिक रूप से निर्मित” तस्वीर, वीडियो और ऑडियो पर स्पष्ट और प्रमुख लेबल लगाएं। सरकार ने नियमों को और कड़ा करते हुए कहा है कि यह लेबल वीडियो या फोटो की पूरी अवधि के दौरान निरंतर और स्पष्ट रूप से दिखाई देना चाहिए। एआई से बने वीडियो में लेबल का उद्देश्य यह सुनिश्चित करना है कि यूजर को पता चले कि सामग्री वास्तविक नहीं, बल्कि एआई से बनाई गई है। सरकार ने प्लेटफॉर्म्स को निर्देश दिया है कि वह ऐसी तकनीक अपनाएं जिससे लेबल या मेटाडेटा से छेड़छाड़ की कोशिश होने पर कंटेंट स्वतः डिलीट हो जाए या उसे रोका जा सके।   इसके साथ ही 50 लाख से अधिक उपयोगकर्ताओं वाले प्लेटफॉर्म्स को यह सुनिश्चित करना होगा कि वह कंटेंट अपलोड करने वाले यूजर से यह घोषणा लें कि सामग्री एआई-जनरेटेड है या नहीं। आईटी नियमों में संशोधन के बाद अब सोशल मीडिया कंपनियों को शिकायत मिलने के 3 घंटे के भीतर आपत्तिजनक सामग्री हटानी होगी। पहले उन्हें 36 घंटे का समय मिलता था। हालांकि साधारण फोटो एडिटिंग जैसे- चमक बढ़ाना, क्रॉप करना या फिल्मों में उपयोग किए जाने वाले स्पेशल इफेक्ट्स को “सिंथेटिक सामग्री” नहीं माना जाएगा और उन पर लेबलिंग की आवश्यकता नहीं होगी। नियमों का पालन न करने पर सोशल मीडिया प्लेटफॉर्म्स को ‘सेफ हार्बर’ यानी कानूनी सुरक्षा खोनी पड़ सकती है, जिससे कंपनी के खिलाफ सीधे कानूनी कार्रवाई की जा सकती है।

अब बात करें कि इसकी जरूरत क्यों पड़ी ? दरअसल राजनेताओं या प्रभावशाली लोगों के ऐसे फर्जी वीडियो बना दिए जाते हैं जिनमें वे ऐसी बातें बोलते नजर आते हैं जो उन्होंने कभी कही ही नहीं। इससे चुनाव प्रभावित हो सकते हैं या दंगे भड़क सकते हैं। साइबर ठग आपके परिवार के किसी सदस्य या दोस्त की आवाज का डीपफेक बनाकर आपको कॉल कर सकते हैं और इमरजेंसी का बहाना देकर पैसे ऐंठ सकते हैं। किसी व्यक्ति की सामान्य तस्वीर का इस्तेमाल करके उसे किसी आपत्तिजनक या अश्लील वीडियो में बदल देना डीपफेक का सबसे डरावना रूप है, जिसका शिकार अक्सर आम महिलाएं और सेलिब्रिटीज हो रही हैं। ऐसी ही कुछ ओर भी वजह हैं, जिसके चलते सरकार इसके लिए सख्त रवैया अपना रही है।