जब भी कोई वीडियो सोशल मीडिया पर वायरल होता है, तो लोग अक्सर उसे असली समझकर शेयर कर देते हैं। कुछ ही घंटों में, नकली वीडियो की अफवाह जंगल में आग की तरह फैल गई। बाद में पता चला कि वीडियो असली नहीं था, बल्कि AI से बनाया गया डीपफेक था। अब, केंद्र सरकार ने ऐसे मामलों पर सख्त रुख अपनाया है। नए नियम में साफ कहा गया है कि अगर तीन घंटे के अंदर डीपफेक कंटेंट नहीं हटाया गया, तो न सिर्फ यूजर बल्कि प्लेटफॉर्म को भी कानूनी परेशानी का सामना करना पड़ सकता है।
AI कंटेंट पर नई सख्ती क्यों?
हाल के दिनों में AI से बनाए गए डीपफेक वीडियो और नकली फोटो तेजी से बढ़े हैं। इनका असर चुनाव, समाज और यहां तक कि निजी इज्जत पर भी पड़ा है। इस खतरे को देखते हुए, इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने IT नियमों के तहत नई गाइडलाइंस जारी की हैं। इसका साफ मकसद सोशल मीडिया पर गुमराह करने वाले AI कंटेंट पर तुरंत रोक लगाना है। सरकार ने साफ कर दिया है कि AI से बनी किसी भी फोटो या वीडियो पर साफ लेबलिंग जरूरी होगी, जिससे यूजर्स को पता चल सके कि कंटेंट असली है या AI से बनाया गया है।
3 घंटे के अंदर डीपफेक हटाना होगा, नहीं तो…
सबसे बड़ा बदलाव यह है कि अगर डीपफेक या गुमराह करने वाले AI कंटेंट के बारे में कोई शिकायत मिलती है, तो संबंधित सोशल मीडिया प्लेटफॉर्म को उसे 3 घंटे के अंदर हटाना होगा। पहले यह समय-सीमा 36 घंटे तक मानी जाती थी। अब देरी की गुंजाइश काफी कम कर दी गई है। अगर प्लेटफॉर्म तय समय में कंटेंट नहीं हटाता है, तो उस पर जुर्माना और कानूनी कार्रवाई हो सकती है। नियमों का बार-बार उल्लंघन करने पर प्लेटफॉर्म की सेफ हार्बर सुरक्षा भी हटाई जा सकती है। सेफ हार्बर का मतलब है कि यूजर द्वारा पोस्ट किए गए कंटेंट के लिए प्लेटफॉर्म सीधे तौर पर जिम्मेदार नहीं है, लेकिन अगर यह सुरक्षा हटा दी जाती है, तो कंपनी पर खुद मुकदमा हो सकता है।
कोई लेबल नहीं, सीधा अपराध
नए नियमों के तहत, बिना लेबल के AI कंटेंट पोस्ट करना अपराध माना जाएगा। एक बार किसी कंटेंट पर AI लेबल लग जाने के बाद, प्लेटफॉर्म उसे हटा या छिपा नहीं सकता। कम से कम 10 प्रतिशत कंटेंट पर साफ तौर पर वॉटरमार्क या लेबल लगा होना चाहिए। यूजर्स को पोस्ट अपलोड करते समय यह भी बताना होगा कि कंटेंट AI से बना है या नहीं। हर तीन महीने में, प्लेटफॉर्म को अपने यूज़र्स को नियम याद दिलाना होगा और गलत इस्तेमाल पर सज़ा या जुर्माने की चेतावनी देनी होगी।
ज़ीरो टॉलरेंस केस
चाइल्ड पोर्नोग्राफ़ी, बिना इजाज़त के प्राइवेट फ़ोटो और वीडियो, नकली डॉक्यूमेंट, या हिंसा भड़काने वाला AI कंटेंट तुरंत ब्लॉक करने का निर्देश है। ऐसे मामलों में कोई देरी बर्दाश्त नहीं की जाएगी।
कहाँ शिकायत करें?
अगर किसी यूज़र को डीपफेक या गुमराह करने वाला AI कंटेंट मिलता है, तो वे सबसे पहले सोशल मीडिया प्लेटफॉर्म के शिकायत अधिकारी या रिपोर्टिंग सिस्टम के ज़रिए शिकायत दर्ज कर सकते हैं। भारत में हर बड़े प्लेटफॉर्म को एक शिकायत अधिकारी नियुक्त करना ज़रूरी है। इसके अलावा, नेशनल साइबरक्राइम पोर्टल cybercrime.gov.in पर भी शिकायत दर्ज की जा सकती है। गंभीर मामलों में, पुलिस या साइबर सेल से भी संपर्क किया जा सकता है।
