सोशल मीडिया प्लेटफॉर्म्स जैसे X (ट्विटर), यू-ट्यूब, स्नैपचैट और फेसबुक को अब अपने प्लेटफॉर्म पर शेयर किए जाने वाले AI (आर्टिफिशियल इंटेलिजेंस) कंटेंट पर लेबल लगाना होगा। इसके साथ ही डीपफेक वीडियो-फोटो भी 3 घंटे में हटाने होंगे।

इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने मंगलवार को आदेश जारी किया है। इसमें IT रूल्स 2021 में बदलाव किया गया है। बदले हुए नियम 20 फरवरी से लागू होंगे। इसका ड्राफ्ट सरकार ने 22 अक्टूबर 2025 को जारी किया था।

नए नियम डीपफेक और AI से बने कंटेंट को लेबल और ट्रेस करने के लिए हैं। मतलब, अब AI कंटेंट में साफ लिखना होगा कि यह कंटेंट असली नहीं, AI वाला है। इससे मिसइनफॉर्मेशन और चुनावी धांधली जैसी समस्याओं पर लगाम लगेगी।

सभी AI ऑडियो-वीडियो लेबल लगाना होगा

नई रूल 3(3) के तहत, जो भी सोशल मीडिया प्लेटफॉर्म AI कंटेंट जैसी ‘सिंथेटिकली जेनरेटेड इंफॉर्मेशन’ क्रिएट करने देगा, उसे हर ऐसे कंटेंट पर प्रॉमिनेंट लेबल लगाना होगा। परमानेंट यूनिक मेटाडेटा/आइडेंटिफायर एम्बेड भी करना पड़ेगा।

ये लेबल विजुअल में कम से कम 10% एरिया कवर करेगा या ऑडियो में पहले 10% टाइम में सुनाई देगा। मेटाडेटा को कोई चेंज, हाइड या डिलीट नहीं कर पाएगा। प्लेटफॉर्म्स को टेक्निकल तरीके अपनाने पड़ेंगे ताकि अपलोड होने से पहले ही चेक हो जाए कि ये AI वाला है या नहीं।

नए IT नियमों में ये 3 बदलाव भी

• लेबल हटाना या छिपाना अब मुमकिन नहीं : सोशल मीडिया कंपनियां अब AI लेबल या उसके मेटाडेटा (पहचान की जानकारी) को हटाने या छिपाने की इजाजत नहीं दे सकतीं। एक बार लेबल लग गया, तो उसे वैसे ही रखना होगा।
• गंदे और भ्रामक कंटेंट पर लगाम : सरकार ने कंपनियों को निर्देश दिया है कि वे ऐसे ऑटोमेटेड टूल्स (सॉफ्टवेयर) इस्तेमाल करें, जो AI के जरिए बनाए गए गैर-कानूनी, अश्लील या धोखाधड़ी वाले कंटेंट को रोक सकें।
• हर 3 महीने में चेतावनी देना अनिवार्य : कंपनियों को हर 3 महीने में कम से कम एक बार अपने यूजर्स को वॉर्निंग देनी होगी। उन्हें बताना होगा कि अगर उन्होंने AI का गलत इस्तेमाल किया या नियम तोड़े, तो उन्हें सजा या जुर्माना भुगतना पड़ सकता है।

यूजर्स और इंडस्ट्री पर क्या असर पड़ेगा?

यूजर्स अब फेक कंटेंट आसानी से पहचान सकेंगे, मिसइनफॉर्मेशन कम होगी। लेकिन क्रिएटर्स को एक्स्ट्रा स्टेप्स करने पड़ेंगे, जैसे लेबल लगाना। इंडस्ट्री के लिए चैलेंज ये होगा कि उन्हें मेटाडेटा और वेरिफिकेशन के लिए टेक इन्वेस्टमेंट करना होगा, जो ऑपरेशंस को थोड़ा महंगा कर सकता है।

लेकिन ओवरऑल, ये AI मिसयूज रोकने में मददगार साबित होगा।

मंत्रालय ने इन नियमों पर क्या कहा?

सूचना प्रौद्योगिकी मंत्रालय ने साफ कहा कि ये स्टेप ‘ओपन, सेफ, ट्रस्टेड और अकाउंटेबल इंटरनेट’ बनाने के लिए है, जो जनरेटिव AI से आने वाली मिसइनफॉर्मेशन, इम्पर्सनेशन और इलेक्शन मैनिपुलेशन जैसी रिस्क्स को हैंडल करेगा। इससे इंटरनेट ज्यादा भरोसेमंद बनेगा।

क्या है डीपफेक?

डीपफेक एक तरह की फेक वीडियो होती है, जिसमें किसी शख्स के चेहरे, आवाज और एक्सप्रेशन बदले जाते हैं। AI टूल्स के जरिए एडिटिंग इतनी सफाई से होती है कि सही और फेक वीडियो में पहचान कर पाना काफी मुश्किल होता है।