नई दिल्ली। प्रधानमंत्री नरेंद्र मोदी ने शुक्रवार 17 नवंबर को डीपफेक टेक्नोलॉजी को खतरा बताया। उन्होंने कहा कि एक वीडियो में मुझे गरबा गाते दिखाया गया है, ऐसे कई वीडियो ऑनलाइन पड़े हुए हैं। जानकारी के मुताबिक मोदी ने ये भी कहा कि ये समझना बहुत जरूरी है कि आर्टिफिशियल इंटेलिजेंस (AI) कैसे काम करता है। क्योंकि उनका उपयोग जानबूझकर गलत जानकारी फैलाने या दुर्भावनापूर्ण इरादे के लिए किया जा सकता है। प्रधानमंत्री ने ये बातें भाजपा मुख्यालय में दिवाली मिलन कार्यक्रम के दौरान कही। , ताकि गलत और नुकसान पहुंचाने वाला कंटेंट फैलने से रुके।

क्या है डीपफेक

आज के डिजिटल दौर में कई बार गलत खबरें और भ्रामक जानकारियां इंटरनेट की मदद से लोगों तक पहुंचाई जा रही हैं। ऐसे ही वीडियो भी पहुंचाए जाते हैं। इसे डीपफेक कहते हैं। इसमें असली और नकली की पहचान बेहद मुश्किल होती है। इसमें आर्टिफिशियल इंटेलिजेंस तकनीक (AI) और मशीन लर्निंग सॉफ्टवेयर का इस्तेमाल किया जाता है। इनका उपयोग करके मीडिया फाइल जैसे फोटो, ऑडियो और वीडियो की परिवर्तित कॉपी तैयार की जाती है, जो वास्तविक फाइल की तरह ही दिखती है। सरल भाषा में कहें तो डीपफेक, मॉर्फ वीडियो का ही एडवांस रूप है।

डीपफेक बनाने और फैलाने पर सजा का प्रावधान

केंद्र सरकार साफ कर दिया है कि डीपफेक बनाने और फैलाने पर एक लाख का जुर्माना और तीन साल की जेल हो सकती है।

रश्मिका और काजोल के डीपफेक वीडियो से मचा था बवाल

हाल ही में एक्ट्रेस रश्मिका मंदाना और काजोल का एक वीडियो सोशल मीडिया पर वायरल हुआ था। पहले रश्मिका मंदाना का एक डीपफेक वीडियो आया, जिसमें AI टेक्नोलॉजी से एक इन्फ्लूएंसर के चेहरे में बड़ी सफाई से रश्मिका का चेहरा मॉर्फ किया गया था। फिर काजोल का वीडियो आया, जिसमें वे ड्रेस चेंज करते हुए दिखीं। फैक्ट चैकिंग प्लेटफॉर्म BOOM की की मानें तो यह वीडियो काजोल का नहीं, बल्कि किसी सोशल मीडिया इन्फ्लुएंसर का है। इसे जून 2023 में सोशल मीडिया पर ‘गेट रेडी विद मी’ (GRWM) ट्रेंड के तहत अपलोड किया गया था।