राजनीति से लेकर फिल्मों और यहां तक कि युद्ध तक, वर्ष 2023 ने प्रदर्शित किया है कि इंटरनेट पर जो कुछ भी देखा या सुना जाता है वह वास्तविक नहीं हो सकता है। लगातार विकसित हो रही आर्टिफिशियल इंटेलिजेंस तकनीक के तेजी से लोगों के जीवन का हिस्सा बनने के साथ, डीपफेक में तेज वृद्धि ने देश में चुनावी राजनीति, खासकर अगले साल होने वाले लोकसभा चुनावों के दौरान, को प्रभावित करने की इसकी क्षमता के बारे में चिंताएं बढ़ा दी हैं।
डीपफेक हेरफेर किए गए वीडियो या अन्य डिजिटल प्रतिनिधित्व हैं जो कृत्रिम बुद्धिमत्ता का उपयोग करके ऐसे व्यक्तियों के ठोस वीडियो या ऑडियो बनाते हैं जो उन्होंने कभी नहीं किया या कहा, जिससे गलत सूचना फैलने और उनकी प्रतिष्ठा को नुकसान पहुंचने का खतरा होता है।
अमेरिका स्थित वेब सुरक्षा सेवा कंपनी 'होम सिक्योरिटी हीरोज' की '2023 स्टेट ऑफ डीपफेक रिपोर्ट' के अनुसार, 2019 के बाद से डीपफेक वीडियो में पांच गुना वृद्धि देखी गई। 2023 में, भारत में डीपफेक वीडियो से संबंधित कई परेशान करने वाले मामले देखे गए, जैसे अभिनेता रश्मिका मंदाना से जुड़ा मामला, जिसका चेहरा एक ब्रिटिश-भारतीय सोशल मीडिया प्रभावकार के चेहरे पर लगाया गया था।
इस घटना ने डीपफेक के निहितार्थों को लेकर देशव्यापी बहस छेड़ दी और गोपनीयता के हनन और नुकसान पहुंचाने की संभावना के बारे में चिंताएं बढ़ा दीं। सोशल मीडिया पर डीपफेक वीडियो बनाने और अपलोड करने के आरोप में चार लोगों को गिरफ्तार किया गया है।
यह सिर्फ वह नहीं थी, अन्य फिल्मी सितारों जैसे आलिया भट्ट, काजोल, ऐश्वर्या राय और कैटरीना कैफ को भी डीपफेक वीडियो के जरिए निशाना बनाया गया था। कुछ महीने पहले, प्रधानमंत्री नरेंद्र मोदी ने डीपफेक बनाने के लिए कृत्रिम बुद्धिमत्ता के उपयोग को हरी झंडी दिखाते हुए कहा था कि इससे एक बड़ा संकट पैदा हो सकता है। उन्होंने मीडिया से इसके दुरुपयोग और प्रभाव के बारे में जागरूकता फैलाने का आग्रह किया। मोदी ने कहा कि उन्होंने हाल ही में चैटजीपीटी पेशेवरों को सुझाव दिया है कि जैसे सिगरेट जैसे उत्पाद स्वास्थ्य चेतावनियों के साथ आते हैं, वैसे ही डीपफेक में भी खुलासे होने चाहिए।
सुप्रीम कोर्ट के वकील और साइबर सुरक्षा कानून पर अंतर्राष्ट्रीय आयोग के अध्यक्ष पवन दुग्गल ने कहा, "यह एक नई उभरती हुई तकनीक है लेकिन बहुत तेजी से लोगों के जीवन का हिस्सा बन रही है। न केवल साइबर अपराधियों द्वारा बल्कि अधिक से अधिक लोग डीपफेक का उपयोग करने जा रहे हैं।"
उन्होंने कहा, "आपको रश्मिका मंदाना, कैटरीना कैफ या आलिया भट्ट बनने की जरूरत नहीं है। हम जल्द ही यह महसूस करना शुरू कर देंगे कि इंटरनेट के सामान्य उपयोगकर्ताओं पर डीपफेक होगा।"
दुग्गल ने आशंका व्यक्त की कि चूंकि अब कोई भी ऑनलाइन टूल का उपयोग करके बिना सोचे-समझे डीपफेक बना सकता है, जिनमें से कई उपकरण मुफ्त में उपलब्ध हैं, "हम पूरे साइबर इको-सिस्टम में डेटा स्ट्रीम में और अधिक विषाक्तता देखने जा रहे हैं।"
उन्होंने कहा, "पहले से ही, हम अश्लील वेबसाइटों पर बहुत सारे डीपफेक वीडियो देख रहे हैं। यह एक बड़ी चुनौती बनने जा रही है।" वैश्विक स्तर पर, यूक्रेन और गाजा जैसे संघर्षों के इर्द-गिर्द कहानियों को आकार देने के लिए डीपफेक का उपयोग किया गया है। भारत में, चिंताजनक कारक चुनावों में उनका संभावित उपयोग है।
हाल ही में संपन्न विधानसभा चुनावों के दौरान, डीपफेक वीडियो ने न केवल व्यक्तिगत राजनीतिक नेताओं को निशाना बनाया, बल्कि सार्वजनिक कथाओं को प्रभावित करने का भी प्रयास किया। वाईएस शर्मिला और मध्य प्रदेश के पूर्व मुख्यमंत्री शिवराज सिंह चौहान जैसी सार्वजनिक हस्तियों को निशाना बनाने वाले डीपफेक चुनावी राजनीति के लिए संभावित खतरे के रूप में उभरे। अगले साल होने वाले आम चुनावों के साथ, स्थिति की गंभीरता ने कानून निर्माताओं और प्रौद्योगिकी विशेषज्ञों का ध्यान आकर्षित किया है।
इलेक्ट्रॉनिक्स और सूचान प्रौद्योगिकी राज्य मंत्री राजीव चन्द्रशेखर ने कहा, "हमारे जैसे देश के लिए, जो दुनिया का सबसे बड़ा लोकतंत्र है, डीपफेक और उनके द्वारा प्रस्तुत गलत सूचना निश्चित रूप से सुरक्षित, स्वतंत्र और निष्पक्ष चुनाव कराने के लिए एक बहुत ही समस्याग्रस्त मुद्दा है।"
डीपफेक पर बढ़ती चिंताओं के बीच, सरकार ने सभी सोशल मीडिया प्लेटफार्मों को आईटी नियमों का पालन करने का निर्देश दिया, क्योंकि कंपनियों को उपयोगकर्ताओं को निषिद्ध सामग्री के बारे में स्पष्ट शब्दों में सूचित करना अनिवार्य है, और चेतावनी दी है कि उल्लंघन के कानूनी परिणाम होंगे।
एक आधिकारिक विज्ञप्ति में कहा गया है कि आईटी मंत्रालय आने वाले हफ्तों में बिचौलियों (सोशल मीडिया और डिजिटल प्लेटफॉर्म) के अनुपालन का बारीकी से निरीक्षण करेगा और जरूरत पड़ने पर आईटी नियमों या कानून में और संशोधन पर निर्णय लेगा।
एआई-डीपफेक द्वारा संचालित गलत सूचनाओं को लेकर बढ़ती चिंताओं के बीच, यह संदेश इस मुद्दे पर सरकार के रुख को सख्त करने को रेखांकित करता है। हालांकि, विशेषज्ञों का मानना है कि सरकार को ऐसी प्रौद्योगिकियों के विकास के प्रभाव को विनियमित करने के लिए और अधिक प्रयास करने की आवश्यकता है।
साइबर सुरक्षा कंपनी सेक्यूरेटेक के सह-संस्थापक और सीईओ पंकित देसाई ने कहा, "भारत सरकार को एहसास हुआ कि डेटा गोपनीयता अधिनियम की आवश्यकता थी। यह अधिनियम अस्तित्व में है। अब इसे दुनिया भर में नागरिकों और कॉरपोरेट्स को इस तरह के दुरुपयोग से बचाने में सक्षम होने के लिए एआई और डीपफेक के संभावित दुरुपयोग को शामिल करने के लिए बढ़ाया जाना चाहिए।"
