डीपफेक और AI-जनित वीडियो यहाँ रहने के लिए हैं। लेकिन पिछले कुछ वर्षों में, वे गुणवत्ता और मात्रा में बढ़े हैं, जिससे राष्ट्रीय सुरक्षा और व्यक्तिगत गोपनीयता पर बहुत से लोग चिंतित हैं।
फिर भी, कोई फर्क नहीं पड़ता कि गुमनाम ऑनलाइन उपयोगकर्ताओं ने अपने नकली वीडियो को यथार्थवादी बनाने की कितनी कोशिश की, वे कभी भी उन्नत चेहरे की पहचान सॉफ़्टवेयर को पार नहीं कर पाए। अब तक।
चेहरे की पहचान API को धोखा देना
सुंगक्युंकवान यूनिवर्सिटी, सुवोन, दक्षिण कोरिया के शोधकर्ताओं ने वर्तमान डीपफेक तकनीक की गुणवत्ता का परीक्षण किया। उन्होंने ओपन-सोर्स और आमतौर पर उपयोग किए जाने वाले डीपफेक वीडियो जनरेटिंग सॉफ़्टवेयर का उपयोग करके अमेज़ॅन और माइक्रोसॉफ्ट दोनों API का परीक्षण किया कि वे कितना अच्छा प्रदर्शन करते हैं।
शोधकर्ताओं ने हॉलीवुड हस्तियों के चेहरों का उपयोग किया। ठोस डीपफेक बनाने के लिए, सॉफ़्टवेयर को एक ही व्यक्ति की विभिन्न कोणों से बहुत सारी उच्च-गुणवत्ता वाली छवियों की आवश्यकता होती है, जो सामान्य लोगों के बजाय हस्तियों के लिए प्राप्त करना बहुत आसान है।
शोधकर्ताओं ने अपने अध्ययन के लिए बेंचमार्क के रूप में माइक्रोसॉफ्ट और अमेज़ॅन के API का उपयोग करने का भी निर्णय लिया क्योंकि दोनों कंपनियां सेलिब्रिटी फेस रिकग्निशन सेवाएं प्रदान करती हैं। उन्होंने सार्वजनिक रूप से उपलब्ध डेटासेट का उपयोग किया और 8,000 से अधिक डीपफेक बनाए। प्रत्येक डीपफेक वीडियो से, उन्होंने कई फेसशॉट निकाले और इसे प्रश्न में APIs को प्रस्तुत किया।
माइक्रोसॉफ्ट के एज़्योर कॉग्निटिव सर्विसेज के साथ, शोधकर्ता डीपफेक का उपयोग करके 78 प्रतिशत समय सिस्टम को धोखा देने में सक्षम थे। अमेज़ॅन के परिणाम थोड़े बेहतर थे, प्रस्तुत चेहरों में से 68 प्रतिशत को वास्तविक के रूप में पहचाना गया।
डीपफेक डिटेक्टर का क्या?
डीपफेक डिटेक्टर कमोबेश उसी तरह काम करते हैं जैसे डीपफेक। डिटेक्टर सॉफ़्टवेयर हैं जिन्हें मशीन लर्निंग मॉडल का उपयोग करके डीपफेक वीडियो का पता लगाने के लिए प्रशिक्षित किया गया था।
लेकिन हाइपर-यथार्थवादी वीडियो बनाने पर ध्यान केंद्रित करने के बजाय डिटेक्टरों को धोखा देने के लिए, डीपफेक अब हर फ्रेम में विरोधाभासी उदाहरण शामिल कर सकते हैं ताकि AI सिस्टम को भ्रमित किया जा सके। वास्तव में, इस प्रकार के डीपफेक हमलों की सफलता दर 78 से 99 प्रतिशत तक होती है।
यह बदतर होता जा रहा है
डीपफेक एक मशीन लर्निंग एप्लिकेशन है। एक ऐसा बनाने के लिए जो दूर से भी ठोस हो, आपको एक ही व्यक्ति के चेहरे की सैकड़ों छवियों की आवश्यकता होती है जो विभिन्न कोणों से और विभिन्न भावनाओं को प्रदर्शित करती हों।
भारी मात्रा में डेटा की आवश्यकता के कारण, कोई सोचेगा कि केवल बड़ी ऑनलाइन उपस्थिति वाले लोग ही जोखिम में हैं, जैसे हस्तियाँ और राजनेता। लेकिन अब ऐसा नहीं है।
डीपट्रेस के अनुसार, ऑनलाइन डीपफेक की संख्या एक साल से भी कम समय में 330 प्रतिशत बढ़ी—अक्टूबर 2019 से जून 2020 तक। उल्लेख नहीं करने के लिए, डीपफेक निर्माताओं द्वारा उपयोग किए जाने वाले सॉफ़्टवेयर और एल्गोरिदम मजबूत और अधिक आसानी से उपलब्ध और सुलभ होते जा रहे हैं।
डीपफेक से कौन जोखिम में है?
जब डीपफेक मुख्यधारा बन गए, तो प्राथमिक चिंताएँ गोपनीयता और राष्ट्रीय सुरक्षा के लिए थीं। लोगों को डर था कि राजनेताओं और आधिकारिक सरकारी कर्मचारियों के वीडियो फुटेज पर अब भरोसा नहीं किया जा सकता।
लेकिन जब डीपफेक द्वारा उत्पन्न सुरक्षा जोखिम को नजरअंदाज करना गैर-जिम्मेदाराना होगा, कई सर्वेक्षणों में पाया गया कि डीपफेक निर्माता अभी राजनीति को परेशान करने में इतने दिलचस्पी नहीं रखते हैं। ऑनलाइन अधिकांश डीपफेक वीडियो को दो श्रेणियों में विभाजित किया जा सकता है: सेलिब्रिटी साक्षात्कार के मजेदार वीडियो, और फिल्में और पोर्नोग्राफिक सामग्री।
हालांकि हालिया अध्ययन सेलिब्रिटी चेहरों का उपयोग करके API को धोखा देने के लिए उच्च गुणवत्ता वाले डीपफेक सुनिश्चित करने के लिए किया गया था, इसका मतलब यह नहीं है कि आप कम डेटा के साथ डीपफेक नहीं बना सकते। निश्चित रूप से, वे उन्नत चेहरे की पहचान प्रणालियों को धोखा देने का मौका नहीं दे सकते, लेकिन वे अन्य लोगों को धोखा देने के लिए पर्याप्त ठोस हो सकते हैं।
आजकल, सोशल उपस्थिति वाले किसी भी व्यक्ति के डीपफेक ठोस रूप से बनाए जा सकते हैं। उन्हें बस आपकी कुछ तस्वीरों और शायद एक वीडियो की आवश्यकता है जिसमें आप दिखाई देते हैं। परिणामी डीपफेक गुणवत्ता में कम हो सकता है, लेकिन यह अभी भी संभव है और हानिकारक हो सकता है।
भविष्य अभी भी अज्ञात है
डीपफेक की स्थिति के बारे में कई विरोधाभासी भविष्यवाणियाँ हैं, क्योंकि वे जल्द ही कहीं नहीं जा रहे हैं।
कुछ एक सर्वनाशकारी साइबर भविष्य की उम्मीद करते हैं जहां आप ऑनलाइन आने वाले किसी भी फुटेज पर भरोसा नहीं कर सकते। अन्य अधिक आशावादी हैं, डीपफेक की तुलना एनिमेशन से करते हुए कहते हैं कि इसका सामग्री निर्माण में भविष्य हो सकता है।
