डीपफेक और एआई-जनरेटेड वीडियो यहां रहने के लिए हैं। लेकिन पिछले कुछ वर्षों में, वे गुणवत्ता और मात्रा में बढ़े हैं, जिससे बहुत से लोग राष्ट्रीय सुरक्षा और व्यक्तिगत गोपनीयता को लेकर चिंतित हैं।
फिर भी, गुमनाम ऑनलाइन उपयोगकर्ताओं ने अपने नकली वीडियो को वास्तविक बनाने की कितनी भी कोशिश की हो, वे कभी भी उन्नत चेहरे की पहचान सॉफ़्टवेयर को प्राप्त नहीं कर सके। अब तक।
मूर्ख चेहरा पहचान API
दक्षिण कोरिया के सुवन में सुंगक्यूंकवान विश्वविद्यालय के शोधकर्ताओं ने वर्तमान डीपफेक तकनीक की गुणवत्ता का परीक्षण किया। उन्होंने ओपन-सोर्स का उपयोग करके अमेज़ॅन और माइक्रोसॉफ्ट एपीआई दोनों का परीक्षण किया और यह देखने के लिए कि वे कितना अच्छा प्रदर्शन करते हैं, आमतौर पर डीपफेक वीडियो जनरेटिंग सॉफ़्टवेयर का उपयोग करते हैं।
शोधकर्ताओं ने हॉलीवुड हस्तियों के चेहरों का इस्तेमाल किया। ठोस डीपफेक बनाने के लिए, सॉफ़्टवेयर को एक ही व्यक्ति के विभिन्न कोणों से उच्च-गुणवत्ता वाली छवियों की आवश्यकता होती है, जो आम लोगों के बजाय मशहूर हस्तियों को हासिल करना बहुत आसान होता है।
शोधकर्ताओं ने अपने अध्ययन के लिए बेंचमार्क के रूप में माइक्रोसॉफ्ट और अमेज़ॅन के एपीआई का उपयोग करने का भी फैसला किया क्योंकि दोनों कंपनियां सेलिब्रिटी फेस रिकग्निशन सेवाएं प्रदान करती हैं। उन्होंने सार्वजनिक रूप से उपलब्ध डेटासेट का उपयोग किया और केवल 8,000 से अधिक डीपफेक बनाए। प्रत्येक डीपफेक वीडियो से, उन्होंने कई फेसशॉट निकाले और इसे एपीआई को सबमिट किया, जो सवालों के घेरे में है।
Microsoft की Azure Cognitive Services के साथ, शोधकर्ता डीपफेक का उपयोग करके सिस्टम को 78 प्रतिशत समय तक मूर्ख बनाने में सक्षम थे। अमेज़ॅन के परिणाम थोड़े बेहतर थे, जिसमें 68 प्रतिशत सबमिट किए गए चेहरों की पहचान वास्तविक के रूप में की गई थी।
डीपफेक डिटेक्टरों के बारे में क्या?
डीपफेक डिटेक्टर कमोबेश उसी तरह काम करते हैं जैसे डीपफेक करता है। डिटेक्टर ऐसे सॉफ़्टवेयर हैं जिन्हें मशीन लर्निंग मॉडल का उपयोग करके डीपफ़ेक वीडियो का पता लगाने के लिए प्रशिक्षित किया गया था।
लेकिन डिटेक्टरों को बेवकूफ बनाने के लिए एक अति-यथार्थवादी वीडियो बनाने पर ध्यान केंद्रित करने के बजाय, एआई सिस्टम को भ्रमित करने के लिए डीपफेक अब हर फ्रेम में प्रतिकूल उदाहरण शामिल कर सकते हैं। वास्तव में, इस प्रकार के डीपफेक हमलों की सफलता दर 78 से 99 प्रतिशत के बीच होती है।
यह और भी खराब होता जा रहा है
डीपफेक एक मशीन लर्निंग एप्लीकेशन है। ऐसा चित्र बनाने के लिए जो दूर से भी आश्वस्त करने वाला हो, आपको एक ही व्यक्ति के चेहरे की सैकड़ों छवियों को विभिन्न कोणों से और विभिन्न भावनाओं को प्रदर्शित करने की आवश्यकता है।
बड़ी मात्रा में डेटा की आवश्यकता के कारण, कोई यह सोच सकता है कि केवल बड़ी ऑनलाइन उपस्थिति वाले लोग ही जोखिम में हैं, जैसे सेलिब्रिटी और राजनेता। लेकिन अब ऐसा नहीं है।
डीपट्रेस के अनुसार, अक्टूबर 2019 से जून 2020 तक - एक वर्ष के भीतर ऑनलाइन डीपफेक की संख्या में 330 प्रतिशत की वृद्धि हुई। उल्लेख नहीं करने के लिए, सॉफ्टवेयर और एल्गोरिदम डीपफेक निर्माताओं का उपयोग मजबूत और अधिक आसानी से उपलब्ध और सुलभ होता जा रहा है।
डीपफेक के जोखिम में कौन है?
जब डीपफेक पहली बार मुख्यधारा में आए, तो प्राथमिक चिंताएं गोपनीयता और राष्ट्रीय सुरक्षा के लिए थीं। लोगों को डर था कि राजनेताओं और आधिकारिक सरकारी कर्मचारियों के वीडियो फुटेज पर अब भरोसा नहीं किया जा सकता।
लेकिन जब सुरक्षा जोखिम डीपफेक पोज की अवहेलना करना गैर-जिम्मेदार होगा, तो कई सर्वेक्षणों में पाया गया कि डीपफेक निर्माता अभी तक राजनीति को परेशान करने में दिलचस्पी नहीं ले रहे हैं। ऑनलाइन डीपफेक वीडियो के बहुमत को दो श्रेणियों में विभाजित किया जा सकता है:सेलिब्रिटी साक्षात्कार के मजेदार वीडियो, और फिल्में और अश्लील सामग्री।
जबकि हाल ही में यह अध्ययन सेलिब्रिटी चेहरों का उपयोग करके किया गया था ताकि यह सुनिश्चित किया जा सके कि एपीआई को बेवकूफ बनाने के लिए डीपफेक उच्च गुणवत्ता वाले थे, इसका मतलब यह नहीं है कि आप कम डेटा के साथ डीपफेक नहीं बना सकते। ज़रूर, वे उन्नत चेहरे की पहचान प्रणाली को मूर्ख बनाने का मौका नहीं दे सकते, लेकिन वे अन्य लोगों को बरगलाने के लिए पर्याप्त आश्वस्त हो सकते हैं।
आजकल, सामाजिक उपस्थिति वाले किसी के भी डीपफेक को पक्का बनाया जा सकता है। उन्हें केवल आपकी कुछ तस्वीरें और शायद आपके द्वारा दिखाई देने वाले वीडियो की आवश्यकता है। परिणामी डीपफेक गुणवत्ता में कम हो सकता है, लेकिन यह अभी भी करने योग्य है और हानिकारक हो सकता है।
भविष्य अभी भी अज्ञात है
डीपफेक की स्थिति के बारे में कई विरोधाभासी भविष्यवाणियां हैं, क्योंकि वे जल्द ही दूर नहीं होने वाली हैं।
कुछ एक सर्वनाशकारी साइबर भविष्य की उम्मीद करते हैं जहां आप ऑनलाइन आने वाले किसी भी फुटेज पर भरोसा नहीं कर सकते। अन्य लोग अधिक आशावादी हैं, डीपफेक की तुलना एनिमेशन से कर रहे हैं और कह रहे हैं कि सामग्री उत्पादन में इसका भविष्य हो सकता है।