डीपफेक के 6 प्रमुख खतरे और उन्हें कैसे पहचानें

एक ऐसी दुनिया में जहां आपकी ऑनलाइन पहचान सीधे आपसे जुड़ी होती है, पूर्ण प्रतिकृति की संभावना चिंताजनक है। लेकिन डीपफेक तकनीक के आगमन के साथ हम वास्तव में इसी का सामना कर रहे हैं।

डीपफेक क्या है?

डीपफेक उस मीडिया को दिया गया नाम है जहां वीडियो या छवि में एक व्यक्ति को किसी और की समानता से बदल दिया जाता है। यह शब्द "डीप लर्निंग" और "फेक" का एक पोर्टमैंट्यू है और यथार्थवादी-फिर-सिंथेटिक मीडिया बनाने के लिए मशीन लर्निंग एल्गोरिदम और कृत्रिम बुद्धिमत्ता का उपयोग करता है।

अपने सबसे बुनियादी स्तर पर, आपको एक चेहरा दूसरे मॉडल पर आरोपित मिल सकता है। अपने तेजी से विकसित सबसे खराब रूप में, डीपफेक तकनीक नासमझ पीड़ितों को नकली पोर्नोग्राफिक वीडियो, नकली समाचार, धोखा, और बहुत कुछ में सिल देती है।

आप प्रौद्योगिकी की उत्पत्ति के बारे में हमारे डीपफेक व्याख्याकार में अधिक पढ़ सकते हैं।

डीपफेक के खतरे क्या हैं?

नकली छवियां हमेशा से मौजूद हैं। यह पता लगाना कि क्या नकली है और क्या नहीं, जीवन का एक सामान्य हिस्सा है, विशेष रूप से डिजिटलीकृत मीडिया के उदय के बाद। लेकिन डीपफेक तकनीक जो मुद्दे पैदा करती है वे अलग हैं, नकली छवियों और नकली वीडियो में अद्वितीय सटीकता लाती हैं।

व्यापक दर्शकों तक पहुंचने वाले पहले डीपफेक वीडियो में से एक था जॉर्डन पील द्वारा बराक ओबामा का प्रतिरूपण उस मुद्दे पर चर्चा करते हुए एक वीडियो में:

वीडियो कच्चा दिखाई देता है, एक अजीब आवाज और क्लोन किए गए चेहरे पर दानेदार कलाकृतियों के साथ। फिर भी, यह डीपफेक तकनीक को दर्शाता है।

या क्या आपने कभी सोचा है कि अगर विल स्मिथ ने कीनू रीव्स के बजाय द मैट्रिक्स में नियो की भूमिका निभाई होती तो कैसा होता (मेरा मतलब है, किसने नहीं?!)? अब आश्चर्य न करें:

ये दो वीडियो दुर्भावनापूर्ण नहीं हैं, इन्हें संकलित करने में मशीन लर्निंग के सैकड़ों घंटे लगे। लेकिन वही तकनीक किसी के लिए भी उपलब्ध है जिसके पास सीखने के लिए पर्याप्त समय और उसके साथ जाने वाली कंप्यूटिंग शक्ति है। डीपफेक तकनीक का उपयोग करने की बाधा शुरू में काफी अधिक थी। लेकिन जैसे-जैसे तकनीक में सुधार होता है और प्रवेश के लिए बाधाएं काफी कम होती हैं, लोग डीपफेक के लिए नकारात्मक और हानिकारक उपयोग ढूंढते हैं।

डीपफेक के अंधेरे पक्ष में जाने से पहले, यहां जिम कैरी द शाइनिंग में जैक निकोलसन की जगह ले रहे हैं:

1. मशहूर हस्तियों की विशेषता वाली नकली वयस्क सामग्री

डीपफेक तकनीक से प्रमुख खतरों में से एक सिंथेटिक वयस्क सामग्री है, या डीपफेक पोर्न जैसा कि यह जाना जाता है। एम्मा वॉटसन, नताली पोर्टमैन, और टेलर स्विफ्ट जैसी प्रमुख महिला हस्तियों के चेहरे वाले हजारों नकली वयस्क वीडियो हैं।

सभी डीपफेक मशीन लर्निंग एल्गोरिदम का उपयोग करके सेलिब्रिटी के चेहरे को एक महिला वयस्क अभिनेत्री के शरीर पर सिलते हैं, और सभी कई वयस्क सामग्री वेबसाइटों पर लाखों व्यूज आकर्षित करते हैं।

फिर भी इनमें से कोई भी साइट सेलिब्रिटी डीपफेक के बारे में कुछ नहीं करती।

"जब तक उनके लिए उन्हें हटाने और फ़िल्टर करने का कोई मजबूत कारण नहीं है, कुछ भी नहीं होने वाला है," Sensity के CEO और मुख्य वैज्ञानिक, जियोर्जियो पैट्रिनी कहते हैं, एक डीपफेक पहचान और विश्लेषण फर्म। "लोग इस प्रकार की सामग्री को बिना किसी परिणाम के इन वेबसाइटों पर अपलोड करने के लिए स्वतंत्र रहेंगे जिन्हें सैकड़ों लाखों लोग देखते हैं।"

वीडियो शोषणकारी हैं और कुछ डीपफेक रचनाकारों के आरोप के विपरीत पीड़ित-मुक्त से बहुत दूर हैं।

2. आम लोगों की विशेषता वाली नकली वयस्क सामग्री

सेलिब्रिटी डीपफेक से भी बदतर क्या है? सही: नासमझ महिलाओं की विशेषता वाली नकली वयस्क सामग्री। एक Sensity अध्ययन ने सोशल मैसेजिंग ऐप, Telegram, पर एक डीपफेक बॉट को उजागर किया जिसने 100,000 से अधिक डीपफेक नग्न छवियां बनाई थीं। कई छवियां सोशल मीडिया अकाउंट्स से चुराई गई हैं, जिनमें दोस्तों, गर्लफ्रेंड, पत्नियों, माताओं आदि की विशेषता है।

बॉट डीपफेक तकनीक में एक बड़ी प्रगति है, क्योंकि छवि अपलोडर को डीपफेक, मशीन लर्निंग, या AI के मौजूदा ज्ञान की आवश्यकता नहीं है। यह एक स्वचालित प्रक्रिया है जिसमें एक छवि की आवश्यकता होती है। इसके अलावा, Telegram बॉट केवल महिलाओं की छवियों के साथ काम करता प्रतीत होता है, और प्रीमियम सब्सक्रिप्शन (अधिक छवियां, वॉटरमार्क हटाया गया) हास्यास्पद रूप से सस्ते हैं।

सेलिब्रिटी डीपफेक की तरह, Telegram बॉट डीपफेक छवियां शोषणकारी, अपमानजनक और अनैतिक हैं। वे आसानी से पति, साथी, परिवार के सदस्य, सहकर्मी, या बॉस के इनबॉक्स में अपना रास्ता खोज सकते हैं, इस प्रक्रिया में जीवन को नष्ट कर सकते हैं। ब्लैकमेल और जबरन वसूली के अन्य रूपों की संभावना बहुत अधिक है और यह मौजूदा मुद्दों जैसे रिवेंज पोर्न से खतरे को बढ़ाता है।

Telegram पर डीपफेक पोस्ट करने से एक और समस्या पैदा होती है। Telegram एक गोपनीयता-केंद्रित मैसेजिंग सेवा है जो अपने उपयोगकर्ताओं के साथ ज्यादा हस्तक्षेप नहीं करती। इसकी पोर्न बॉट और वयस्क सामग्री से संबंधित अन्य बॉट को हटाने की नीति है लेकिन इस मामले में कुछ नहीं किया है।

3. धोखा सामग्री

आपने जॉर्डन पील को ओबामा की भूमिका निभाते देखा है। उस वीडियो में, वह डीपफेक के खतरों की चेतावनी दे रहे हैं। डीपफेक तकनीक के संबंध में प्रमुख चिंताओं में से एक यह है कि कोई ऐसा वीडियो बनाएगा और प्रकाशित करेगा जो इतना यथार्थवादी होगा कि यह किसी प्रकार की त्रासदी की ओर ले जाएगा।

पैमाने के सबसे चरम छोर पर, लोग कहते हैं कि डीपफेक वीडियो सामग्री युद्ध को ट्रिगर कर सकती है। लेकिन अन्य प्रमुख परिणाम भी हैं। उदाहरण के लिए, एक प्रमुख निगम या बैंक CEO को नुकसान पहुंचाने वाला बयान देते हुए एक डीपफेक वीडियो शेयर बाजार को क्रैश कर सकता है। फिर, यह चरम है। लेकिन वास्तविक लोग एक वीडियो की जांच और सत्यापन कर सकते हैं, जबकि वैश्विक बाजार समाचारों पर तुरंत प्रतिक्रिया करते हैं, और स्वचालित बिक्री होती है।

विचार करने वाली दूसरी बात मात्रा है। डीपफेक सामग्री बनाना तेजी से सस्ता होने के साथ, यह बड़ी मात्रा में उसी व्यक्ति की डीपफेक सामग्री की संभावना को बढ़ाता है, जो अलग-अलग स्वरों, स्थानों, शैलियों, और बहुत कुछ में एक ही नकली संदेश देने पर केंद्रित है।

4. वास्तविक सामग्री से इनकार करना

धोखा सामग्री के विस्तार के रूप में, आपको यह विचार करना होगा कि डीपफेक अविश्वसनीय रूप से यथार्थवादी बन जाएंगे। इतना कि लोग सामग्री की परवाह किए बिना सवाल करना शुरू कर देंगे कि वीडियो वास्तविक है या नहीं।

यदि कोई अपराध करता है और एकमात्र सबूत वीडियो है, तो उन्हें यह कहने से क्या रोकता है, "यह एक डीपफेक है, यह झूठा सबूत है"? इसके विपरीत, किसी को ढूंढने के लिए डीपफेक वीडियो साक्ष्य लगाने के बारे में क्या?

5. नकली विचारक नेता और सामाजिक संपर्क

विचारक नेताओं के रूप में प्रस्तुत डीपफेक सामग्री से जुड़े कई उदाहरण पहले ही सामने आ चुके हैं। LinkedIn और Twitter पर प्रोफाइल रणनीतिक संगठनों में उच्च-रैंकिंग भूमिकाओं का विवरण देते हैं, फिर भी ये लोग मौजूद नहीं हैं और संभवतः डीपफेक तकनीक का उपयोग करके उत्पन्न किए गए हैं।

कहा जा रहा है, यह डीपफेक-विशिष्ट मुद्दा नहीं है। समय की शुरुआत से, सरकारें, जासूसी नेटवर्क, और निगमों ने जानकारी एकत्र करने, एजेंडा आगे बढ़ाने, और हेरफेर करने के लिए नकली प्रोफाइल और व्यक्तित्व का उपयोग किया है।

6. फ़िशिंग घोटाले, सोशल इंजीनियरिंग, और अन्य घोटाले

सोशल इंजीनियरिंग पहले से ही सुरक्षा के मामले में एक मुद्दा है। लोग अन्य लोगों पर भरोसा करना चाहते हैं। यह हमारे स्वभाव में है। लेकिन वह भरोसा सुरक्षा उल्लंघनों, डेटा चोरी, और बहुत कुछ का कारण बन सकता है। सोशल इंजीनियरिंग को अक्सर व्यक्तिगत संपर्क की आवश्यकता होती है, चाहे वह फोन पर हो, वीडियो कॉल का उपयोग करके, और इसी तरह।

मान लीजिए कोई डीपफेक तकनीक का उपयोग करके किसी निदेशक की नकल करके सुरक्षा कोड या अन्य संवेदनशील जानकारी तक पहुंच प्राप्त कर सकता है। उस स्थिति में, यह डीपफेक घोटालों की बाढ़ का कारण बन सकता है।

डीपफेक को कैसे पहचानें और पता लगाएं

डीपफेक की गुणवत्ता बढ़ने के साथ, डीपफेक को पहचानना महत्वपूर्ण है। शुरुआती दिनों में, कुछ सरल संकेत थे: धुंधली छवियां, वीडियो भ्रष्टाचार और कलाकृतियां, और अन्य खामियां। हालांकि, ये स्पष्ट मुद्दे घट रहे हैं जबकि प्रौद्योगिकी का उपयोग करने की लागत तेजी से गिर रही है।

डीपफेक सामग्री का पता लगाने का कोई सही तरीका नहीं है, लेकिन यहां चार आसान सुझाव हैं:

1. विवरण. डीपफेक तकनीक जितनी अच्छी होती जा रही है, अभी भी कुछ चीजें हैं जिनसे यह संघर्ष करती है। विशेष रूप से, वीडियो के भीतर बारीक विवरण, जैसे बालों की गति, आंखों की गति, गाल की संरचना और भाषण के दौरान गति, और अप्राकृतिक चेहरे के भाव। आंखों की गति एक बड़ा संकेत है। हालांकि डीपफेक अब प्रभावी ढंग से पलक झपका सकते हैं (शुरुआती दिनों में, यह एक प्रमुख संकेत था), आंखों की गति अभी भी एक मुद्दा है।
2. भावना. विवरण से जुड़ी भावना है। यदि कोई मजबूत बयान दे रहा है, तो उनका चेहरा विवरण देते समय भावनाओं की एक श्रृंखला प्रदर्शित करेगा। डीपफेक एक वास्तविक व्यक्ति के समान भावना की गहराई प्रदान नहीं कर सकते।
3. असंगति. वीडियो गुणवत्ता सर्वकालिक उच्च स्तर पर है। आपकी जेब में स्मार्टफोन 4K में रिकॉर्ड और प्रसारित कर सकता है। यदि कोई राजनीतिक नेता बयान दे रहा है, तो यह शीर्ष स्तर के रिकॉर्डिंग उपकरण से भरे कमरे के सामने होता है। इसलिए, खराब रिकॉर्डिंग गुणवत्ता, दृश्य और श्रव्य दोनों, एक उल्लेखनीय असंगति है।
4. स्रोत. क्या वीडियो सत्यापित प्लेटफॉर्म पर दिखाई दे रहा है? सोशल मीडिया प्लेटफॉर्म विश्व स्तर पर पहचाने जाने वाले लोगों की नकल नहीं होने को सुनिश्चित करने के लिए सत्यापन का उपयोग करते हैं। ज़रूर, सिस्टम के साथ मुद्दे हैं। लेकिन यह जांचना कि विशेष रूप से गंभीर वीडियो कहां से स्ट्रीम किया जा रहा है या होस्ट किया जा रहा है, आपको यह पता लगाने में मदद करेगा कि यह असली है या नहीं। आप रिवर्स इमेज सर्च करने की भी कोशिश कर सकते हैं ताकि इंटरनेट पर छवि पाए जाने वाले अन्य स्थानों का पता चल सके।

डीपफेक को पहचानने और रोकने के लिए उपकरण

आप डीपफेक को पहचानने की लड़ाई में अकेले नहीं हैं। कई प्रमुख तकनीकी कंपनियां डीपफेक पहचान के लिए उपकरण विकसित कर रही हैं, जबकि अन्य प्लेटफॉर्म स्थायी रूप से डीपफेक को ब्लॉक करने के लिए कदम उठा रहे हैं।

उदाहरण के लिए, Microsoft का डीपफेक पहचान उपकरण, Microsoft वीडियो ऑथेंटिकेटर, सेकंड के भीतर विश्लेषण करेगा, उपयोगकर्ता को इसकी प्रामाणिकता के बारे में सूचित करेगा (उदाहरण के लिए नीचे GIF देखें)। साथ ही, Adobe आपको सामग्री पर डिजिटल हस्ताक्षर करने में सक्षम बनाता है ताकि इसे हेरफेर से बचाया जा सके।

Facebook और Twitter जैसे प्लेटफॉर्म पहले ही दुर्भावनापूर्ण डीपफेक पर प्रतिबंध लगा चुके हैं (विल स्मिथ इन द मैट्रिक्स जैसे डीपफेक अभी भी उचित खेल हैं), जबकि Google नकली ऑडियो स्निपेट्स का मुकाबला करने के लिए टेक्स्ट-टू-स्पीच विश्लेषण उपकरण पर काम कर रहा है।

यदि आप अपने नकली मीडिया पहचान कौशल को सुधारना चाहते हैं, तो पहचानने और सीखने के लिए नकली पहचान परीक्षणों की हमारी सूची देखें।

डीपफेक आ रहे हैं - और वे बेहतर हो रहे हैं

सच्चाई यह है कि 2018 में डीपफेक के मुख्यधारा में आने के बाद से, उनका प्राथमिक उपयोग महिलाओं का दुरुपयोग करना है। चाहे वह सेलिब्रिटी चेहरे का उपयोग करके नकली पोर्न बनाना हो या सोशल मीडिया पर किसी के कपड़े उतारना हो, यह सब दुनिया भर में महिलाओं का शोषण, हेरफेर और अपमान करने पर केंद्रित है।

इसमें कोई संदेह नहीं है कि डीपफेक का विद्रोह क्षितिज पर है। ऐसी तकनीक के उदय से जनता को खतरा है, फिर भी इसके आगे बढ़ने को रोकने के लिए बहुत कम सहारा है।