ऐसी दुनिया में जहां आपकी ऑनलाइन पहचान सीधे आपसे जुड़ती है, सही प्रतिकृति की संभावना चिंताजनक है। लेकिन डीपफेक तकनीक के आगमन के साथ हमारा ठीक यही सामना है।
जैसे-जैसे तकनीक सस्ती और उपयोग में आसान होती जाती है, डीपफेक के खतरे क्या हैं? इसके अलावा, आप डीपफेक बनाम असली डील कैसे खोज सकते हैं?
डीपफेक क्या है?
डीपफेक वह नाम है जो मीडिया को दिया जाता है जहां वीडियो या छवि में किसी व्यक्ति को किसी और की समानता से बदल दिया जाता है। यह शब्द "डीप लर्निंग" और "नकली" का एक पोर्टमैंटू है और यथार्थवादी-अभी तक सिंथेटिक मीडिया बनाने के लिए मशीन लर्निंग एल्गोरिदम और आर्टिफिशियल इंटेलिजेंस का उपयोग करता है।
इसके सबसे बुनियादी रूप में, आपको किसी अन्य मॉडल पर आरोपित चेहरा मिल सकता है। अपनी तेजी से विकसित हो रही सबसे खराब, डीपफेक तकनीक पहले से न सोचा पीड़ितों को नकली अश्लील वीडियो, नकली समाचार, झांसे, और बहुत कुछ में जोड़ देती है।
आप हमारे डीपफेक व्याख्याता में प्रौद्योगिकी की उत्पत्ति के बारे में अधिक पढ़ सकते हैं।
डीपफेक के खतरे क्या हैं?
नकली चित्र हमेशा मौजूद रहे हैं। यह पता लगाना कि क्या नकली है और क्या नहीं, यह जीवन का एक सामान्य हिस्सा है, खासकर डिजीटल मीडिया के उदय के बाद। लेकिन डीपफेक तकनीक से पैदा होने वाली समस्याएं अलग हैं, जो नकली छवियों और नकली वीडियो में अद्वितीय सटीकता लाती हैं।
व्यापक दर्शकों को हिट करने वाले पहले डीपफेक वीडियो में से एक था जॉर्डन पील एक वीडियो में बराक ओबामा का प्रतिरूपण करते हुए इस मुद्दे पर चर्चा कर रहा था:
क्लोन किए गए चेहरे पर अजीब आवाज और दानेदार कलाकृतियों के साथ वीडियो कच्चा दिखाई देता है। बहरहाल, यह डीपफेक तकनीक को दिखाता है।
या क्या आपने कभी सोचा है कि अगर विल स्मिथ ने कीनू रीव्स के बजाय द मैट्रिक्स में नियो की भूमिका निभाई होती तो क्या होता (मेरा मतलब है, किसने नहीं ?!)? आश्चर्य नहीं:
ये दो वीडियो दुर्भावनापूर्ण नहीं हैं, जिन्हें संकलित करने में मशीन सीखने के सैकड़ों घंटे लगते हैं। लेकिन वही तकनीक किसी के लिए भी उपलब्ध है जिसके पास सीखने के लिए पर्याप्त समय है और इसके साथ जाने के लिए कंप्यूटिंग शक्ति है। डीपफेक तकनीक का उपयोग करने में बाधा शुरू में काफी अधिक थी। लेकिन जैसे-जैसे तकनीक में सुधार होता है और प्रवेश की बाधाएं काफी कम हो जाती हैं, लोग डीपफेक के लिए नकारात्मक और हानिकारक उपयोग पाते हैं।
डीपफेक के अंधेरे पक्ष में जाने से पहले, द शाइनिंग में जैक निकोलसन की जगह जिम कैरी ये हैं:
1. मशहूर हस्तियों की विशेषता वाली नकली वयस्क सामग्री
डीपफेक तकनीक से प्रमुख खतरों में से एक सिंथेटिक वयस्क सामग्री, या डीपफेक पोर्न है, जैसा कि ज्ञात है। एमा वॉटसन, नताली पोर्टमैन और टेलर स्विफ्ट जैसी प्रमुख महिला हस्तियों के चेहरे दिखाने वाले हज़ारों नकली वयस्क वीडियो हैं।
एक महिला वयस्क अभिनेत्री के शरीर पर सेलिब्रिटी के चेहरे को सिलने के लिए सभी डीपफेक मशीन लर्निंग एल्गोरिदम का उपयोग करते हैं, और सभी कई वयस्क सामग्री वेबसाइटों पर लाखों व्यूज को आकर्षित करते हैं।
फिर भी इनमें से कोई भी साइट सेलिब्रिटी डीपफेक के बारे में कुछ नहीं करती है।
डीपफेक डिटेक्शन एंड एनालिसिस फर्म सेंसिटी के सीईओ और चीफ साइंटिस्ट जियोर्जियो पैट्रिनी कहते हैं, "जब तक उनके पास उन्हें नीचे ले जाने और उन्हें छानने की कोशिश करने का कोई मजबूत कारण नहीं है, तब तक कुछ नहीं होने वाला है।" "लोग अब भी इन वेबसाइटों पर बिना किसी परिणाम के इस प्रकार की सामग्री अपलोड करने के लिए स्वतंत्र होंगे, जिन्हें करोड़ों लोग देखते हैं।"
जैसा कि कुछ डीपफेक क्रिएटर्स का आरोप है, वीडियो शोषक और पीड़ित-मुक्त हैं।
2. नियमित लोगों की विशेषता वाली नकली वयस्क सामग्री
मशहूर हस्तियों की सिंथेटिक पोर्न से बदतर क्या है? यह सही है:नकली वयस्क सामग्री जिसमें पहले से न सोचा महिलाओं को दिखाया गया है। एक सेंसिटी अध्ययन ने सोशल मैसेजिंग ऐप, टेलीग्राम पर एक डीपफेक बॉट का खुलासा किया, जिसने 100,000 से अधिक डीपफेक नग्न चित्र बनाए थे। कई चित्र सोशल मीडिया खातों से चुराए गए हैं, जिनमें मित्रों, गर्लफ्रेंड, पत्नियों, माताओं आदि को दर्शाया गया है।
डीपफेक तकनीक में बॉट एक प्रमुख प्रगति है, क्योंकि छवि अपलोडर को डीपफेक, मशीन लर्निंग या एआई के मौजूदा ज्ञान की आवश्यकता नहीं है। यह एक स्वचालित प्रक्रिया है जिसके लिए एकल छवि की आवश्यकता होती है। इसके अलावा, ऐसा प्रतीत होता है कि टेलीग्राम बॉट केवल महिलाओं की छवियों के साथ काम करता है, और प्रीमियम सदस्यता (अधिक छवियां, हटाए गए वॉटरमार्क) हास्यास्पद रूप से सस्ते हैं।
सेलिब्रिटी डीपफेक की तरह, टेलीग्राम बॉट डीपफेक इमेज शोषक, अपमानजनक और अनैतिक हैं। वे आसानी से एक पति, साथी, परिवार के सदस्य, सहकर्मी, या बॉस के इनबॉक्स में अपना रास्ता खोज सकते थे, इस प्रक्रिया में जीवन को नष्ट कर रहे थे। ब्लैकमेल और जबरन वसूली के अन्य रूपों की संभावना बहुत अधिक है और यह मौजूदा मुद्दों, जैसे रिवेंज पोर्न से खतरे को बढ़ाता है।
टेलीग्राम पर डीपफेक पोस्ट करने से एक और समस्या पैदा होती है। टेलीग्राम एक गोपनीयता-केंद्रित संदेश सेवा है जो अपने उपयोगकर्ताओं के साथ बहुत अधिक हस्तक्षेप नहीं करती है। इसमें वयस्क सामग्री से संबंधित पोर्न बॉट और अन्य बॉट्स को हटाने की नीति है लेकिन इस मामले में कुछ नहीं किया है।
3. धोखा देने वाली सामग्री
आपने जॉर्डन पील को ओबामा की भूमिका निभाते देखा है। उस वीडियो में वह डीपफेक के खतरों से आगाह कर रहे हैं। डीपफेक तकनीक के बारे में प्रमुख चिंताओं में से एक यह है कि कोई व्यक्ति इतना यथार्थवादी वीडियो बना और प्रकाशित करेगा कि यह किसी न किसी रूप में त्रासदी की ओर ले जाए।
पैमाने के सबसे चरम छोर पर, लोग कहते हैं कि डीपफेक वीडियो सामग्री युद्ध को गति प्रदान कर सकती है। लेकिन इसके अन्य बड़े परिणाम भी हैं। उदाहरण के लिए, एक डीपफेक वीडियो जिसमें एक प्रमुख निगम या बैंक के सीईओ को नुकसान पहुंचाने वाला बयान दिया गया है, स्टॉक मार्केट क्रैश को ट्रिगर कर सकता है। फिर से, यह चरम है। लेकिन वास्तविक लोग वीडियो की जांच और सत्यापन कर सकते हैं, जबकि वैश्विक बाजार समाचारों पर तुरंत प्रतिक्रिया देते हैं, और स्वचालित बिक्री होती है।
दूसरी बात पर विचार करना मात्रा है। डीपफेक कंटेंट बनाने के लिए सस्ता होने के साथ, यह एक ही व्यक्ति की बड़ी मात्रा में डीपफेक कंटेंट की संभावना को बढ़ाता है, एक ही नकली संदेश को अलग-अलग टोन, स्थानों, शैलियों और बहुत कुछ में वितरित करने पर ध्यान केंद्रित करता है।
4. वास्तविक सामग्री को अस्वीकार करना
होक्स सामग्री के विस्तार के रूप में, आपको यह विचार करना चाहिए कि डीपफेक अविश्वसनीय रूप से यथार्थवादी हो जाएगा। इतना कि लोग सवाल करना शुरू कर देंगे कि कोई वीडियो वास्तविक है या नहीं, चाहे सामग्री कुछ भी हो।
अगर कोई अपराध करता है और एकमात्र सबूत वीडियो है, तो उन्हें यह कहने से रोकने के लिए क्या है, "यह एक डीपफेक है, यह झूठा सबूत है"? इसके विपरीत, किसी को खोजने के लिए डीपफेक वीडियो सबूत लगाने के बारे में क्या?
5. नकली विचार नेता और सामाजिक संपर्क
पहले से ही ऐसे कई उदाहरण हैं जिनमें डीपफेक सामग्री को विचारशील नेता के रूप में प्रस्तुत किया गया है। लिंक्डइन और ट्विटर पर प्रोफाइल रणनीतिक संगठनों में उच्च-रैंकिंग भूमिकाओं का विवरण देते हैं, फिर भी ये लोग मौजूद नहीं हैं और संभवतः डीपफेक तकनीक का उपयोग करके उत्पन्न होते हैं।
उस ने कहा, यह एक डीपफेक-विशिष्ट मुद्दा नहीं है। समय की शुरुआत से, सरकारों, जासूसी नेटवर्क और निगमों ने जानकारी इकट्ठा करने, एजेंडा को आगे बढ़ाने और हेरफेर करने के लिए नकली प्रोफाइल और व्यक्तियों का उपयोग किया है। ।
6. फ़िशिंग घोटाले, सामाजिक इंजीनियरिंग, और अन्य घोटाले
जब सुरक्षा की बात आती है तो सोशल इंजीनियरिंग पहले से ही एक मुद्दा है। लोग दूसरे लोगों पर भरोसा करना चाहते हैं। यह हमारे स्वभाव में है। लेकिन उस भरोसे से सुरक्षा उल्लंघन, डेटा चोरी और बहुत कुछ हो सकता है। सोशल इंजीनियरिंग के लिए अक्सर व्यक्तिगत संपर्क की आवश्यकता होती है, चाहे वह फोन पर हो, वीडियो कॉल का उपयोग कर रहा हो, इत्यादि।
मान लीजिए कि कोई व्यक्ति सुरक्षा कोड या अन्य संवेदनशील जानकारी तक पहुंच प्राप्त करने के लिए किसी निर्देशक की नकल करने के लिए डीपफेक तकनीक का उपयोग कर सकता है। उस स्थिति में, यह डीपफेक घोटालों की बाढ़ का कारण बन सकता है।
डीपफेक को कैसे स्पॉट और डिटेक्ट करें
गुणवत्ता में डीपफेक बढ़ने के साथ, डीपफेक का पता लगाना महत्वपूर्ण है। शुरुआती दिनों में, कुछ सरल बातें थीं:धुंधली छवियां, वीडियो भ्रष्टाचार और कलाकृतियां, और अन्य खामियां। हालांकि, प्रौद्योगिकी का उपयोग करने की लागत तेजी से गिर रही है, जबकि ये गप्पी मुद्दे कम हो रहे हैं।
डीपफेक सामग्री का पता लगाने का कोई सही तरीका नहीं है, लेकिन यहां चार आसान टिप्स दी गई हैं:
- विवरण . डीपफेक तकनीक जितनी अच्छी होती जा रही है, अभी भी कुछ बिट्स हैं जिनसे वह जूझ रहा है। विशेष रूप से, वीडियो के भीतर बारीक विवरण, जैसे बालों की गति, आंखों की गति, गाल की संरचना और भाषण के दौरान गति, और अप्राकृतिक चेहरे के भाव। नेत्र गति एक बड़ी बात है। हालांकि डीपफेक अब प्रभावी ढंग से झपका सकते हैं (शुरुआती दिनों में, यह एक प्रमुख बात थी), आंखों की गति अभी भी एक मुद्दा है।
- भावना . विस्तार से बांधना भावना है। अगर कोई मजबूत बयान दे रहा है, तो विवरण देते समय उनका चेहरा कई तरह की भावनाओं को प्रदर्शित करेगा। डीपफेक भावनाओं की उतनी गहराई नहीं दे सकता जितना एक वास्तविक व्यक्ति।
- असंगतता . वीडियो की गुणवत्ता सर्वकालिक उच्च स्तर पर है। आपकी जेब में मौजूद स्मार्टफोन 4K में रिकॉर्ड और ट्रांसमिट कर सकता है। यदि कोई राजनीतिक नेता बयान दे रहा है, तो वह शीर्ष स्तरीय रिकॉर्डिंग उपकरणों से भरे कमरे के सामने है। इसलिए, खराब रिकॉर्डिंग गुणवत्ता, दृश्य और श्रव्य दोनों, एक उल्लेखनीय असंगति है।
- स्रोत . क्या वीडियो किसी सत्यापित प्लेटफॉर्म पर दिखाई दे रहा है? सोशल मीडिया प्लेटफॉर्म यह सुनिश्चित करने के लिए सत्यापन का उपयोग करते हैं कि विश्व स्तर पर पहचाने जाने वाले लोगों की नकल न हो। ज़रूर, सिस्टम के साथ समस्याएँ हैं। लेकिन यह जांचना कि कोई विशेष रूप से गंभीर वीडियो कहां से स्ट्रीम हो रहा है या होस्ट किया जा रहा है, आपको यह पता लगाने में मदद करेगा कि यह वास्तविक है या नहीं। आप अन्य स्थानों को प्रकट करने के लिए रिवर्स इमेज सर्च करने का भी प्रयास कर सकते हैं जहां छवि इंटरनेट पर पाई जाती है।
डीपफेक को पहचानने और रोकने के लिए टूल
डीपफेक का पता लगाने के खिलाफ लड़ाई में आप अकेले नहीं हैं। कई प्रमुख टेक कंपनियां डीपफेक डिटेक्शन के लिए टूल विकसित कर रही हैं, जबकि अन्य प्लेटफॉर्म डीपफेक को स्थायी रूप से ब्लॉक करने के लिए कदम उठा रहे हैं।
उदाहरण के लिए, माइक्रोसॉफ्ट का डीपफेक डिटेक्शन टूल, माइक्रोसॉफ्ट वीडियो ऑथेंटिकेटर, सेकंड के भीतर विश्लेषण करेगा, उपयोगकर्ता को इसकी प्रामाणिकता के बारे में सूचित करेगा (उदाहरण के लिए नीचे जीआईएफ देखें)। साथ ही, Adobe आपको सामग्री को हेरफेर से बचाने के लिए डिजिटल रूप से हस्ताक्षर करने में सक्षम बनाता है।
फेसबुक और ट्विटर जैसे प्लेटफॉर्म पहले ही दुर्भावनापूर्ण डीपफेक पर प्रतिबंध लगा चुके हैं (द मैट्रिक्स में विल स्मिथ जैसे डीपफेक अभी भी निष्पक्ष खेल हैं), जबकि Google नकली ऑडियो स्निपेट का मुकाबला करने के लिए टेक्स्ट-टू-स्पीच विश्लेषण टूल पर काम कर रहा है।
अगर आप अपने नकली मीडिया डिटेक्शन स्किल्स पर ब्रश करना चाहते हैं, तो स्पॉटिंग और सीखने के लिए नकली डिटेक्शन टेस्ट की हमारी सूची देखें।
डीपफेक आ रहे हैं—और वे बेहतर हो रहे हैं
इस मामले की सच्चाई यह है कि 2018 में डीपफेक के मुख्यधारा में आने के बाद से उनका प्राथमिक उपयोग महिलाओं के साथ दुर्व्यवहार करना है। चाहे वह किसी सेलिब्रिटी चेहरे का उपयोग करके नकली पोर्न बनाना हो या सोशल मीडिया पर किसी के कपड़े उतारना हो, यह सब दुनिया भर में महिलाओं का शोषण करने, उनके साथ छेड़छाड़ करने और उन्हें नीचा दिखाने पर केंद्रित है।
इसमें कोई संदेह नहीं है कि क्षितिज पर डीपफेक का विद्रोह है। ऐसी तकनीक का उदय जनता के लिए खतरा बन गया है, फिर भी इसके आगे बढ़ने को रोकने का कोई सहारा नहीं है।