पर्याप्त स्रोत इमेज के साथ, Jordan Peele को President Obama, Jimmy Fallon को John Oliver, या Jon Snow को निराश Game of Thrones प्रशंसकों के प्रवक्ता में बदलना इतना कठिन नहीं है। पहले, डीपफेक को पकड़ना बहुत कठिन नहीं था - यहां तक कि सर्वश्रेष्ठ में भी धुंधलापन, विकृति, और अस्वाभाविक चेहरे के अंतर जैसे दृश्य संकेत थे जो उन्हें सिर्फ "ऑफ" लगते थे।
यह एक बिल्ली-और-चूहे का खेल है, हालांकि, और ऐसा लगता है कि जैसे ही हम डीपफेक का पता लगाने की एक विधि सीखते हैं, अगली पीढ़ी दोष को ठीक कर देती है। उससे लड़ने के लिए, क्या यह पता लगाने के लिए कोई विश्वसनीय समाधान हैं कि कौन से वीडियो हमें धोखा देने की कोशिश कर रहे हैं?
दृश्य संकेत
आर्टिफैक्ट केवल वे चीजें नहीं हैं जो Indiana Jones संग्रहालयों में रखते हैं - वे एक इमेज या वीडियो में हेरफेर किए जाने के बाद छोड़े गए छोटे विचलन भी हैं। प्रारंभिक डीपफेक में, इन्हें अक्सर मानव आंख से पकड़ा जा सकता था और खराब डीपफेक में अभी भी कुछ चेतावनी संकेत हो सकते हैं, जैसे किनारों के आसपास धुंधलापन, एक ओवरस्मूद चेहरा, डबल आइब्रो, ग्लिच, या आम तौर पर "अप्राकृतिक" महसूस होना कि चेहरा कैसे फिट बैठता है।
अधिकांश भाग के लिए, हालांकि, तकनीकों में अब उस बिंदु तक सुधार हुआ है जहां ये आर्टिफैक्ट केवल अन्य एल्गोरिदम को वीडियो डेटा के माध्यम से कंघी करके और पिक्सेल स्तर पर चीजों की जांच करके दिखाई देते हैं। उनमें से कुछ काफी रचनात्मक हो सकते हैं, जैसे एक तकनीक जो यह जांचती है कि नाक की दिशा चेहरे की दिशा से मेल खाती है या नहीं। अंतर मनुष्यों के लिए उठाने के लिए बहुत सूक्ष्म है, लेकिन मशीनें इसमें काफी अच्छी साबित होती हैं।
बायोमेट्रिक संकेत
कुछ समय के लिए ऐसा लग रहा था कि डीपफेक को उजागर करने की कुंजी उनकी प्राकृतिक ब्लिंकिंग पैटर्न की कमी थी, "आंखें बंद" स्रोत इमेज की सापेक्ष कमी के लिए धन्यवाद। अगली पीढ़ी की डीपफेक तकनीक को बेहतर ब्लिंकिंग को शामिल करने में ज्यादा समय नहीं लगा, हालांकि, उस तकनीक की प्रभावशीलता को तेजी से कम कर दिया।
अन्य बायोमेट्रिक संकेतक पूरी तरह से क्रैक नहीं हुए हैं, हालांकि, जैसे व्यक्तिगत विचित्रताएं जिन्हें एल्गोरिदम आसानी से डीपफेक में स्वचालित नहीं कर सकते क्योंकि उन्हें उपयोग की जा रही भाषा की कुछ प्रासंगिक समझ की आवश्यकता होती है। आश्चर्य होने पर तेजी से ब्लिंक करने या सवाल पूछते समय भौहें उठाने जैसी छोटी आदतों को डीपफेक द्वारा उठाया और उपयोग किया जा सकता है, लेकिन जरूरी नहीं कि सही समय पर क्योंकि वे (अभी तक) स्वचालित रूप से यह पता नहीं लगा सकते कि उन आंदोलनों को कब तैनात करना है।
वीडियो इमेज का उपयोग करके दिल की धड़कन पढ़ने में सक्षम AI के डीपफेक डिटेक्शन से परे बहुत सारे अनुप्रयोग हैं, लेकिन आवधिक आंदोलनों और रंग परिवर्तनों की तलाश करना जो हृदय गति का संकेत देते हैं, AI-जनित इम्पोस्टर्स की पहचान करने में मदद कर सकते हैं। सबसे स्पष्ट सस्ता तब होता है जब एक डीपफेक में कोई दिल की धड़कन नहीं होती है, लेकिन डीपफेक में अक्सर नाड़ी होती है। फिर भी, अनियमितताएं (जैसे चेहरे के विभिन्न हिस्सों में अलग-अलग हृदय गति प्रदर्शित होना) अभी भी एक डीपफेक की पहचान करने में मदद कर सकती हैं।
AI प्रोजेक्ट्स
बहुत सारे बड़े नाम डीपफेक समस्या को हल करने में बहुत रुचि रखते हैं। Facebook, Google, MIT, Oxford, Berkeley, और बहुत सारे अन्य स्टार्टअप और शोधकर्ता ऊपर सूचीबद्ध विधियों के अलावा, कृत्रिम बुद्धिमत्ता को प्रशिक्षित करके नकली वीडियो का पता लगाने से इस समस्या से निपट रहे हैं।
एक चीज जिस पर Facebook और Google दोनों काम कर रहे हैं, वह है अभिनेताओं के काम करने के उच्च-गुणवत्ता वाले वीडियो का डेटासेट बनाना, जिसका उपयोग वे डीपफेक बनाने के लिए करते हैं। इन पर प्रशिक्षित AI तब डीपफेक के टेल्टेल संकेतों का पता लगा सकते हैं और उनका पता लगाने का कार्य सौंपा जा सकता है।
बेशक, यह केवल तब तक काम करता है जब तक शोधकर्ता सबसे अद्यतित तकनीक का उपयोग करके डीपफेक उत्पन्न करना जारी रखते हैं, जिसका अर्थ है कि नवीनतम डीपफेक ट्रिक्स की खोज और इन एल्गोरिदम के उन्हें पकड़ने में सक्षम होने के बीच हमेशा थोड़ा अंतराल होगा। थोड़े भाग्य के साथ, हालांकि, वास्तविक चूहों का उपयोग करके डीपफेक की पहचान करने वाले प्रयोग काम करेंगे और हमें बढ़त देंगे।
प्रमाणीकरण
डिटेक्शन तकनीकें डीपफेक का पूरा जवाब नहीं हैं, हालांकि, क्योंकि उनकी शायद कभी 100% सफलता दर नहीं होगी। जिन डीपफेक में कुछ समय और पैसा लगाया गया है, वे शायद बहुत सारे सूंघ परीक्षण और वर्तमान AI विधियों को पास कर सकते हैं। और आइए याद रखें कि इंटरनेट कैसे काम करता है: भले ही ये नकली पकड़े जाएं, वे संभवतः पुनः प्रसारित होंगे और कुछ लोगों द्वारा विश्वास किए जाएंगे।
यही कारण है कि किसी प्रकार के सत्यापन तंत्र का होना भी महत्वपूर्ण है - इस बात का कुछ प्रमाण कि कौन सा वीडियो मूल है या कुछ ऐसा जो इंगित कर सके कि क्या किसी वीडियो को संशोधित किया गया है। Factom, Ambervideo, और Axiom जैसी कंपनियां यही कर रही हैं वीडियो के बारे में डेटा को अपरिवर्तनीय ब्लॉकचेन पर एन्कोड करके।
इन परियोजनाओं में से कई के पीछे मूल विचार यह है कि एक वीडियो फ़ाइल में निहित डेटा या एक निश्चित कैमरे द्वारा उत्पन्न डेटा का उपयोग एक अद्वितीय हस्ताक्षर उत्पन्न करने के लिए किया जा सकता है जो वीडियो के साथ छेड़छाड़ होने पर बदल जाएगा। अंततः, सोशल मीडिया पर अपलोड किए गए वीडियो एक प्रमाणीकरण कोड उत्पन्न करने के विकल्प के साथ आ सकते हैं जिसे मूल अपलोडर ब्लॉकचेन पर रजिस्टर कर सकता है यह साबित करने के लिए कि वे मूल वीडियो मालिक थे।
इन समाधानों की अपनी समस्याओं का सेट है, निश्चित रूप से, जैसे वीडियो एन्कोडिंग फ़ाइल में डेटा को बदलना और वीडियो सामग्री वास्तव में बदले बिना हस्ताक्षर को बदलना, या वैध वीडियो संपादन हस्ताक्षर को गड़बड़ करना। उच्च-दांव स्थितियों में, हालांकि, जैसे वाणिज्यिक लेनदेन जहां डिलीवरी सत्यापित करने या निवेशक समर्थन प्राप्त करने के लिए इमेज का उपयोग किया जाता है, इस तरह का एक प्रमाणीकरण लेयर डीपफेक-संबंधित धोखाधड़ी को रोकने में मदद कर सकता है।
क्या डीपफेक Photoshop से अधिक खतरनाक हैं?
इस बिंदु पर, हम सभी बस यह मानते हैं कि इमेज वास्तविक नहीं हो सकतीं क्योंकि हम पूरी तरह से जानते हैं कि लगभग किसी भी चीज़ को स्टिल इमेज में वास्तविक दिखाने की तकनीक मौजूद है। अंततः, हम वीडियो को उसी तरह के संदेह के साथ देखना शुरू कर सकते हैं जैसे नकली बनाना उतना ही आसान और आश्वस्त करने वाला हो जाता है जितना Photoshop वर्तमान में इमेज संपादन को बनाता है। सामान्य जागरूकता के साथ भी, हालांकि, निकट भविष्य में एक अच्छी तरह से समयबद्ध, उच्च-गुणवत्ता वाले डीपफेक के साथ बहुत सारे वास्तविक जीवन की घटनाओं की शुरुआत की कल्पना करना आसान है।
