फेशियल रिकग्निशन में नस्लीय पूर्वाग्रह की जांच: क्या तकनीक पक्षपाती हो सकती है?

फेशियल रिकग्निशन तकनीक और इसकी क्षमताएं हमारी कल्पना से कहीं आगे बढ़ गई हैं, जब से कानून प्रवर्तन में इस तकनीक को सुदृढ़ करने के लिए नए एल्गोरिदम प्रमुखता में आए हैं। वर्तमान में, फेस रिकग्निशन तकनीक का उपयोग कानून प्रवर्तन बलों द्वारा डेटा एकत्र करने की सबसे निचली प्रक्रियाओं में भीड़ भरे समारोहों में आपराधिक अपराधियों की पहचान करने के लिए किया जाता है। तकनीक सार्वजनिक स्थानों और सड़कों पर CCTV कैमरों से फुटेज का उपयोग करती है और फिर एकत्रित डेटा को एजेंसी अभिलेखागार के खिलाफ चलाती है ताकि एक ऐसे चेहरे का पता लगाया जा सके जो आपराधिक अपराधों के लिए वांछित है।

इस तकनीक को सबसे छोटे गैजेट्स में भी एम्बेड किया गया है, जिसमें मोबाइल फोन और स्मार्ट पहनने योग्य डिवाइस शामिल हैं। इसलिए, यह न केवल सड़कों पर आपकी रक्षा कर रहा है, बल्कि आपके स्मार्ट डिवाइस पर संग्रहीत आपकी व्यक्तिगत जानकारी की रक्षा करने का भी इरादा रखता है। मार्केटिंग और विज्ञापन प्रथाओं के लिए "फेसप्रिंट" का उपयोग सोशल मीडिया अभियानों के आधुनिक युग में आम हो गया है। और फिर, मॉल, रिटेल स्टोर आदि में निजी निगरानी है।

इस दृष्टिकोण से, कोई भी फेशियल रिकग्निशन तकनीक के निर्विवाद लाभों को जल्दी से इंगित कर सकता है। लेकिन इसकी जांच उपयोगकर्ता गोपनीयता, डेटा सुरक्षा, और निश्चित रूप से, कानून और जनता के बीच पारदर्शिता के लिए खतरे के लिए भी की गई है। ऐसी आक्रामक तकनीक के फायदे और नुकसान दोनों से अवगत होना अच्छी बात है। फिर भी, फेस रिकग्निशन तकनीक का एक और नुकसान है, जिसे लोग नजरअंदाज करते हैं, और वह है नस्लीय प्रोफाइलिंग और नस्लीय भेदभाव।

इस लेख में, हम देखते हैं कि यह तकनीक नस्लीय पूर्वाग्रह और भेदभाव को कैसे बढ़ावा देती है और इस तरह की आक्रामक तकनीक के परिणाम कितने गंभीर हैं।

फेशियल रिकग्निशन कैसे काम करता है?

चरण 1: कैमरा, आपके खाते, ईमेल आदि से आपकी तस्वीर ली जाती है। यह या तो एक सीधी प्रोफाइल तस्वीर है या भीड़ में एक रैंडम स्नैप।

चरण 2: फेस रिकग्निशन सॉफ़्टवेयर आपके चेहरे को स्टोर्ड फेसप्रिंट्स के डेटाबेस के माध्यम से चलाएगा। फेसप्रिंट आपके चेहरे के ज्यामितीय ट्रैकिंग के माध्यम से एकत्र किया जाता है।

चरण 3: एल्गोरिदम का उपयोग करके किसी भी ज्ञात फेसप्रिंट के खिलाफ आपकी तस्वीर का मिलान प्रतिशत उत्पन्न किया जाता है जिस पर एक निर्णय लिया जाता है।

ऑटोमेशन बायस: फेशियल रिकग्निशन टेक की कई खामियों में से एक

ऑटोमेशन बायस या मशीन बायस उस परिदृश्य को संदर्भित करता है जहां एक मशीन एल्गोरिदम इनपुट डेटा के कैलिब्रेशन में एक निश्चित पूर्वाग्रह प्रदर्शित करता है, जिससे प्रतिकूल आउटपुट मिलता है। यह तब होता है जब एल्गोरिदम कोड में त्रुटि होती है, कैलिब्रेशन के लिए स्टोर्ड डेटा-सेट की कमी होती है, गलत इनपुट मान होते हैं, या अत्यधिक इनपुट डेटा होता है, जो मशीनों की कैलिब्रेट करने की क्षमता से परे होता है।

नस्लीय प्रोफाइलिंग इससे कैसे जुड़ती है?

आइए एक प्राचीन घटना से शुरू करते हैं जिसे उस समय महत्वहीन माना गया था। 2001 में, टाम्पा सिटी ने 2001 सुपर बाउल के कारण पर्यटकों के शहर की सड़कों पर भर जाने के कारण भीड़ भरे शहर पर निगरानी के लिए फेस रिकग्निशन सॉफ़्टवेयर का उपयोग किया। न्यूयॉर्क टाइम्स की एक रिपोर्ट के अनुसार, सॉफ़्टवेयर ने 19 लोगों की पहचान की जिनके खिलाफ कथित तौर पर बकाया वारंट थे; हालांकि, स्टेडियम के बुनियादी ढांचे के कारण भीड़भाड़ के बीच पहचाने गए अपराधियों तक पहुंचना असंभव होने के कारण कोई गिरफ्तारी नहीं की गई।

हालांकि इस विशेष मामले में नस्लीय प्रोफाइलिंग के संकेत कहीं नहीं देखे गए, यह पहली बार था जब निगरानी तकनीकों को व्यक्तियों की नागरिक स्वतंत्रता और गोपनीयता के उल्लंघन के खिलाफ खड़ा किया गया था। आने वाले वर्षों में, टाम्पा पुलिस ने अविश्वसनीय परिणामों का हवाला देते हुए इन निगरानी प्रणालियों को छोड़ दिया।

कुछ हद तक अधिक हाल के परिदृश्य पर तेजी से आगे बढ़ते हुए, अली ब्रेलैंड ने द गार्जियन के लिए रिपोर्ट किया, विली लिंच की गिरफ्तारी के संबंध में, एक अश्वेत व्यक्ति पर ब्रेंटवुड क्षेत्र में एक कुख्यात ड्रग डीलर होने का आरोप लगाया गया, जो मुख्य रूप से रंगीन लोगों का पड़ोस है। लिंच के खिलाफ एकमात्र सबूत उसके मोबाइल पर उसकी तस्वीरें थीं, जिन्हें पुलिस डेटाबेस के खिलाफ चलाया गया था इससे पहले कि पुलिस ने उसे अपराधी के रूप में निर्धारित किया। लिंच को आठ साल की सजा सुनाई गई, जिसने अब सजा के खिलाफ अपील की है। चाहे वह कथित डीलर था या नहीं, यह अनिवार्य रूप से चिंता पैदा करता है कि क्या केवल मशीन-आधारित परिणाम किसी की जांच के तहत दोषसिद्धि को बनाए रखने के लिए पर्याप्त है?

2019 में, टॉम पर्किन्स द्वारा द गार्जियन के लिए रिपोर्ट किया गया, डेट्रॉइट पुलिस कथित तौर पर पिछले दो वर्षों से गिरफ्तारी करने के लिए फेस रिकग्निशन का उपयोग कर रही थी। डेट्रॉइट एक ऐसी जगह है जहां 80% से अधिक आबादी अश्वेत है। डेट्रॉइट पुलिस कमीशन के एक अश्वेत सदस्य के बयान ने इस प्रथा के खिलाफ चिंता जताई। उन्होंने कहा कि अश्वेत लोगों में एक सामान्य चेहरे की विशेषता होती है जो सिस्टम के एल्गोरिदम को खतरे में डालती है, इसे "टेक्नो-रेसिज्म" करार दिया।

फैबियो बाचिनी और लुडोविका लोरुसो द्वारा सूचना संचार और नैतिकता सोसायटी जर्नल के लिए 2019 के शोध में, यह पाया गया कि ये बायोमेट्रिक और फेस रिकग्निशन सिस्टम कानून प्रवर्तन के लिए 100% विश्वसनीय नहीं हैं। इसके अलावा, नस्लीय भेदभाव ऐसे सभी सिस्टम पर एक नकारात्मक प्रभाव था, जिसके आगे उल्टे सामाजिक निहितार्थ हैं। अध्ययन ने विशेष रूप से पश्चिमी समाजों को लक्षित किया, जहां ऐसी प्रणालियों का उपयोग निगरानी के लिए व्यापक रूप से किया जाता है।

ये उन कई उदाहरणों में से केवल तीन हैं जहां फेस रिकग्निशन सिस्टम के कारण नस्लीय असमानताओं के मामले सामने आए हैं। लेकिन एल्गोरिदम कोडिंग अपग्रेड में बढ़ती सटीकता के बावजूद ये सिस्टम इतने अक्षम क्यों हैं।

पश्चिमी राज्यों में श्वेत वर्चस्व: एक श्वेत-प्रमुख तकनीकी उद्योग

2014 में, अधिकांश तकनीकी कंपनियों, जिनमें दिग्गज Apple Inc. भी शामिल है, को ज्यादातर श्वेत, पुरुष कर्मचारियों को काम पर रखते हुए पाया गया। Apple में, 55% कर्मचारी श्वेत थे, और इसी तरह, Apple नेतृत्व में 63% श्वेत कर्मचारी शामिल थे। जिन कंपनियों ने इसी तरह की विविधता रिपोर्ट साझा की, उनमें फेसबुक, गूगल, और ट्विटर भी शामिल थे। पांच साल बाद, वायर्ड की एक रिपोर्ट में खुलासा हुआ कि इन संख्याओं में न्यूनतम सुधार हुआ था।

जहां फेसबुक ने संख्याओं में अच्छा सुधार दिखाया, वहीं Apple के अश्वेत तकनीकी श्रमिकों का प्रतिशत केवल 6% पर अपरिवर्तित रहा। अमेज़ॅन एकमात्र संगठन था जिसने अपने अमेरिकी कार्यालयों में 42% अश्वेत या लैटिन अमेरिकी श्रमिकों को पंजीकृत किया।

ये आंकड़े क्या दर्शाते हैं? अमेरिका में, अधिकांश कोडर, जिन्हें निगरानी प्रणालियों के लिए एल्गोरिदम डिजाइन करने जैसी प्रमुख परियोजनाओं को सौंपा जाता है, श्वेत हैं। ये वे लोग हैं जो किसी कंपनी द्वारा लॉन्च/अनावरण किए जाने वाले उत्पाद या सेवा के संबंध में सबसे महत्वपूर्ण निर्णय लेते हैं। और इसलिए, उनके दृष्टिकोण, दृष्टिकोण, और विचार प्रक्रियाएं अंतिम निर्माण में जाती हैं। इसका मतलब यह नहीं है कि श्वेत लोग नस्लवादी हैं और उन्होंने जानबूझकर ऐसी निगरानी प्रणालियों को डिजाइन किया है। नहीं!

जब एक श्वेत व्यक्ति फेस रिकग्निशन एल्गोरिदम डिजाइन करता है और केवल श्वेत सहयोगी उससे परामर्श/सहायता करते हैं, तो वे कोड को अंतिम रूप देने से पहले अन्य रंग के लोगों के चेहरे की विशेषताओं पर विचार नहीं करते हैं। चूंकि श्वेत इंजीनियर तकनीकी उद्योग पर हावी हैं, इसलिए प्रारंभिक कोड तैयार करने के लिए उपयोग किए जाने वाले डेटा अभिलेखागार भी श्वेत तकनीशियनों द्वारा बनाए और कैलिब्रेट किए जाते हैं। इस प्रकार, कोड स्वयं अपने मूल गणनात्मक एल्गोरिदम में एक पूर्वाग्रह के साथ बनाया जाता है, जिसके परिणामस्वरूप निगरानी परिणामों में ये नस्लीय असमानताएं होती हैं।

कोड केवल वही सीखता है जो श्वेत लोग इसमें डालते हैं। किसी अन्य रंग के व्यक्ति का कोई दृष्टिकोण या योगदान नहीं है।

कैलिब्रेशन मुद्दे

अमेरिकी कानून प्रवर्तन निगरानी और डेटा ट्रैकिंग पर बहुत अधिक निर्भर करता है। ऐसे कई उदाहरण हैं जहां व्हिसलब्लोअर्स ने नागरिकों की अनधिकृत निगरानी के बारे में जानकारी उजागर की। एडवर्ड स्नोडेन का NSA की अवैध निगरानी का खुलासा ऐसा ही एक उदाहरण है।

ये निगरानी कार्यक्रम लाखों नागरिकों के फेसप्रिंट्स और अन्य व्यक्तिगत जानकारी द्वारा समर्थित हैं। यदि हम केवल फेसप्रिंट्स पर विचार करते हैं, तो लाखों अमेरिकी खुले तौर पर सोशल मीडिया प्लेटफॉर्म पर तस्वीरें साझा कर रहे हैं। फिर देश की हर सड़क पर CCTV कैमरे हैं जो सैकड़ों हजारों राहगीरों का लाइव फुटेज प्रदान करते हैं। वर्तमान में, पुलिस डेटाबेस में लगभग 117 मिलियन छवियां हैं, जबकि FBI के पास निगरानी फेस रिकग्निशन एल्गोरिदम में कैलिब्रेट करने के लिए 400 मिलियन से अधिक डेटासेट हैं।

अब कल्पना करें कि इन डेटासेट की तुलना एक ऐसी छवि के खिलाफ की जाती है जिसमें किसी विशेष व्यक्ति के सभी चेहरे की विशेषताएं हो भी सकती हैं और नहीं भी। ऐसे परिदृश्य में, त्रुटियां उत्पन्न होने की संभावना है। समझने और एक फेसप्रिंट के खिलाफ चलाने के लिए बस बहुत अधिक डेटा है। जब कैलिब्रेशन इतना जटिल हो तो कोई एल्गोरिदम अपने परिणाम में सौ प्रतिशत आश्वासन की गारंटी नहीं दे सकता। यह अंततः फेस रिकग्निशन तकनीक के कारण होने वाली नस्लीय प्रोफाइलिंग को बढ़ाता है।

फेस रिकग्निशन पर अत्यधिक निर्भरता

विली लिंच का मामला एक याद दिलाता है कि जब कानून प्रवर्तन की बात आती है तो फेस रिकग्निशन को एकमात्र विश्वसनीय तकनीक के रूप में प्रस्तुत नहीं किया जाना चाहिए। यही कारण है कि टाम्पा सिटी पुलिस ने इस तकनीक को छोड़ दिया।

यह सच है कि फेस रिकग्निशन एक उत्कृष्ट सहारा है और पुलिस के लिए सहायक है। बोस्टन मैराथन बम विस्फोट के अपराधियों को निगरानी रिकॉर्डिंग के व्यापक और विस्तृत विश्लेषण का उपयोग करके पहचाना गया था। लेकिन यह किसी को दोषी ठहराने का एकमात्र सबूत नहीं हो सकता। फेस रिकग्निशन एल्गोरिदम के परिणामों को साबित करने के लिए समर्थन सबूत होने चाहिए, और अंतिम निर्णय पर पहुंचने से पहले ऑटोमेशन बायस की अवधारणा पर विचार किया जाना चाहिए।

हार्डवेयर की समस्या: मोबाइल और कैमरों में फेस रिकग्निशन

निगरानी कैमरा सिस्टम और संबंधित हार्डवेयर और सॉफ़्टवेयर को एक ही कंपनी द्वारा डिजाइन नहीं किया गया है। यह अरबों डॉलर का एक उद्योग है जिसमें दर्जनों निगम कानून प्रवर्तन एजेंसियों से अनुबंध प्राप्त करने के लिए प्रतिस्पर्धा करते हैं। इनमें से कई सिस्टम चीनी निर्माताओं से हैं। यह सबसे सस्ती तकनीक प्राप्त करने के बारे में है जिसमें सर्वोत्तम गुण हों। ज्यादातर ऐसा ही होता है। और इसलिए, विभिन्न प्रणालियों के कैलिब्रेशन में अंतर के साथ-साथ निगरानी परिणामों की गुणवत्ता में भिन्नता की हमेशा संभावनाएं होती हैं। कई कैमरा निगरानी एल्गोरिदम तकनीकी अक्षमता के कारण केवल रंगीन लोगों की छवियों को कैलिब्रेट करने में अप्रभावी हैं, इस प्रकार नस्लीय भेदभाव को महिमामंडित करते हैं।

फेस रिकग्निशन के माध्यम से नस्लवाद पैदा करने वाले तकनीकी मुद्दों को ऐप्पल फेस लॉक फीचर में भी देखा गया है। चीन के एक मामले ने खुलासा किया कि iPhone X फेस लॉक दो अलग-अलग चीनी सहकर्मियों के बीच अंतर करने में असमर्थ था, जिससे फीचर बेकार हो गया। इसी तरह की रिपोर्टों को दो अश्वेत लोगों को एक दूसरे से अलग करने में फीचर की समस्याओं का हवाला देते हुए खारिज कर दिया गया था। जैसा कि ऊपर बताया गया है, ऐप्पल की तकनीकी टीमों में केवल 6% अश्वेत लोग हैं। यह इस बात का स्पष्ट उदाहरण है कि कैसे फेस रिकग्निशन तकनीक हमारे हाथ में पकड़े जाने वाले उपकरणों में भी नस्लवाद को बढ़ावा दे सकती है।

निष्कर्ष

हां, फेशियल रिकग्निशन नस्लवादी है, और यह अब सामान्य ज्ञान है। जबकि तकनीक रोजाना बढ़ रही है ऐसे मुद्दों को सुधारने के लिए, परिणाम सभी समान हैं। तकनीक तकनीकी प्रगति और विकास के सामान्य लक्ष्यों पर दुनिया को एकजुट करने के लिए मानी जाती है, लेकिन कुछ तकनीकें सिर्फ नस्लीय और सांप्रदायिक सद्भाव को नुकसान पहुंचा रही हैं।

अभी के लिए, कानून प्रवर्तन अधिकारी सबसे अच्छा यह कर सकते हैं कि वे अपने मामलों को एल्गोरिदमिक कैलिब्रेशन से साक्ष्य के आधार पर समर्थन न दें, जो विश्वसनीय भी नहीं हैं। इसके अलावा, यह उच्च समय है कि कार्यस्थलों में विविधता और समावेश को गंभीरता से लिया जाए ताकि सभी जातियों के लोग एक साथ आकर एक ऐसा उत्पाद बना सकें जो नस्लीय असमानताओं से मुक्त हो। दुनिया में हजारों जातियां हैं, और लोग लंबे समय से वैश्विक समाज को सताने वाले नस्लीय मतभेदों को दूर करने के लिए विकसित हुए हैं। यदि इसे बनाए रखना है, तो जिन मशीनों पर हम इतना भरोसा करते हैं, उन्हें भी वही सिखाया जाना चाहिए।