अगस्त 2021 में, Apple ने बाल यौन शोषण की छवियों के लिए iPhones को स्कैन करने की अपनी योजना का खुलासा किया। इस कदम ने बाल संरक्षण समूहों की सराहना की, लेकिन गोपनीयता और सुरक्षा विशेषज्ञों के बीच चिंता जताई कि इस सुविधा का दुरुपयोग किया जा सकता है।
ऐप्पल ने शुरू में आईओएस 15 में बाल यौन शोषण सामग्री (सीएसएएम) स्कैनिंग तकनीक को शामिल करने की योजना बनाई थी; इसके बजाय इसकी पूर्ण रिलीज़ से पहले फ़ीडबैक मांगने के लिए इसने फीचर के रोलआउट को अनिश्चित काल के लिए विलंबित कर दिया है।
तो CSAM डिटेक्शन फीचर गरमागरम बहस का विषय क्यों बन गया, और Apple ने अपने रोलआउट को स्थगित करने के लिए क्या किया?
Apple का फोटो-स्कैनिंग फीचर क्या करता है?
Apple ने बाल यौन शोषण से निपटने की उम्मीद में फोटो-स्कैनिंग सुविधा को लागू करने की घोषणा की। Apple द्वारा बनाए गए "NueralHash" एल्गोरिथम का उपयोग करके Apple उपयोगकर्ताओं के उपकरणों में सभी तस्वीरें पीडोफिलियाक सामग्री के लिए स्कैन की जाएंगी।
इसके अलावा, बच्चों द्वारा उपयोग किए जाने वाले किसी भी ऐप्पल डिवाइस में एक सुरक्षा सुविधा होगी जो किसी बच्चे द्वारा प्राप्त होने पर वयस्क चित्रों को स्वचालित रूप से धुंधला कर देगी, और यदि उपयोगकर्ता ने उन्हें खोलने का प्रयास किया तो उन्हें दो बार चेतावनी दी जाएगी।
वयस्क सामग्री के जोखिम को कम करने के अलावा, यदि माता-पिता अतिरिक्त सुरक्षा के लिए अपने बच्चों के स्वामित्व वाले उपकरणों को पंजीकृत करते हैं, तो बच्चे को ऑनलाइन किसी से स्पष्ट सामग्री प्राप्त होने की स्थिति में माता-पिता को सूचित किया जाएगा।
और पढ़ें:Apple की बाल सुरक्षा सुरक्षा के बारे में आपको क्या जानना चाहिए
जहां तक बच्चों का यौन शोषण करने वाली किसी भी चीज़ की तलाश के लिए सिरी का उपयोग करने वाले वयस्कों के लिए, सिरी वह खोज नहीं करेगा और इसके बजाय अन्य विकल्प सुझाएगा।
एल्गोरिदम द्वारा संदिग्ध समझे जाने वाले 10 या अधिक फ़ोटो वाले किसी भी उपकरण के डेटा को डिक्रिप्ट किया जाएगा और मानव समीक्षा के अधीन किया जाएगा।
अगर वे तस्वीरें या डिवाइस में कोई अन्य नेशनल सेंटर फॉर मिसिंग एंड एक्सप्लॉइटेड चिल्ड्रेन द्वारा उपलब्ध कराए गए डेटाबेस से किसी भी चीज़ से मेल खाता है, तो इसकी सूचना अधिकारियों को दी जाएगी और उपयोगकर्ता का खाता निलंबित कर दिया जाएगा।
फ़ोटो-स्कैनिंग सुविधा के संबंध में मुख्य चिंताएं
सितंबर 2021 में आईओएस 15 के लॉन्च के साथ सीएसएएम डिटेक्शन फीचर लाइव हो गया होगा, लेकिन व्यापक विरोध के बीच, ऐप्पल ने फीडबैक एकत्र करने और इस सुविधा में सुधार करने के लिए और अधिक समय लेने का फैसला किया। यहाँ देरी पर Apple का पूरा विवरण है:
<ब्लॉकक्वॉट>"पिछले महीने हमने बच्चों को उन शिकारियों से बचाने में मदद करने के उद्देश्य से योजनाओं की घोषणा की थी जो उन्हें भर्ती करने और उनका शोषण करने के लिए संचार उपकरणों का उपयोग करते हैं, और बाल यौन शोषण सामग्री के प्रसार को सीमित करते हैं।
ग्राहकों, वकालत करने वाले समूहों, शोधकर्ताओं और अन्य लोगों के फीडबैक के आधार पर, हमने इन महत्वपूर्ण बाल सुरक्षा सुविधाओं को जारी करने से पहले इनपुट एकत्र करने और सुधार करने के लिए आने वाले महीनों में अतिरिक्त समय लेने का निर्णय लिया है।"
Apple की फोटो-स्कैनिंग सुविधा से संबंधित लगभग आधी चिंताएँ गोपनीयता के इर्द-गिर्द घूमती हैं; बाकी तर्कों में एल्गोरिदम की संभावित अशुद्धि और सिस्टम या इसकी खामियों का संभावित दुरुपयोग शामिल है।
आइए इसे चार भागों में बांटते हैं।
संभावित दुरुपयोग
यह जानते हुए कि बाल पोर्नोग्राफ़ी या बाल यौन शोषण की ज्ञात छवियों से मेल खाने वाली कोई भी सामग्री "संदिग्ध" सूची में एक उपकरण प्राप्त करेगी, साइबर अपराधियों को गति प्रदान कर सकती है।
वे जानबूझकर किसी व्यक्ति पर iMessage, WhatsApp, या किसी अन्य माध्यम से अनुचित सामग्री के साथ बमबारी कर सकते हैं और उस व्यक्ति के खाते को निलंबित करवा सकते हैं।
ऐप्पल ने आश्वासन दिया है कि अगर किसी गलतफहमी के कारण उनके खाते निलंबित कर दिए गए हैं तो उपयोगकर्ता अपील दायर कर सकते हैं।
अंदरूनी दुर्व्यवहार
हालांकि एक परोपकारी कारण के लिए डिज़ाइन किया गया है, यह सुविधा कुछ लोगों के लिए एक पूर्ण आपदा में बदल सकती है यदि उनके डिवाइस उनके संचार की निगरानी में रुचि रखने वाले रिश्तेदारों द्वारा उनकी जानकारी के साथ या बिना सिस्टम में पंजीकृत हैं।
अगर ऐसा नहीं भी होता है, तो Apple ने उपयोगकर्ताओं के डेटा को दिन के अंत में सुलभ बनाने के लिए एक पिछले दरवाजे का निर्माण किया है। अब यह लोगों के लिए अन्य लोगों की व्यक्तिगत जानकारी तक पहुँचने के लिए प्रेरणा और दृढ़ संकल्प की बात है।
यह न केवल गोपनीयता के एक बड़े उल्लंघन की सुविधा प्रदान करता है, बल्कि किसी के व्यक्तिगत स्थान पर आक्रमण करने या उनकी स्वतंत्रता को प्रतिबंधित करने के लिए अपमानजनक, विषाक्त, या रिश्तेदारों, अभिभावकों, दोस्तों, प्रेमियों, देखभाल करने वालों और पूर्व को नियंत्रित करने का मार्ग भी प्रशस्त करता है।
एक ओर, यह बाल यौन शोषण का मुकाबला करने के लिए है; दूसरी ओर, इसका उपयोग अन्य प्रकार के दुरुपयोगों को और अधिक बनाए रखने के लिए किया जा सकता है।
सरकारी निगरानी
ऐप्पल ने हमेशा अपने प्रतिस्पर्धियों की तुलना में खुद को अधिक गोपनीयता-जागरूक ब्रांड के रूप में बताया है। लेकिन अब, यह सरकारों द्वारा उपयोगकर्ता डेटा में पारदर्शिता की कभी न खत्म होने वाली मांगों को पूरा करने के लिए एक फिसलन ढलान में प्रवेश कर सकता है।
पीडोफिलिक सामग्री का पता लगाने के लिए उसने जो सिस्टम बनाया है, उसका इस्तेमाल फोन पर किसी भी तरह की सामग्री का पता लगाने के लिए किया जा सकता है। इसका मतलब है कि एक पंथ मानसिकता वाली सरकारें उपयोगकर्ताओं को अधिक व्यक्तिगत स्तर पर निगरानी कर सकती हैं यदि वे इस पर अपना हाथ रखते हैं।
दमनकारी हो या न हो, आपके दैनिक और व्यक्तिगत जीवन में सरकार की भागीदारी परेशान करने वाली हो सकती है, और यह आपकी निजता का हनन है। यह विचार कि आपको केवल ऐसे आक्रमणों के बारे में चिंतित होने की आवश्यकता है यदि आपने कुछ गलत किया है तो यह दोषपूर्ण सोच है, और उपरोक्त फिसलन ढलान को देखने में विफल रहता है।
गलत अलार्म
डेटाबेस के साथ चित्रों का मिलान करने के लिए एल्गोरिदम का उपयोग करने की सबसे बड़ी चिंताओं में से एक गलत अलार्म है। हैशिंग एल्गोरिदम गलती से दो तस्वीरों को मैच के रूप में पहचान सकता है, भले ही वे समान न हों। ये त्रुटियां, जिन्हें "टकराव" कहा जाता है, बाल यौन शोषण सामग्री के संदर्भ में विशेष रूप से खतरनाक हैं।
ऐप्पल द्वारा छवियों को स्कैन करने के लिए एल्गोरिदम का उपयोग करने की घोषणा के बाद शोधकर्ताओं ने "न्यूरलहैश" में कई टकराव पाए। Apple ने झूठे अलार्म के बारे में सवालों के जवाब देते हुए कहा कि परिणाम की समीक्षा अंत में एक मानव द्वारा की जाएगी, इसलिए लोगों को इसके बारे में चिंता करने की आवश्यकता नहीं है।
क्या Apple का CSAM पॉज़ स्थायी है?
Apple के प्रस्तावित फीचर के कई फायदे और नुकसान हैं। उनमें से हर एक असली है और वजन रखता है। यह अभी भी स्पष्ट नहीं है कि ऐप्पल अपने आलोचकों को संतुष्ट करने के लिए सीएसएएम-स्कैनिंग सुविधा में कौन से विशिष्ट परिवर्तन पेश कर सकता है।
यह उपयोगकर्ताओं के उपकरणों को शामिल करने के बजाय स्कैनिंग को साझा iCloud एल्बम तक सीमित कर सकता है। ऐप्पल के लिए इन योजनाओं को पूरी तरह से छोड़ने की संभावना बहुत कम है क्योंकि कंपनी आमतौर पर अपनी योजनाओं को देने के लिए इच्छुक नहीं है।
हालांकि, व्यापक प्रतिक्रिया और ऐप्पल की अपनी योजनाओं पर रोक से यह स्पष्ट है कि कंपनियों को शुरुआत से ही अनुसंधान समुदाय को शामिल करना चाहिए, विशेष रूप से एक अप्रयुक्त तकनीक के लिए।