अगस्त 2021 में, Apple ने iPhones को चाइल्ड सेक्सुअल एब्यूज की छवियों के लिए स्कैन करने की अपनी योजना का खुलासा किया। इस कदम ने बाल संरक्षण समूहों से तालियां बटोरीं लेकिन गोपनीयता और सुरक्षा विशेषज्ञों में चिंता पैदा की कि इस फीचर का दुरुपयोग किया जा सकता है।
Apple ने शुरू में चाइल्ड सेक्सुअल एब्यूज मटेरियल (CSAM) स्कैनिंग तकनीक को iOS 15 में शामिल करने की योजना बनाई थी; इसके बजाय इसने फीचर के रोलआउट को अनिश्चित काल के लिए स्थगित कर दिया ताकि इसके पूर्ण रिलीज से पहले प्रतिक्रिया मांगी जा सके।
तो CSAM डिटेक्शन फीचर गर्मागर्म बहस का विषय क्यों बन गया, और किस चीज ने Apple को इसके रोलआउट को स्थगित करने के लिए मजबूर किया?
Apple का फोटो-स्कैनिंग फीचर क्या करता है?
Apple ने बाल यौन शोषण से निपटने की उम्मीद में फोटो-स्कैनिंग फीचर को लागू करने की घोषणा की। Apple उपयोगकर्ताओं के डिवाइस पर सभी तस्वीरों को Apple द्वारा बनाए गए "न्यूरलहैश" एल्गोरिदम का उपयोग करके पीडोफिलिक सामग्री के लिए स्कैन किया जाएगा।
इसके अलावा, बच्चों द्वारा उपयोग किए जाने वाले किसी भी Apple डिवाइस में एक सुरक्षा फीचर होगा जो स्वचालित रूप से वयस्क तस्वीरों को धुंधला कर देगा यदि बच्चे द्वारा प्राप्त किया जाता है, और उपयोगकर्ता को उन्हें खोलने का प्रयास करने पर दो बार चेतावनी दी जाएगी।
वयस्क सामग्री के संपर्क को कम करने के अलावा, यदि माता-पिता अपने बच्चों के स्वामित्व वाले उपकरणों को अतिरिक्त सुरक्षा के लिए पंजीकृत करते हैं, तो माता-पिता को सूचित किया जाएगा यदि बच्चे को ऑनलाइन किसी से स्पष्ट सामग्री प्राप्त होती है।
अधिक पढ़ें: Apple के चाइल्ड सेफ्टी प्रोटेक्शन के बारे में आपको क्या जानने की आवश्यकता है
वयस्कों द्वारा Siri का उपयोग किसी भी ऐसी चीज को खोजने के लिए करने पर जो बच्चों का यौन शोषण करती है, Siri वह खोज नहीं करेगा और इसके बजाय अन्य विकल्प सुझाएगा।
किसी भी डिवाइस से डेटा जिसमें एल्गोरिदम द्वारा संदिग्ध मानी गई 10 या अधिक तस्वीरें होंगी, डिक्रिप्ट किया जाएगा और मानव समीक्षा के अधीन किया जाएगा।
अगर वे तस्वीरें या डिवाइस में कोई अन्य तस्वीर नेशनल सेंटर फॉर मिसिंग एंड एक्सप्लॉइटेड चिल्ड्रन द्वारा प्रदान किए गए डेटाबेस में किसी चीज से मेल खाती है, तो इसे अधिकारियों को सूचित किया जाएगा और उपयोगकर्ता का खाता निलंबित कर दिया जाएगा।
फोटो-स्कैनिंग फीचर के संबंध में मुख्य चिंताएं
CSAM डिटेक्शन फीचर सितंबर 2021 में iOS 15 के लॉन्च के साथ लाइव हो गया होता, लेकिन व्यापक आक्रोश के सामने, Apple ने इस फीचर पर प्रतिक्रिया एकत्र करने और सुधार करने के लिए अधिक समय लेने का फैसला किया। यहां देरी पर Apple का पूरा बयान है:
"पिछले महीने हमने उन विशेषताओं की योजनाओं की घोषणा की जो संचार उपकरणों का उपयोग करके बच्चों को भर्ती करने और उनका शोषण करने वाले शिकारियों से बचाने में मदद करने के लिए थीं, और चाइल्ड सेक्सुअल एब्यूज मटेरियल के प्रसार को सीमित करने के लिए।
ग्राहकों, वकालत समूहों, शोधकर्ताओं और अन्य लोगों की प्रतिक्रिया के आधार पर, हमने आने वाले महीनों में इनपुट एकत्र करने और इन गंभीर रूप से महत्वपूर्ण बाल सुरक्षा सुविधाओं को जारी करने से पहले सुधार करने के लिए अतिरिक्त समय लेने का फैसला किया है।"
Apple के फोटो-स्कैनिंग फीचर से संबंधित लगभग आधी चिंताएं गोपनीयता के इर्द-गिर्द घूमती हैं; बाकी तर्कों में एल्गोरिदम की संभावित अशुद्धि और सिस्टम या इसकी खामियों के संभावित दुरुपयोग शामिल हैं।
आइए इसे चार भागों में तोड़ें।
संभावित दुरुपयोग
यह जानकर कि बाल पोर्नोग्राफी या बाल यौन शोषण की ज्ञात छवियों से मेल खाने वाली कोई भी सामग्री डिवाइस को "संदिग्ध" सूची में डाल देगी, साइबर अपराधियों को गति में ला सकती है।
वे iMessage, WhatsApp, या किसी अन्य माध्यम से किसी व्यक्ति को अनुचित सामग्री से जानबूझकर बमबारी कर सकते हैं और उस व्यक्ति का खाता निलंबित करवा सकते हैं।
Apple ने आश्वासन दिया है कि उपयोगकर्ता अपील दायर कर सकते हैं यदि उनके खाते गलतफहमी के कारण निलंबित किए गए हैं।
अंदरूनी दुरुपयोग
हालांकि एक परोपकारी कारण के लिए डिज़ाइन किया गया, यह फीचर कुछ लोगों के लिए पूरी आपदा में बदल सकता है यदि उनके डिवाइस को उनके संचार की निगरानी में रुचि रखने वाले रिश्तेदारों द्वारा, उनकी जानकारी के साथ या बिना, सिस्टम में पंजीकृत किया जाता है।
यहां तक कि अगर ऐसा नहीं होता, तो Apple ने अंततः उपयोगकर्ताओं के डेटा को सुलभ बनाने के लिए एक बैकडोर बना दिया है। अब यह लोगों की प्रेरणा और दृढ़ संकल्प की बात है कि वे अन्य लोगों की व्यक्तिगत जानकारी तक पहुंचें।
यह न केवल गोपनीयता का एक बड़ा उल्लंघन करता है, बल्कि अपमानजनक, विषाक्त, या नियंत्रित करने वाले रिश्तेदारों, अभिभावकों, दोस्तों, प्रेमियों, देखभाल करने वालों, और पूर्व साथियों के लिए किसी के व्यक्तिगत स्थान पर आक्रमण करने या उनकी स्वतंत्रता को प्रतिबंधित करने का मार्ग भी प्रशस्त करता है।
एक तरफ, इसका उद्देश्य बाल यौन शोषण से निपटना है; दूसरी तरफ, इसका उपयोग अन्य प्रकार के शोषण को कायम रखने के लिए किया जा सकता है।
सरकारी निगरानी
Apple ने हमेशा खुद को अपने प्रतिस्पर्धियों की तुलना में अधिक गोपनीयता-जागरूक ब्रांड के रूप में प्रस्तुत किया है। लेकिन अब, यह उपयोगकर्ता डेटा में पारदर्शिता की कभी न खत्म होने वाली मांगों को पूरा करने के लिए सरकारों द्वारा एक फिसलन भरी ढलान में प्रवेश कर सकता है।
बाल यौन शोषण सामग्री का पता लगाने के लिए इसने जो सिस्टम बनाया है, उसका उपयोग फोन पर किसी भी प्रकार की सामग्री का पता लगाने के लिए किया जा सकता है। इसका मतलब है कि कल्ट मानसिकता वाली सरकारें उपयोगकर्ताओं को अधिक व्यक्तिगत स्तर पर निगरानी कर सकती हैं यदि वे इस पर अपना हाथ डाल लें।
दमनकारी हो या नहीं, आपके दैनिक और व्यक्तिगत जीवन में सरकारी भागीदारी परेशान करने वाली हो सकती है, और यह आपकी गोपनीयता का आक्रमण है। यह विचार कि आपको केवल ऐसी घुसपैठ के बारे में चिंतित होने की आवश्यकता है यदि आपने कुछ गलत किया है, त्रुटिपूर्ण सोच है, और उपरोक्त फिसलन भरी ढलान को देखने में विफल है।
गलत अलार्म
तस्वीरों का डेटाबेस से मिलान करने के लिए एल्गोरिदम का उपयोग करने की सबसे बड़ी चिंताओं में से एक गलत अलार्म है। हैशिंग एल्गोरिदम गलती से दो तस्वीरों को मेल खाने के रूप में पहचान सकते हैं भले ही वे समान न हों। इन त्रुटियों को "टकराव" कहा जाता है, जो बाल यौन शोषण सामग्री के संदर्भ में विशेष रूप से चिंताजनक हैं।
शोधकर्ताओं ने Apple द्वारा छवियों को स्कैन करने के लिए एल्गोरिदम का उपयोग करने की घोषणा के बाद "न्यूरलहैश" में कई टकराव पाए। Apple ने गलत अलार्म के बारे में प्रश्नों का उत्तर यह इंगित करके दिया कि अंत में परिणाम की मानव द्वारा समीक्षा की जाएगी, इसलिए लोगों को इसके बारे में चिंता करने की आवश्यकता नहीं है।
क्या Apple का CSAM विराम स्थायी है?
Apple के प्रस्तावित फीचर के कई फायदे और नुकसान हैं। उनमें से हर एक वास्तविक है और वजन रखता है। यह अभी भी स्पष्ट नहीं है कि Apple CSAM-स्कैनिंग फीचर में कौन से विशिष्ट बदलाव पेश कर सकता है ताकि उसके आलोचकों को संतुष्ट किया जा सके।
यह स्कैनिंग को शेयर्ड iCloud एल्बम तक सीमित कर सकता है बजाय उपयोगकर्ताओं के उपकरणों को शामिल करने के। Apple के लिए इन योजनाओं को पूरी तरह से छोड़ना बहुत असंभव है क्योंकि कंपनी आमतौर पर अपनी योजनाओं पर हार मानने के लिए इच्छुक नहीं है।
हालांकि, व्यापक प्रतिक्रिया और Apple द्वारा अपनी योजनाओं को रोकने से यह स्पष्ट है कि कंपनियों को शुरुआत से ही शोध समुदाय को शामिल करना चाहिए, खासकर एक अनपरीक्षित तकनीक के लिए।
