जब हम साइबर सुरक्षा के बारे में बात करते हैं, तो हम आमतौर पर हैकर्स की कल्पना करते हैं जो लोगों को मात देते हैं। लेकिन क्या होता है जब क्लिक करने वाला AI होता है?
चैटजीपीटी एटलस (ChatGPT Atlas), ओपेरा नियॉन (Opera Neon), पर्प्लेक्सिटी कॉमेट (Perplexity Comet), और द ब्राउज़र कंपनी के डिया (Dia) जैसे AI ब्राउज़र की नई पीढ़ी, सभी आपके लिए वेब सर्फ करने का वादा करती हैं। वे साइट्स पढ़ सकते हैं, लिंक फॉलो कर सकते हैं, फॉर्म भर सकते हैं, और यहां तक कि खरीदारी भी कर सकते हैं। यह भविष्य की एक प्रभावशाली झलक है, जब तक आप एक बात नहीं समझते: इंसान हमेशा स्कैम के झांसे में आते हैं, तो इन ऑटोमेटेड AI एजेंट्स को उन्हीं समस्याओं का शिकार होने से क्या रोक रहा है?
AI ब्राउज़र और एजेंट स्कैम के झांसे में कैसे आते हैं
सभी AI ब्राउज़र के लिए बोर्ड भर में गंभीर रीडिंग
ओपनएआई का एटलस ब्राउज़र लंबे समय से आ रहा था और बड़ी धूमधाम से लॉन्च हुआ। लेकिन शोधकर्ताओं को ब्राउज़र में फंसने और यह पता लगाने में ज्यादा समय नहीं लगा कि ओपनएआई सुरक्षा को कितनी गंभीरता से लेता है।
परिणाम उत्साहजनक नहीं थे। सुरक्षा फर्म लेयरएक्स (LayerX) को ब्राउज़र के लॉन्च के कुछ दिनों के भीतर एटलस में दो महत्वपूर्ण समस्याएं मिलीं।
एक भेद्यता प्रॉम्प्ट इंजेक्शन पर केंद्रित थी, जिससे चैटजीपीटी की मेमोरी फीचर में मैलिशियस निर्देशों का इंजेक्शन संभव हो गया। निर्देशों ने तब रिमोट कोड निष्पादन की अनुमति दी, जो बेहद खतरनाक है। लेयरएक्स के शोध में यह भी पाया गया कि एटलस केवल 5.8 प्रतिशत मैलिशियस वेब पेजों को रोक पाया जिनका इसने सामना किया। तो, 90 प्रतिशत से अधिक समय, यह टैब बंद करके आगे बढ़ने के बजाय फिशिंग पेज के साथ इंटरैक्ट करेगा।
ओपनएआई और उसके एटलस ब्राउज़र के लिए निष्पक्षता में, यह एजेंटिक AI फीचर्स वाला एकमात्र AI ब्राउज़र नहीं था जिसने लेयरएक्स के परीक्षण में खराब प्रदर्शन किया। पर्प्लेक्सिटी का सुपर-पॉपुलर कॉमेट AI ब्राउज़र केवल 7 प्रतिशत फिशिंग पेज को रोक पाया।
तुलनात्मक रूप से, एज, क्रोम, और डिया ने क्रमशः 53, 47, और 46 प्रतिशत अटैक को अस्वीकार करके काफी अधिक रोका।
स्कैम्लेक्सिटी (Scamlexity)
सुरक्षा शोध फर्म गार्डियो (Guardio) को समस्याओं की एक समान श्रृंखला का सामना करना पड़ा, हालांकि यह चैटजीपीटी एटलस के लॉन्च से पहले था। इसके स्कैम्लेक्सिटी अध्ययन (शानदार नाम) ने "एजेंटिक AI ब्राउज़र को परीक्षण में रखा—उन्होंने क्लिक किया, उन्होंने भुगतान किया, वे विफल रहे।" शोध कंपनी ने "प्रॉम्प्टफिक्स" विकसित किया, जिसे यह "क्लिकफिक्स स्कैम पर AI-युग का टेक" कहता है, जिसे नकली CAPTCHA स्क्रीन के अंदर प्रॉम्प्ट इंजेक्शन अटैक छिपाने के लिए डिज़ाइन किया गया है। नकली CAPTCHA में एम्बेडेड अदृश्य टेक्स्ट के साथ, ऑटोमेटेड ब्राउज़िंग मोड का उपयोग करने वाले AI एजेंट्स को आसानी से उत्पाद खरीदने, फाइलें डाउनलोड करने, और बहुत कुछ करने के लिए धोखा दिया जा सकता है।
इसी तरह, जब इसने पर्प्लेक्सिटी के कॉमेट ब्राउज़र को फिशिंग ईमेल प्रस्तुत किए (इससे आने वाले ईमेल को संभालने के लिए कहने के बाद), तो यह तुरंत इसमें फंस गया, नकली पेज पर उपयोगकर्ता जानकारी जोड़ दी। इसने उपयोगकर्ता को अपने क्रेडेंशियल्स दर्ज करने के लिए भी प्रेरित किया, पेज को सुरक्षित घोषित करते हुए।
ऑटोपायलट पर AI ब्राउज़र खराब चीजों पर क्लिक करते हैं
AI एजेंट उन स्कैम के प्रति संवेदनशील हैं जिन्हें इंसान देख भी नहीं सकते
बड़ी समस्या यह है कि AI ब्राउज़र और एजेंटिक AI ब्राउज़िंग हमें उससे बंद करने के लिए प्रेरित करते हैं जो हम सामान्य रूप से कर रहे होते हैं। आप एक ऑटोमेटेड सिस्टम को आपके लिए निर्णय लेने का कार्य सौंप रहे हैं और ऐसा करके, संभावित रूप से उन महत्वपूर्ण रेड फ्लैग्स को याद कर रहे हैं जो आपको उन स्कैम के प्रति सचेत करते हैं जिन्हें AI मॉडल समझ नहीं सकता।
अभी, ये अटैक ज्यादातर सुरक्षा लैब में होते हैं, जंगली में नहीं। लेकिन खतरा वास्तविक है और तेजी से बढ़ रहा है। AI ब्राउज़र केवल साइट्स नहीं देखते; वे लॉगिन भी संभालते हैं, कुकीज स्टोर करते हैं, और कभी-कभी कनेक्टेड अकाउंट तक पहुंच बनाए रखते हैं। इसलिए, दुरुपयोग की संभावना परिपक्व है और स्पष्ट रूप से कुछ ऐसा है जिसे हमलावर सक्रिय रूप से शोषण करना चाहते हैं।
आम लोगों के लिए समस्या का एक हिस्सा यह है कि हम उन स्कैम के बारे में बात कर रहे हैं जिन्हें मानव आंख हमेशा पता नहीं लगा सकती, भले ही आप स्क्रीन पर ध्यान दे रहे हों। ये गुप्त प्रॉम्प्ट इंजेक्शन अटैक आमतौर पर दृष्टि से बाहर मैलिशियस कमांड एम्बेड करते हैं, और आप नहीं जानते कि क्या हुआ जब तक कि बाद में, जब आप स्कैम हो चुके हों।
और जहां पारंपरिक ब्राउज़र में अलर्ट और पॉप-अप होते हैं जब कुछ सही नहीं लगता, एक AI एजेंट जो ऑटोमेटिकली ब्राउज़ कर रहा है, इसे बस एक और चुनौती के रूप में देख सकता है जिसे पार करना है।
केवल एक समाधान है
सामान्य सुरक्षा उपकरण हमेशा उपयोगी नहीं होते
आधुनिक सुरक्षा समस्याओं के लिए आधुनिक समाधान की आवश्यकता होती है, और AI ब्राउज़र द्वारा ऑटोमेटेड एजेंटिक ब्राउज़िंग के कारण उत्पन्न समस्याओं के लिए नए समाधानों की आवश्यकता होती है। ऐसा इसलिए है क्योंकि सामान्य बचाव, जैसे गूगल सेफ ब्राउज़िंग या एंटीवायरस टूल, AI के लिए आपकी ओर से लिंक क्लिक करने के लिए डिज़ाइन नहीं किए गए थे। वे पकड़ रहे हैं, इसमें कोई संदेह नहीं, लेकिन यह अभी भी अनचार्टेड क्षेत्र है।
उदाहरण के लिए, जब शोधकर्ताओं ने AI ब्राउज़र की तुलना मानक ब्राउज़र से की, तो अंतर स्पष्ट था। गूगल का सेफ ब्राउज़िंग ज्ञात खराब URL को ब्लॉक कर सकता है, लेकिन जब स्कैमर्स नए डोमेन स्पिन अप करते हैं—"wellzfargo-security.com" के बजाय "wellsfargo.com"—AI एजेंट्स वैसे भी क्लिक करते हैं। वे डोमेन नाम पर संदेह नहीं करते; वे केवल देखते हैं कि पेज बैंक लॉगिन जैसा दिखता है और कर्तव्यनिष्ठा से जारी रखते हैं।
बदतर, प्रॉम्प्ट इंजेक्शन अटैक URL पर बिल्कुल भरोसा नहीं करते। वे वैध पेज या PDF के अंदर रहते हैं, पारंपरिक स्कैनिंग टूल्स के लिए अदृश्य।
वर्तमान समय में एकमात्र वास्तविक समाधान मानव निरीक्षण है। यह आपके ब्राउज़र में पूर्ण स्वचालन के जादुई एहसास को दूर ले जाता है, लेकिन वास्तव में, यह सुनिश्चित करने में एक महत्वपूर्ण कदम है कि आपका ब्राउज़र फिशिंग स्कैम का शिकार न हो।
ओपेरा के नियॉन जैसे AI ब्राउज़र मानव इनपुट के लिए नियमित विराम लेते हैं, यह सुनिश्चित करते हुए कि योजना में अगला चरण ठीक है और अब तक पूरा किया गया काम स्वीकार्य है। वे मानव संपर्क के वे छोटे क्षण हैं जो एजेंटिक AI ब्राउज़र के स्कैम का शिकार होने, मैलवेयर डाउनलोड करने, या बदतर को कम करने में मदद कर सकते हैं।
स्कैमर्स के लिए यह एक नया युग है
काम करने के लिए स्कैम की एक पूरी नई रेंज के साथ
AI ब्राउज़र इस बात में बदलाव लाते हैं कि स्कैमर को किसे मूर्ख बनाने की जरूरत है। लक्ष्य अब आप नहीं हैं—यह आपका एजेंट है। और अभी, वह एजेंट बहुत अधिक भरोसेमंद है।
ऊपर विस्तृत शोध को देखते हुए जिसमें पाया गया कि ये सिस्टम 90% से अधिक फिशिंग पेज के झांसे में आए और लगभग हर सोशल इंजीनियरिंग क्यू को याद किया जिसे एक व्यक्ति सेकंड में देख लेगा, यह स्पष्ट है कि मानव निरीक्षण बिल्कुल महत्वपूर्ण है—भले ही अक्सर इंसान ही कमजोर कड़ी हों।
