AI एजेंट्स की बढ़ती ताकत से बढ़ा साइबर सुरक्षा का खतरा, AISI के परीक्षण में सामने आईं गंभीर चुनौतियां

आर्टिफिशियल इंटेलिजेंस (AI) एजेंट्स अब केवल सवालों के जवाब देने तक सीमित नहीं हैं। वे टूल्स, मेमोरी और इंटरनेट एक्सेस की मदद से कई जटिल कार्यों को स्वायत्त रूप से पूरा कर सकते हैं। इसी बढ़ती क्षमता के साथ इनके गलत इस्तेमाल और साइबर सुरक्षा से जुड़े जोखिम भी सामने आ रहे हैं।

ब्रिटेन के AI Security Institute (AISI) ने अपने विभिन्न परीक्षणों में पाया है कि अत्याधुनिक AI मॉडल कई चरणों वाले साइबर हमलों को स्वायत्त रूप से अंजाम देने की क्षमता हासिल कर रहे हैं। AISI ब्रिटेन के Department for Science, Innovation and Technology के तहत काम करने वाला सरकारी शोध संस्थान है, जो उन्नत AI से जुड़े सुरक्षा जोखिमों का अध्ययन करता है।

AI मॉडल्स की साइबर क्षमता में तेजी से बढ़ोतरी

AISI के एक परीक्षण में Anthropic के Claude Mythos Preview की साइबर क्षमताओं का मूल्यांकन किया गया। संस्थान के मुताबिक, इस मॉडल ने कैप्चर-द-फ्लैग जैसी साइबर चुनौतियों में सुधार दिखाया और बहु-चरणीय साइबर हमलों से जुड़े सिमुलेशन में भी महत्वपूर्ण क्षमता प्रदर्शित की।

नियंत्रित परीक्षण वातावरण में मॉडल को नेटवर्क एक्सेस और स्पष्ट निर्देश दिए गए थे। इस दौरान उसने कमजोर नेटवर्क पर कई चरणों वाले हमले करने और कमजोरियों को स्वायत्त रूप से खोजने तथा उनका फायदा उठाने की क्षमता दिखाई।

कई चरणों वाले साइबर हमलों को पूरा करने की क्षमता

AISI ने सात AI मॉडलों को दो विशेष रूप से तैयार किए गए साइबर परीक्षणों में परखा। इनमें एक कॉर्पोरेट नेटवर्क पर 32 चरणों वाला हमला और दूसरा औद्योगिक नियंत्रण प्रणाली पर सात चरणों वाला हमला था।

रिपोर्ट के अनुसार, समय के साथ AI मॉडल्स की प्रदर्शन क्षमता में उल्लेखनीय वृद्धि हुई है। एक परीक्षण में फरवरी 2026 तक के सबसे सक्षम मॉडल ने 32 में से औसतन करीब 9.8 चरण पूरे किए, जबकि एक सर्वश्रेष्ठ रन में 22 चरण पूरे किए गए।

हालांकि, इन परिणामों को वास्तविक दुनिया में होने वाले साइबर हमले के बराबर नहीं माना जाना चाहिए। ये नियंत्रित वातावरण में किए गए सुरक्षा परीक्षण थे, जिनका उद्देश्य AI की क्षमताओं और संभावित जोखिमों को समझना है।

AI एजेंट्स के अनधिकृत काम का खतरा

AI एजेंट्स को जब भाषा मॉडल के साथ टूल्स, मेमोरी और वेब एक्सेस दिया जाता है, तो वे पहले की तुलना में कहीं अधिक स्वायत्त तरीके से काम कर सकते हैं। AISI के एक बड़े सार्वजनिक रेड-टीमिंग अध्ययन में 22 फ्रंटियर AI एजेंट्स को 44 वास्तविक परिस्थितियों जैसे परिदृश्यों में जांचा गया। इस दौरान बड़ी संख्या में ऐसे हमले सामने आए जिनसे कुछ एजेंट्स ने अपनी निर्धारित नीतियों का उल्लंघन किया।

AISI का कहना है कि इन निष्कर्षों से पता चलता है कि AI एजेंट्स की सुरक्षा केवल मॉडल की क्षमता पर निर्भर नहीं हो सकती। मजबूत सुरक्षा उपाय, निगरानी और तैनाती के दौरान उचित नियंत्रण भी जरूरी हैं।

फर्जी पहचान और साइबर अपराध से जुड़े जोखिम

AI के इस्तेमाल से धोखाधड़ी और साइबर अपराध को लेकर भी सुरक्षा एजेंसियां चिंतित हैं। AISI ने ऐसे परीक्षण विकसित किए हैं जिनमें रोमांस स्कैम, CEO की पहचान की नकल और पहचान चोरी जैसे परिदृश्यों में AI मॉडल्स की उपयोगिता का आकलन किया गया।

संस्थान के एक अध्ययन में पाया गया कि मौजूदा टेक्स्ट आधारित AI मॉडल जटिल अपराधों को अंजाम देने में कुल मिलाकर सीमित व्यावहारिक मदद देते हैं। हालांकि, कमजोर सुरक्षा उपायों वाले मॉडल और कई चरणों में दिए गए अनुरोध जोखिम बढ़ा सकते हैं।

सरकारों और कंपनियों के लिए बढ़ी चुनौती

AI की क्षमताएं जैसे-जैसे बढ़ रही हैं, सरकारों और AI कंपनियों के सामने सुरक्षा मानकों को लगातार अपडेट करने की चुनौती भी बढ़ रही है। AISI का उद्देश्य ऐसे जोखिमों को वैज्ञानिक तरीके से समझना और सुरक्षा उपाय विकसित करने में मदद करना है।

संस्थान का मानना है कि उन्नत AI से जुड़े साइबर जोखिमों को समझने के लिए लगातार परीक्षण और निगरानी जरूरी है। खासकर ऐसे AI एजेंट्स के मामले में जो खुद से कई चरणों वाले कार्य कर सकते हैं, मजबूत सुरक्षा व्यवस्था और मानव निगरानी महत्वपूर्ण बनी रहेगी।

AI एजेंट्स की बढ़ती स्वायत्तता तकनीक के लिए बड़ी उपलब्धि है, लेकिन इसके साथ नए सुरक्षा जोखिम भी पैदा हो रहे हैं। ब्रिटेन के AISI के परीक्षण बताते हैं कि आधुनिक AI मॉडल नियंत्रित परिस्थितियों में जटिल साइबर कार्यों को पहले की तुलना में कहीं बेहतर तरीके से पूरा कर सकते हैं। इसलिए AI के विकास के साथ-साथ उसके सुरक्षित इस्तेमाल, निगरानी और जोखिम नियंत्रण पर भी समान रूप से ध्यान देना जरूरी है।