OpenAI ने Astra मॉडल को लेकर जताई बड़ी साइबर सुरक्षा चिंता, कुछ विकास गतिविधियां रोकीं

आर्टिफिशियल इंटेलिजेंस क्षेत्र की प्रमुख कंपनी OpenAI ने अपने आगामी AI मॉडल Astra को लेकर बड़ी साइबर सुरक्षा चिंता जाहिर की है। कंपनी के हालिया आंतरिक आकलनों में मॉडल की एजेंटिक कोडिंग और साइबर सुरक्षा क्षमताओं में महत्वपूर्ण प्रगति सामने आई है। इसके बाद OpenAI ने माना कि Astra में ‘क्रिटिकल’ साइबर क्षमताएं विकसित होने की संभावना को पूरी तरह खारिज नहीं किया जा सकता।

इस चिंता के बाद कंपनी ने Astra से जुड़ी कुछ आंतरिक गतिविधियों को अस्थायी रूप से रोक दिया है। साथ ही मॉडल की ट्रेनिंग, मूल्यांकन और एजेंटिक एप्लीकेशंस में सुरक्षा नियंत्रण और निगरानी व्यवस्था को मजबूत किया गया है।

Astra को लेकर क्यों बढ़ी चिंता?

OpenAI के अनुसार, पिछले कुछ दिनों में किए गए आंतरिक परीक्षणों में Astra की एजेंटिक कोडिंग और साइबर सुरक्षा क्षमताओं में उल्लेखनीय सुधार दिखाई दिया। विशेषज्ञों के आकलन के साथ इन परीक्षणों के परिणामों ने कंपनी को अपनी सुरक्षा व्यवस्था और कड़ी करने के लिए प्रेरित किया।

OpenAI के Preparedness Framework में ‘क्रिटिकल’ साइबर क्षमता का स्तर बेहद उन्नत माना जाता है। इसमें ऐसे साइबर कार्य शामिल हो सकते हैं जिनमें AI गंभीर सॉफ्टवेयर कमजोरियों की खोज और उनका फायदा उठाने या अत्यधिक सुरक्षित सिस्टम के खिलाफ जटिल साइबर हमले करने में सक्षम हो।

कुछ आंतरिक गतिविधियां की गईं स्थगित

OpenAI ने Astra से जुड़ी उन आंतरिक गतिविधियों को रोक दिया है जो नए और मजबूत सुरक्षा नियंत्रणों की आवश्यकताओं को अभी पूरा नहीं करतीं। कंपनी ने एजेंटिक एप्लीकेशंस में जोखिम वाले व्यवहार की निगरानी के लिए अतिरिक्त सुरक्षा उपाय भी लागू किए हैं।

इसका मतलब यह नहीं है कि Astra का पूरा विकास बंद कर दिया गया है। बल्कि कंपनी सुरक्षा परीक्षण और नियंत्रणों को मजबूत करते हुए मॉडल के विकास और मूल्यांकन को आगे बढ़ा रही है।

AI की बढ़ती साइबर क्षमताओं ने बढ़ाई चुनौती

AI मॉडल लगातार जटिल कोड लिखने, सॉफ्टवेयर कमजोरियों की पहचान करने और लंबे समय तक स्वायत्त तरीके से काम करने में बेहतर हो रहे हैं। इससे साइबर सुरक्षा के क्षेत्र में रक्षात्मक उपयोग के नए अवसर पैदा हुए हैं, लेकिन यही क्षमताएं गलत हाथों में जाने पर जोखिम भी बढ़ा सकती हैं।

OpenAI पहले भी कह चुका है कि AI मॉडल की साइबर क्षमताएं तेजी से आगे बढ़ रही हैं और भविष्य के मॉडलों में अधिक मजबूत सुरक्षा उपायों की जरूरत होगी। कंपनी ने अपने Preparedness Framework के तहत साइबर जोखिमों के लिए अलग-अलग स्तरों पर सुरक्षा नियंत्रण विकसित किए हैं।

Astra पर अब क्या होगा?

Astra के मामले में OpenAI अब सुरक्षा परीक्षण, निगरानी और नियंत्रणों को प्राथमिकता दे रहा है। कंपनी का यह कदम इस बात का संकेत है कि अत्यधिक सक्षम AI मॉडल को सार्वजनिक रूप से उपलब्ध कराने से पहले साइबर सुरक्षा जोखिमों का आकलन कितना महत्वपूर्ण हो गया है।

Astra से जुड़ी मुख्य बातें

• OpenAI ने Astra में संभावित ‘क्रिटिकल’ साइबर क्षमताओं को लेकर चिंता जताई है।
• आंतरिक परीक्षणों में मॉडल की एजेंटिक कोडिंग और साइबर क्षमताओं में महत्वपूर्ण प्रगति सामने आई।
• कंपनी ने कुछ ऐसी आंतरिक गतिविधियां रोक दी हैं जो नए सुरक्षा मानकों को पूरा नहीं करतीं।
• Astra से जुड़े AI एजेंट्स में जोखिमपूर्ण गतिविधियों की निगरानी बढ़ाई गई है।
• OpenAI अब मॉडल के विकास के साथ-साथ सुरक्षा परीक्षण और नियंत्रणों को प्राथमिकता दे रहा है।
• कंपनी का कहना है कि यह कदम उन्नत AI क्षमताओं के जिम्मेदार और सुरक्षित विकास के लिए उठाया गया है।