०५ असोज, काठमाडौं । भारतीय मूल के तीन साइबर सुरक्षा शोधकर्ताओं ने Anthropic के AI मॉडल ‘Claude’ का उपयोग करते हुए OpenAI सिस्टम में मौजूद सुरक्षा कमजोरियों का पता लगाया है। उन्होंने इन कमजोरियों का प्रयोग करके OpenAI के कुछ कर्मचारियों के ChatGPT और Codex खातों पर नियंत्रण पाने में सफलता हासिल की, साथ ही कंपनी के आंतरिक सॉफ्टवेयर रिपॉजिटरी तक पहुंचne का रास्ता भी दिखाया। यह घटना एक वास्तविक साइबर हमला नहीं बल्कि OpenAI के ‘बग बाउंटी’ कार्यक्रम के अंतर्गत किए गए आधिकारिक सुरक्षा परीक्षण का हिस्सा थी। शोधकर्ताओं ने इस कमजोरी की जानकारी OpenAI को दी, जिसके बाद कंपनी ने समस्या का समाधान किया और उन्हें ६,५०० अमेरिकी डॉलर का पुरस्कार प्रदान किया।
इन तीन शोधकर्ताओं में कौन-कौन हैं? साइबर सुरक्षा स्टार्टअप Hacktron AI के तीन शोधकर्ता मोहन पेडापाटी, हर्ष जायसवाल और राहुल मेनी ने यह सुरक्षा परीक्षण किया था। उन्होंने २५ जुलाई को परीक्षण शुरू किया और ७२ घंटे से भी कम समय में कर्मचारी खातों तक पहुँच प्राप्त की। अध्ययन के दौरान AI उपकरणों के उपयोग पर खर्च तीन हजार डॉलर से कम बताया गया है। उन्होंने OpenAI के सार्वजनिक कम्यूनिटी फोरम में प्रयुक्त Discourse सॉफ्टवेयर की एक कमजोरी से अपनी जांच शुरू की थी।
फोरम सर्वर तक पहुँचने के बाद, शोधकर्ताओं ने OpenAI के ‘Sign in with OpenAI’ प्रणाली में एक और कमजोरी खोजी। OpenAI के कम्यूनिटी फोरम में लॉगइन के लिए इस्तेमाल होने वाली प्रणाली ChatGPT, Codex जैसे अन्य सेवाओं से भी जुड़ी हुई थी। साझा ‘सिंगल साइन-ऑन’ (SSO) प्रणाली के कारण फोरम में लॉगिन करने वाले कुछ उपयोगकर्ताओं के प्रमाणीकरण टोकन अन्य OpenAI सेवाओं में भी वैध थे। प्रमाणीकरण टोकन उपयोगकर्ता को पासवर्ड डालने के बिना सेवा का उपयोग करने की अनुमति देने वाले डिजिटल प्रमाणपत्र समान होते हैं।
शोधकर्ताओं ने नियंत्रित किया गया एक कर्मचारी का Codex खाता OpenAI के निजी GitHub समूह से जुड़ा पाया। इससे कंपनी की आंतरिक सॉफ्टवेयर रिपॉजिटरी तक पहुंचने की संभावना से संकेत मिला। हालांकि उन्होंने स्रोत कोड पढ़ने, संशोधित करने, मर्ज करने या ग्राहकों के डेटा को छूने से बचा। पहुँच प्रमाणित करने के लिए केवल सुरक्षित और हानिरहित पुल रिक्वेस्ट बनाए गए। Hacktron के अनुसार, इस पहुंच से GitHub के अलावा Slack, ईमेल और अन्य कर्मचारी जुड़ी प्रणालियों या सेवाओं में जोखिम फैल सकता था।
OpenAI ने लॉगिन प्रणाली की कमजोरी को हल करते हुए प्रभावित टोकन और सेशंस को निरस्त किया और साझा लॉगिन प्रणाली में अतिरिक्त सुरक्षा नियंत्रण लागू किए। कंपनी ने १ सितंबर को Hacktron को ६,५०० अमेरिकी डॉलर का बग बाउंटी पुरस्कार दिया। OpenAI के अनुसार यह राशि Discourse की कमजोरी के लिए नहीं, बल्कि अपनी पहचान और लॉगिन प्रणाली में पाई गई कमजोरी के लिए प्रदान की गई है।
इस घटना ने AI कंपनियों की सुरक्षा प्रणालियों के संदर्भ में दो महत्वपूर्ण प्रश्न उठाए हैं। पहला, सार्वजनिक फोरम जैसी बाहरी सेवाओं में मौजूद कमजोरी से आंतरिक कर्मचारी खातों तक पहुंच क्यों खुली थी? दूसरा, एक ही SSO प्रणाली के माध्यम से सार्वजनिक और संवेदनशील आंतरिक सेवाओं को जोड़ने पर, एक सेवा पर नियंत्रण पाने से अन्य सेवाओं में भी पहुंच बढ़ने का जोखिम क्यों रहता है?
