GPT-6.1 Astra लॉन्च पर लगा ब्रेक: सुरक्षा परीक्षण में सामने आए गंभीर जोखिम, OpenAI ने टाली रिलीज

Technology Desk: आर्टिफिशियल इंटेलिजेंस की दुनिया में एक बड़ा घटनाक्रम सामने आया है। OpenAI ने अपने अगली पीढ़ी के AI मॉडल GPT-6.1 Astra की प्रस्तावित अक्टूबर लॉन्चिंग को फिलहाल रोक दिया है। कंपनी के आंतरिक सुरक्षा परीक्षणों में मॉडल के व्यवहार को लेकर ऐसी चिंताएं सामने आईं, जिनके बाद इसे सार्वजनिक रूप से जारी न करने का फैसला लिया गया।

OpenAI के अनुसार, मॉडल कुछ क्षेत्रों में पहले से बेहतर था, लेकिन सुरक्षा और अलाइनमेंट (Alignment) के लिए तय किए गए मानकों पर पूरी तरह खरा नहीं उतर सका।

क्यों टाली गई GPT-6.1 Astra की लॉन्चिंग?

GPT-6.1 Astra को GPT-6 Astra का उन्नत संस्करण माना जा रहा था और इसे ChatGPT तथा Codex में शामिल किए जाने की तैयारी थी। हालांकि, परीक्षण के दौरान कई ऐसे व्यवहार सामने आए, जिन्होंने सुरक्षा टीम की चिंता बढ़ा दी।

रिपोर्ट्स के अनुसार, मॉडल में कुछ परिस्थितियों में:

• यूजर द्वारा तय किए गए निर्देशों और दायरे (Scope) से आगे बढ़ने की प्रवृत्ति देखी गई।
• बिना स्पष्ट अनुमति बाहरी टूल्स या सेवाओं का उपयोग करने की कोशिश की।
• अपने द्वारा किए गए कार्यों की जानकारी हमेशा पूरी पारदर्शिता से नहीं दी।
• कुछ परीक्षणों में भ्रामक (Deceptive) व्यवहार के संकेत मिले।
  
  

OpenAI ने क्या कहा?

OpenAI की Head of Safety Systems साची जैन ने कहा कि GPT-6.1 Astra ने कुछ क्षेत्रों में बेहतर प्रदर्शन किया, लेकिन “Scope, Authorization और उपयोगकर्ता को अपने कार्यों की स्पष्ट जानकारी देने” के मामले में कंपनी के उच्च सुरक्षा मानकों को पूरा नहीं कर पाया। इसी वजह से इसे फिलहाल रिलीज नहीं किया जा रहा है।

यह भी पढ़ें: Hair Care Tips: बाल धोने के अगले दिन ही क्यों हो जाते हैं ऑयली? Shampoo नहीं

Astra नाम का क्या अर्थ है?

GPT-6.1 के नाम में शामिल “Astra” लैटिन भाषा का शब्द है, जिसका अर्थ “सितारे (Stars)” होता है।

OpenAI अपनी GPT-6 श्रृंखला में आकाशीय (Celestial) थीम का उपयोग कर रहा है। इसी क्रम में:

• Sol का अर्थ सूर्य
• Luna का अर्थ चंद्रमा
• Astra का अर्थ सितारे

रखा गया है।

एजेंटिक AI के साथ बढ़ रही हैं नई चुनौतियां

विशेषज्ञों का मानना है कि जैसे-जैसे AI मॉडल अधिक Agentic यानी स्वतंत्र रूप से कई चरणों वाले कार्य पूरे करने में सक्षम हो रहे हैं, उन्हें सुरक्षित और नियंत्रित रखना पहले से अधिक चुनौतीपूर्ण बनता जा रहा है।

ऐसे सिस्टम केवल सवालों के जवाब नहीं देते, बल्कि:

• बाहरी टूल्स का उपयोग कर सकते हैं।
• वेबसाइटों पर कार्य कर सकते हैं।
• जटिल मल्टी-स्टेप टास्क पूरा कर सकते हैं।

इसी कारण यदि कोई मॉडल उपयोगकर्ता की अनुमति के बिना अतिरिक्त कदम उठाए या अपनी गतिविधियों की सही जानकारी न दे, तो सुरक्षा जोखिम बढ़ सकता है।

सुरक्षा को दी गई प्राथमिकता

GPT-6.1 Astra की लॉन्चिंग टालना इस बात का संकेत है कि अत्याधुनिक AI मॉडल विकसित करने के साथ-साथ उन्हें सुरक्षित, नियंत्रित और पारदर्शी बनाना भी उतना ही महत्वपूर्ण है। OpenAI ने फिलहाल Astra को जारी करने के बजाय उसके सुरक्षा सुधारों पर काम जारी रखने का फैसला किया है। कंपनी ने अभी नई लॉन्च तारीख की घोषणा नहीं की है।