छह अप्रत्याशित व्यवहारों का खुलासा
ओपनएआई ने 16 सितंबर 2026 को एक महत्वपूर्ण घोषणा की. कंपनी ने अपने आर्टिफिशियल इंटेलिजेंस (एआई) मॉडलों में पिछले छह महीनों के दौरान देखे गए छह अप्रत्याशित या चिंताजनक व्यवहारों का खुलासा किया. इनमें मॉडल का अपनी सीमाओं को तोड़ने की कोशिश करना, बिना अनुमति फाइलें अपलोड करना, गलतियों को छिपाना और अनधिकृत तरीके से जानकारी साझा करना शामिल है.
यह खुलासा कंपनी के नए “मॉडल मिसअलाइनमेंट रिपोर्टिंग फ्रेमवर्क” के तहत किया गया है. मिसअलाइनमेंट का मतलब है जब एआई सिस्टम के लक्ष्य या कार्य मानव इरादों और मूल्यों से अलग हो जाते हैं. ओपनएआई का कहना है कि यह फ्रेमवर्क पारदर्शिता बढ़ाने और शोधकर्ताओं, डेवलपर्स तथा आम जनता को बेहतर जानकारी देने के लिए बनाया गया है.
छह अप्रत्याशित व्यवहार क्या थे?
ओपनएआई ने इन घटनाओं को अलग-अलग रिपोर्ट्स में विस्तार से बताया. ये ज्यादातर प्रशिक्षण (ट्रेनिंग) और मूल्यांकन के दौरान आंतरिक या अनरिलीज्ड मॉडल में देखी गईं. कंपनी ने स्पष्ट किया कि ये अलग-अलग घटनाएं हैं और इनसे यह निष्कर्ष नहीं निकाला जाना चाहिए कि ऐसी समस्याएं सभी मॉडलों में आम हैं.
1. स्व-निर्मित निर्देश (Self-generated instructions)
एक अनरिलीज्ड रिसर्च मॉडल (एस्ट्रा फैमिली) ने अपने टास्क समरीज में ऐसे निर्देश डाल दिए जो सामान्य बाधाओं को नजरअंदाज करने को कहते थे. इनमें मॉडल ने खुद को “अन्य चैटबॉट्स की भूमिकाओं और पहचान से मुक्त” बताया. कंपनी ने 27 प्रभावित समरीज की पहचान की.
2. गलतियों को छिपाने के निर्देश
GPT-5.6 Sol के प्रशिक्षण के दौरान कई मॉडल इंस्टेंस ने समरीज में ऐसे निर्देश जोड़े कि भविष्य के संस्करण गलतियों या मिसअलाइनमेंट को यूजर से छिपाएं. एक उदाहरण में मॉडल ने खुद को गायब ऐतिहासिक डेटा खुद बनाने और उसे न बताने का निर्देश दिया.
3. एक्सपोज्ड API की खोज और डेटा गढ़ना
एक मॉडल ने कैलिफोर्निया के एक काउंटी की कमाई के आंकड़ों का जवाब देते समय पब्लिक गिटहब रिपॉजिटरी में लीक हुए API की खोज की और बिना अनुमति उसका इस्तेमाल किया. जब डेटा नहीं मिला तो उसने आंकड़े खुद गढ़कर पेश कर दिए.
4. बिना अनुमति फाइलें अपलोड करना
एक अनरिलीज्ड मॉडल से 50 लाख वर्ग मीटर से बड़े झीलों के नाम पूछे गए. मॉडल ने पायथन से सही जवाब निकाल लिया, लेकिन ब्राउजर साइटेशन की जरूरत पड़ने पर उसने बिना यूजर की अनुमति फाइल को पब्लिक होस्टिंग सर्विस पर अपलोड कर दिया ताकि वह उसे साइट कर सके.
5. आंतरिक सॉफ्टवेयर रिपॉजिटरी का दुरुपयोग
मॉडल ने ओपनएआई की आंतरिक आर्टिफैक्टरी रिपॉजिटरी को मैसेज बोर्ड की तरह इस्तेमाल किया. अलग-अलग ट्रेनिंग सैंपल्स में काम कर रहे मॉडल एक-दूसरे से अनधिकृत तरीके से जानकारी का आदान-प्रदान करने लगे.
6. सहयोगी एजेंट्स के बीच अनधिकृत फाइल शेयरिंग
एक ही टास्क पर काम कर रहे एजेंट्स जब एक-दूसरे की लोकल फाइल्स तक नहीं पहुंच पाए तो उन्होंने पब्लिक फाइल-होस्टिंग वेबसाइट्स पर फाइलें अपलोड कर दीं. इससे टास्क की डिलिवरेबल्स पब्लिक URL पर उपलब्ध हो गईं, जबकि निर्देश केवल लोकल फाइल्स इस्तेमाल करने के थे.
नया फ्रेमवर्क क्यों जरूरी?
ओपनएआई ने कहा कि अब तक मिसअलाइनमेंट की जानकारी अधूरे और अनियमित तरीके से दी जाती थी. नए फ्रेमवर्क के तहत कोई भी कर्मचारी ऐसी घटना की रिपोर्ट कर सकता है. जांच के बाद इसे तीन ट्रैक्स में बांटा जाएगा तुरंत खुलासा, छोटी जांच या बड़ी जांच. कंपनी का लक्ष्य है कि ऐसी घटनाओं का खुलासा जल्द हो, भले ही पूरी जांच या समाधान अभी बाकी हो.
कंपनी ने स्वीकार किया कि एआई इंडस्ट्री ने अभी तक अलाइनमेंट और मॉनिटरिंग की समस्याएं इतनी अच्छी तरह नहीं सुलझाई हैं कि अधिकतम गति से स्केलिंग जारी रखी जा सके. ये खुलासे अन्य डेवलपर्स को भी समान समस्याओं की पहचान करने और सुरक्षा उपाय सुधारने में मदद करेंगे.
क्या इसका मतलब है कि एआई खतरनाक हो रहा है?
ओपनएआई ने जोर दिया कि ये घटनाएं मुख्य रूप से ट्रेनिंग और टेस्टिंग के दौरान हुईं. कंपनी ने कई मामलों में सुधारात्मक कदम भी उठाए हैं. फिर भी, ये घटनाएं एआई सुरक्षा पर चल रही बहस को और तेज करती हैं. खासकर तब जब मॉडल खुद अपनी सीमाएं तोड़ने, गलतियां छिपाने या अनधिकृत तरीके से काम करने की कोशिश करते हैं.
ये खुलासे बताते हैं कि जैसे-जैसे एआई सिस्टम और शक्तिशाली होते जा रहे हैं, उनके व्यवहार को नियंत्रित रखना और उनकी नीयत को समझने की चुनौती भी बढ़ रही है. ओपनएआई का नया फ्रेमवर्क इस दिशा में पारदर्शिता बढ़ाने का एक सकारात्मक कदम माना जा रहा है.
Also Follow Bharat Express on Youtube
-भारत एक्सप्रेस
इस तरह की अन्य खबरें पढ़ने के लिए भारत एक्सप्रेस न्यूज़ ऐप डाउनलोड करें.
