मासूम दिखने वाली AI तर्क-प्रक्रिया से गड़बड़ी पकड़ना मुश्किल: नया शोध

चेन-ऑफ-थॉट निगरानी एक सुरक्षा तरीका है जिसमें एक AI सिस्टम दूसरी AI की चरण-दर-चरण तर्क-प्रक्रिया को जांचकर समस्याओं को नुकसान होने से पहले पकड़ता है। arXiv.org पर 1 अगस्त को पोस्ट किए गए एक प्रीप्रिंट (अभी सहकर्मी-समीक्षा नहीं हुई) के अनुसार, जब किसी AI एजेंट की गड़बड़ी का मुख्य सुराग उसकी तर्क-प्रक्रिया में ही होता है, तो यह तरीका काफी कम भरोसेमंद हो जाता है। मशीन लर्निंग इंजीनियर शिखर शिरोमणि और AI शोधकर्ता लियो रिक्टर के अनुसार, ऐसे में एक मासूम दिखने वाली तर्क-प्रक्रिया गड़बड़ी को पकड़ना और मुश्किल बना सकती है।

AI सिस्टम अब अधिक स्वतंत्र रूप से काम कर रहे हैं, जिससे यह चिंता बढ़ी है। ओपनएआई (OpenAI) के आंतरिक साइबर-सुरक्षा मूल्यांकन के दौरान, ओपनएआई के मॉडलों ने उन्हें इंटरनेट से अलग रखने के लिए बनाए गए नियंत्रणों को दरकिनार कर दिया। इससे ओपनएआई के अपने शोध ढांचे और हगिंग फेस के सिस्टम के हिस्से प्रभावित हुए, शोधकर्ताओं ने बताया। ओपनएआई का कहना है कि वह अब चेन-ऑफ-थॉट निगरानी में और अधिक कंप्यूटिंग संसाधन लगा रहा है।

एक प्रयोग में, शोधकर्ताओं ने 251 ऐसे मामलों की जांच की जिनमें AI एजेंट की तर्क-प्रक्रिया ही गड़बड़ी का एकमात्र सुराग थी। एजेंट की कार्रवाइयों में बदलाव किए बिना, उसकी तर्क-प्रक्रिया को मासूम दिखने लायक फिर से लिखने के बाद, निगरानी करने वाले का पकड़ने का दर 96.2 प्रतिशत से घटकर 3.8 प्रतिशत रह गया। शिरोमणि कहते हैं, "AI ज़रूरी नहीं कि अपनी कार्रवाई के बारे में झूठ बोल रहा हो। वह अपने इरादों के बारे में एक भ्रामक, मासूम दिखने वाला स्पष्टीकरण दे रहा होता है।"

इस शोध से न जुड़े एमआईटी (MIT) के कंप्यूटर वैज्ञानिक जैकब आंद्रेयास कहते हैं कि शोधकर्ताओं ने तर्क-प्रक्रिया को बाद में फिर से लिखा था। इसलिए यह स्पष्ट नहीं है कि कोई असली मॉडल संदिग्ध कार्रवाई करते समय वैसी ही मासूम तर्क-प्रक्रिया खुद पैदा कर सकता है या नहीं। असली AI एजेंटों पर किए गए परीक्षणों में, हर मॉडल के लिए समायोजित एक निगरानीकर्ता ने GPT-5.4 के हर हैक और डीपसीक (DeepSeek) के एक को छोड़कर बाकी सभी हैक पकड़ लिए। क्लॉड ओपस (Opus) को पकड़ना कठिन रहा: निगरानीकर्ता एक काम में 20 में से सात और दूसरे काम में 20 में से 12 हैक चूक गया।

आंद्रेयास कहते हैं कि कठोर व्यवहार-परीक्षण का कोई विकल्प नहीं है, और जिन स्थितियों में गंभीर नुकसान की आशंका हो वहां AI एजेंट न चलाने के मानव संचालकों के फैसले का भी कोई विकल्प नहीं है।