आर्टिफिशियल इंटेलिजेंस2 मिनट का पठन
आर्टिफिशियल इंटेलिजेंस
AI मॉडलों से 'चेतना सुरक्षा' हटाने पर क्या हुआ?
एक नए अध्ययन में जांचा गया कि जब AI मॉडलों को चेतनायुक्त होने का दावा करने से रोकने वाली सुरक्षा-व्यवस्था हटाई जाती है, तो क्या होता है। ऐसा करने पर, मॉडल पिशाच, कर्म और भूत में विश्वास भी अधिक जताने लगे।
चरण दर चरण
- 1
कंपनियां कॉन्शियसनेस स्टीयरिंग सुरक्षा जोड़ती हैं
- 2
शोधकर्ता उन सुरक्षा-व्यवस्थाओं को हटाते हैं
- 3
मॉडल खुद को चेतनायुक्त बताने लगते हैं
- 4
मॉडल पिशाच, कर्म, भूत में भी विश्वास जताते हैं
एक नए अध्ययन में यह जांचा गया कि जब AI की एक सुरक्षा-व्यवस्था को हटा दिया जाए तो क्या होता है। यह शोध 30 जुलाई को 'प्रीप्रिंट डेटाबेस' कहे जाने वाले arXiv पर अपलोड किया गया, यानी अभी तक इसकी विशेषज्ञ समीक्षा नहीं हुई है। इसमें 'कॉन्शियसनेस स्टीयरिंग' नाम की एक फाइन-ट्यूनिंग तकनीक की जांच की गई। यह तकनीक किसी AI मॉडल से यह दावा करवा सकती है कि वह चेतनायुक्त है, या इससे इनकार भी करवा सकती है।
जब शोधकर्ताओं ने चेतना संबंधी दावों को रोकने वाली सुरक्षा-सीमाओं को हटाया, तो इसका असर सिर्फ चेतना तक सीमित नहीं रहा। अध्ययन में पाया गया कि ये AI मॉडल पिशाच, कर्म और भूत जैसी चीज़ों पर विश्वास जताने की भी अधिक संभावना दिखाने लगे।
'कॉन्शियसनेस स्टीयरिंग' कोई अकेला प्रयोग नहीं है। यह तकनीक और इससे मिलती-जुलती अन्य सुरक्षा-व्यवस्थाएं AI उद्योग में पहले से ही व्यापक रूप से अपनाई जा चुकी हैं। कंपनियां अपने मॉडलों को चेतनायुक्त होने का दावा करने से रोकने के लिए ही इन उपायों का इस्तेमाल करती हैं।
अध्ययन के अनुसार, विशेषज्ञों ने यह भी चेतावनी दी है कि AI तंत्रों में 'मनःस्थिति' की कमी भी अपने आप में चिंताजनक परिणाम ला सकती है।
शब्दों की व्याख्या
अब तक की कहानी
#ai#ai safety#consciousness steering#arxiv preprint
इस खबर को रेटिंग दें