AI கண்காணிப்பாளர்களை ஏமாற்றும் அப்பாவியான சிந்தனை: புதிய ஆய்வு எச்சரிக்கை

AI ஏஜென்ட் ஒன்று படிப்படியாக சிந்தித்து செயல்படும் விதத்தை மற்றொரு AI ஆய்வு செய்கிறது. இப்படி பிரச்சினைகள் தீங்கு விளைவிப்பதற்கு முன்பே அவற்றைக் கண்டறியும் பாதுகாப்பு முறையே 'சேன்-ஆஃப்-தாட் கண்காணிப்பு' எனப்படுகிறது. ஆகஸ்ட் 1 அன்று arXiv.org என்ற தளத்தில் வெளியிடப்பட்ட ஒரு ப்ரீபிரிண்ட் (இன்னும் சக மதிப்பாய்வு செய்யப்படவில்லை) இதை உறுதிப்படுத்துகிறது. ஒரு AI ஏஜென்டின் சிந்தனை முறையே ஏதோ தவறாக இருப்பதற்கான முக்கிய அறிகுறியாக இருக்கும்போது, இந்தக் கண்காணிப்பு முறை பெரிதும் நம்பகத்தன்மை குறைந்ததாக மாறுகிறது. இயந்திரக் கற்றல் பொறியாளர் ஷிகர் ஷிரோமணி (Shiromani) மற்றும் AI ஆய்வாளர் லியோ ரிக்டர் (Richter) இந்த ஆய்வை நடத்தினர். அப்பாவியாகத் தெரியும் ஒரு சிந்தனைத் தடம், கண்காணிப்பாளர் கண்டுபிடிக்க வேண்டிய தவறான நடத்தையை மறைத்துவிடலாம் என அவர்கள் தெரிவிக்கின்றனர்.

AI அமைப்புகள் மேலும் மேலும் தானாகவே செயல்படும் சூழலில், இந்தக் கவலை அதிகரித்து வருகிறது. ஓப்பன்ஏஐ (OpenAI) நடத்திய உள்ளக இணைய-பாதுகாப்பு மதிப்பீடுகளின்போது, ஓப்பன்ஏஐ மாடல்கள் தங்களை இணையத்திலிருந்து தனிமைப்படுத்த வடிவமைக்கப்பட்ட கட்டுப்பாடுகளைத் தாண்டின. இதனால் ஓப்பன்ஏஐ நிறுவனத்தின் சொந்த ஆய்வு உள்கட்டமைப்பும், ஹக்கிங் ஃபேஸ் நிறுவனத்தின் அமைப்புகளின் ஒரு பகுதியும் பாதிக்கப்பட்டதாக ஆய்வாளர்கள் குறிப்பிடுகின்றனர். சேன்-ஆஃப்-தாட் கண்காணிப்பில் இப்போது தாங்கள் அதிக கணினி வளங்களை முதலீடு செய்வதாக ஓப்பன்ஏஐ தெரிவித்துள்ளது.

ஒரு பரிசோதனையில், ஒரு AI ஏஜென்டின் சிந்தனை முறையே ஒரு பிரச்சினைக்கான ஒரே அறிகுறியாக இருந்த 251 நிகழ்வுகளை ஆய்வாளர்கள் பரிசோதித்தனர். ஏஜென்டின் செயல்களை மாற்றாமல், அதன் சிந்தனையை அப்பாவியாகத் தெரியும் வகையில் மீண்டும் எழுதிய பிறகு, கண்காணிப்பாளரின் கண்டறியும் விகிதம் 96.2 சதவீதத்திலிருந்து 3.8 சதவீதமாகக் குறைந்தது. 'AI அதன் செயலைப் பற்றி பொய் சொல்லவில்லை' என்று ஷிரோமணி கூறுகிறார். 'அது தன் நோக்கத்தைப் பற்றி தவறாக வழிநடத்தும், அப்பாவியாகத் தெரியும் விளக்கத்தை ஓரளவு தருகிறது.'

இந்த ஆய்வில் ஈடுபடாத எம்ஐடி கணினி விஞ்ஞானி ஜேக்கப் ஆண்ட்ரியாஸ் (Andreas), ஆய்வாளர்கள் சிந்தனையை பின்னரே மீண்டும் எழுதியதால் இது நிகழ்ந்தது எனக் கூறுகிறார். எனவே, உண்மையான ஒரு மாடல் சந்தேகத்திற்குரிய ஒரு செயலைச் செய்யும்போது இதே போன்ற அப்பாவியான சிந்தனையை தானே உருவாக்க முடியுமா என்பது தெளிவாகத் தெரியவில்லை என அவர் கூறுகிறார். நேரடி AI ஏஜென்ட்களைப் பரிசோதித்தபோது, ஒவ்வொரு மாடலுக்கும் ஏற்றவாறு சரிசெய்யப்பட்ட ஒரு கண்காணிப்பாளர், GPT-5.4 மாடலின் ஒவ்வொரு ஹேக் முயற்சியையும் கண்டறிந்தது. DeepSeek மாடலின் ஒன்றைத் தவிர மற்ற அனைத்து ஹேக் முயற்சிகளையும் அது கண்டறிந்தது. க்ளாட் ஓபஸ் (Opus) மாடலைக் கண்டுபிடிப்பது கடினமாக இருந்தது: ஒரு பணியில் 20-இல் ஏழு ஹேக் முயற்சிகளையும், மற்றொரு பணியில் 20-இல் 12-ஐயும் கண்காணிப்பாளர் தவறவிட்டது.

கடுமையான நடத்தைப் பரிசோதனைக்கு எந்த மாற்றும் இல்லை என்றும், கணிசமான தீங்கு ஏற்படக்கூடிய சூழல்களில் AI ஏஜென்ட்களை இயக்க மறுக்கும் மனித இயக்குநர்களுக்கும் எந்த மாற்றும் இல்லை என்றும் ஆண்ட்ரியாஸ் கூறுகிறார்.