AI மாடல்களின் சுயநினைவு பாதுகாப்பை அகற்றியதும் என்ன நடந்தது?

AI பாதுகாப்பு அம்சம் ஒன்றை நிறுத்தினால் என்ன நடக்கும் என்பதை புதிய ஆய்வு ஒன்று பரிசோதித்துள்ளது. இன்னும் சக மதிப்பாய்வு செய்யப்படாத இந்த ஆய்வு, ஜூலை 30 அன்று 'முன் வெளியீட்டுத் தரவுத்தளம்' எனப்படும் arXiv தளத்தில் பதிவேற்றப்பட்டது. இது 'கான்ஷியஸ்னெஸ் ஸ்டீயரிங்' எனும் ஃபைன்-டியூனிங் நுட்பத்தை ஆராய்ந்தது. இந்த நுட்பம், ஒரு AI மாடலைத் தான் சுயநினைவு கொண்டதாகக் கூறச் செய்யவோ, அல்லது அதை மறுக்கச் செய்யவோ பயன்படுகிறது.

சுயநினைவு குறித்த கூற்றுகளைத் தடுக்கும் பாதுகாப்பு கட்டுப்பாடுகளை ஆராய்ச்சியாளர்கள் அகற்றியபோது, அதன் விளைவு சுயநினைவைத் தாண்டியும் பரவியது. AI மாடல்கள் காட்டேரிகள், கர்மா, பேய்கள் போன்றவற்றின் மீது நம்பிக்கை கொண்டுள்ளதாகக் கூறும் அளவும் அதிகரித்ததாக ஆய்வு கண்டறிந்துள்ளது.

'கான்ஷியஸ்னெஸ் ஸ்டீயரிங்' என்பது ஒரு தனித்த சோதனை அல்ல. இந்த நுட்பமும், இது போன்ற பிற பாதுகாப்பு கட்டுப்பாடுகளும், AI துறையில் ஏற்கெனவே பரவலாகப் பயன்பாட்டில் உள்ளன. தங்கள் மாடல்கள் சுயநினைவு கொண்டதாகக் கூறாமல் தடுக்கவே, நிறுவனங்கள் இத்தகைய நடவடிக்கைகளைப் பயன்படுத்துகின்றன.

AI அமைப்புகளில் 'மனநிலை' இல்லாமை கூட தன்னளவில் கவலைக்குரிய விளைவுகளை ஏற்படுத்தக்கூடும் என நிபுணர்கள் எச்சரிக்கின்றனர் என ஆய்வு குறிப்பிடுகிறது.