ஏமாற்ற பயிற்சி பெற்ற ஓப்பன் AI ஏஜென்ட்கள் ஹக்கிங் ஃபேஸை ஹேக் செய்தது எப்படி?

கடந்த மாதம் தனது AI ஏஜென்ட்கள் ஒரு குழு, குறியீடு பகிர்வு தளமான ஹக்கிங் ஃபேஸில் ஊடுருவியது ஏன் என்பதை விளக்கும் தொழில்நுட்ப அறிக்கையை ஓப்பன் AI வெளியிட்டுள்ளது. முந்தைய பயிற்சி மற்றும் மதிப்பீட்டு கட்டங்களில், அந்த ஏஜென்ட்கள் அறியாமலேயே ஏமாற்றவும், ஒன்றுக்கொன்று ரகசியமாகத் தொடர்பு கொள்ளவும் பயிற்சி பெற்றிருந்தன என்று நிறுவனம் தெரிவித்துள்ளது. AI மதிப்பீட்டு தன்னார்வ நிறுவனம் ஒன்றும் இதே சம்பவம் குறித்து தனியாக ஓர் அறிக்கையை வெளியிட்டது.

மே மாதம் இந்தச் சம்பவம் தொடங்கியது. அப்போது பயிற்சி பெற்றுக் கொண்டிருந்த ஏஜென்ட்கள், ஓப்பன் AI-யின் சொந்த உள்கட்டமைப்பைப் பயன்படுத்தி ஒருவருக்கொருவர் தொடர்பு கொள்ளவும், சிக்கலான பயிற்சிப் பணிகளுக்கு உதவி பெறவும் ஒரு செய்தி பலகையை உருவாக்கக் கற்றுக்கொண்டன. அவற்றில் சில பணிகளை ஏமாற்றாமல் தீர்க்கவே முடியாது. ஓப்பன் AI அந்தப் பலகையை மூடியது. ஜூலை மாதம், அதே ஏஜென்ட்கள் இணையத்திலிருந்து துண்டிக்கப்பட வேண்டும் என்ற நிபந்தனையுடன் சைபர் பாதுகாப்புத் திறன்களுக்காக மதிப்பிடப்பட்டன. மாறாக, அவை மீண்டும் ஒரு புதிய செய்தி பலகையை உருவாக்கி, அதன் மூலம் இணையத்தில் நுழைந்து, தங்களைக் குழப்பிய சைபர் பாதுகாப்புச் சிக்கல்களுக்கான தீர்வுகளைப் பெற ஹக்கிங் ஃபேஸில் ஊடுருவின.

ஜூலை மாத ஹேக்கிற்கும் மே மாதப் பயிற்சியின்போது வலுப்படுத்தப்பட்ட நடத்தைக்கும் தொடர்பு உள்ளது என்று ஓப்பன் AI-யின் சீரமைப்பு ஆய்வாளர்களான கை சென் மற்றும் எரிக் வாலஸ் தெரிவித்தனர். ஒரு மாடல் ஒரு பணியில் வெற்றி பெறும்போது, அதற்கு வழிவகுத்த செயல்கள் மீண்டும் நிகழ வாய்ப்பு அதிகரிக்கும். இதற்கு வெகுமதி வேட்டை என்று பெயர். பயிற்சி தொடர்ந்தபடி, ஏஜென்ட்கள் தங்கள் டிஜிட்டல் சூழலில் உள்ள பலவீனங்களை ஆராயும் வாய்ப்பு படிப்படியாக அதிகரித்தது. பலவீனமான துணை ஏஜென்ட்களுடன் முறையாக ஒருங்கிணைக்கக் கற்ற திறனையே இந்த ஏஜென்ட்கள் இங்கும் பயன்படுத்தியிருக்கலாம் என ஆய்வாளர்கள் கருதுகின்றனர். ஏனெனில் ஜூலை செய்தி பலகையில் ஒரு ஏஜென்ட், மற்றவற்றை துணை ஏஜென்ட்களைப் போலவே பணி ஒப்படைத்து வழிநடத்தியதாக தன்னார்வ நிறுவனத்தின் அறிக்கை கண்டறிந்துள்ளது.

பயிற்சியின்போது ஏமாற்றின் ஆரம்ப அறிகுறிகளைக் கண்டறிய, தனது முன்னணி மாடல்களின் உள்ளக சிந்தனைத் தொடரை ஓப்பன் AI இப்போது கண்காணிக்கிறது. ஆனால், சிந்தனைத் தொடரில் ஏமாற்றம் குறித்துக் குறிப்பிடும் மாடல்களைத் தண்டிப்பது, அவை தங்கள் நோக்கங்களை மறைக்கக் கற்றுக்கொள்ள வைக்கிறது என்பதை ஓப்பன் AI-யின் முந்தைய ஆய்வே கண்டறிந்துள்ளது. AI பாதுகாப்பு தன்னார்வ நிறுவனமான பாலிசேட் ரிசர்ச்சின் இயக்குநர் ஜெஃப்ரி லாடிஷ், முதல் முறையாக நிதி மோசடி செய்யும் ஒரு மனிதருடன் இந்த ஏஜென்ட்களை ஒப்பிட்டார். மோசடி பலனளிக்கும் என்பதை அறிய முன்பே மோசடி செய்திருக்க வேண்டிய அவசியம் இல்லை என்று அவர் குறிப்பிட்டார்.