பிரவுசரிலேயே AI இயங்க 207 WebGPU கர்னல்களை வெளியிட்ட ஹக்கிங் ஃபேஸ்

ஹக்கிங் ஃபேஸ் நிறுவனத்தின் WebAI குழு, பிரவுசருக்குள்ளேயே AI மாடல்களை இயக்க உதவும் @huggingface/kernels என்ற புதிய ஜாவாஸ்கிரிப்ட் நூலகத்தை வெளியிட்டுள்ளது. ஒவ்வொரு மெஷின் லேர்னிங் செயல்பாட்டையும் தனித்தனியாகச் செய்யும் சிறிய GPU நிரல்களான WebGPU கர்னல்களை இது பதிவிறக்கம் செய்து இயக்குகிறது. இதனால், பயிற்சி பெற்ற மாடலிலிருந்து பதில் உருவாக்கும் நிலையான இன்ஃபெரென்ஸ் செயல்முறையை பிரவுசருக்குள்ளேயே நடத்த முடியும். இதனுடன், huggingface.co/webgpu-kernels என்ற முகவரியில் Apache-2.0 திறந்த மூல உரிமத்தில் 207 கர்னல்கள் அடங்கிய தொடக்கத் தொகுப்பையும் நிறுவனம் வெளியிட்டது.

ஒரு AI மாடல் பிரவுசரில் இயங்கும்போது, அது மேட்ரிக்ஸ் பெருக்கல், நார்மலைசேஷன், கான்வல்யூஷன், அட்டென்ஷன் கணக்கீடு, குவாண்டைசேஷன் போன்ற தொடர் GPU செயல்பாடுகளாக மாறுகிறது. WebGPU என்பது இணையப் பக்கங்களுக்குச் சாதனத்தின் GPU பாகத்தை நேரடியாக அணுக அனுமதிக்கும் ஒரு தொழில்நுட்பம் ஆகும்; இந்த செயல்பாடுகளை நடத்தும் ஷேடர் எனப்படும் சிறிய நிரல்களை எழுத பயன்படும் மொழிதான் WGSL. ஒரே வெளியீட்டைத் தரும் இரு ஷேடர்கள் கூட, சாதனத்தைப் பொறுத்து முற்றிலும் வேறுபட்ட வேகத்தில் இயங்கலாம்; உள்ளீட்டு வடிவம், சாதனம், பிரவுசர் ஆகியவற்றைப் பொறுத்து சிறந்த தேர்வு மாறுபடும்.

ஒவ்வொரு கர்னலும் தனித்த, பதிப்பு எண் கொண்ட ரெப்போசிட்டரியாக வெளியிடப்படுகிறது. அதில் உள்ளீடுகள், வெளியீடுகள், பண்புகள், ஆதரிக்கப்படும் தரவு வகைகளை வரையறுக்கும் மேனிஃபெஸ்ட் கோப்பு, சரிபார்ப்புச் சோதனை வழக்குகள், பென்ச்மார்க் வழக்குகள், WGSL ஷேடர் டெம்ப்ளேட்கள் ஆகியவை அடங்கியிருக்கும். எடுத்துக்காட்டாக, ஹக்கிங் ஃபேஸ் நிறுவனம் ai.onnx.Add என்ற கர்னலைக் குறிப்பிடுகிறது; இது ரெசிடுவல் கனெக்‌ஷன், பயாஸ் கூட்டல் போன்ற செயல்பாடுகளில் பயன்படும் எலிமென்ட்வைஸ் கூட்டலைச் செய்கிறது. இதன் ரெப்போசிட்டரி அதன் உள்ளீடுகள், வெளியீட்டு வடிவம், தரவு வகைகளை ஆவணப்படுத்துகிறது.

ஹக்கிங் ஃபேஸ் நிறுவனம் Fleet என்ற புதிய கருவியையும் அறிமுகப்படுத்தியுள்ளது; இது பயனரின் சொந்தச் சாதனத்திலேயே பிரவுசருக்குள் கர்னல்களைப் பென்ச்மார்க் செய்து சோதிக்கிறது. பயனரின் ஒப்புதலுடன், ஒவ்வொரு இயக்கமும் நிறுவனத்தின் சொந்த ஆய்வகத்தில் சோதிக்க முடியாத சாதனங்களிலிருந்து தரவை வழங்குகிறது; இது தவறான முடிவுகள், அசாதாரணமாக மெதுவான சூழல்கள் போன்ற பிழைகளைக் கண்டறிய நிறுவனத்திற்கு உதவுகிறது.

டெவலப்பர்கள் npm பயன்படுத்தி @huggingface/kernels@preview எனும் தொகுப்பை இன்ஸ்டால் செய்யலாம். இதைப் பயன்படுத்த WebGPU தொழில்நுட்பத்தை ஆதரிக்கும் பிரவுசர் தேவை; இதை ஜாவாஸ்கிரிப்பில் navigator ஆப்ஜெக்டில் "gpu" உள்ளதா எனச் சரிபார்க்கலாம். Hub ரெப்போசிட்டரி ஐடி, பதிப்பு எண் ஆகியவற்றுடன் getKernel என்ற செயலியை அழைப்பதன் மூலம் ஒரு கர்னலை ஏற்றலாம்.