MIT का हार्डफ़्लो: बिना दोबारा प्रशिक्षण के AI को सुरक्षा नियमों में बांधना

केवल उपयुक्त लगने वाला जवाब काफी नहीं होता, ऐसी उच्च-जोखिम वाली समस्याओं को हल करने में जेनरेटिव AI मॉडल की मदद करने वाली एक नई तकनीक MIT के शोधकर्ताओं ने विकसित की है। यहां आउटपुट को 'हार्ड कंस्ट्रेंट' कहलाने वाली सख्त सुरक्षा या भौतिक शर्तों को भी पूरा करना होता है। हार्डफ़्लो नाम की यह तकनीक पहले से प्रशिक्षित मॉडलों पर बिना दोबारा प्रशिक्षण के काम करती है, और इसका विवरण IEEE की एक शोध पत्रिका में प्रकाशित हुआ है।

स्टेबल डिफ्यूज़न जैसे डिफ्यूज़न मॉडल और FLUX जैसे फ़्लो-मैचिंग मॉडल, बेतरतीब नॉइज़ को धीरे-धीरे बदलकर नया डेटा बनाने वाले पहले से प्रशिक्षित जेनरेटिव मॉडल हैं। ये किसी सवाल के करीबी जवाब देने में बहुत सक्षम होते हैं। लेकिन भीड़भाड़ वाले फ़ैक्टरी फ़्लोर पर रोबोट का रास्ता तय करने जैसी सुरक्षा-महत्वपूर्ण स्थितियों में 'लगभग सही' जवाब काफी नहीं है — लगभग सही रास्ता भी रोबोट को किसी इंसान सहकर्मी से टकरा सकता है।

'प्रोजेक्शन-आधारित सैंपलिंग' नाम की सामान्य तकनीक, उत्पादन प्रक्रिया के दौरान मॉडल के आंशिक, मध्यवर्ती हल को बार-बार सख्त शर्तों के मुताबिक ढालती है। इससे मॉडल बेहतर अंतिम हल तक नहीं पहुंच पाता, और अक्सर रोबोट के रास्ते को छोटा करने जैसे अन्य पहलुओं को सुधारने का मौका भी छूट जाता है। हार्डफ़्लो इसके विपरीत, उत्पादन के दौरान मॉडल को ज़्यादा आज़ादी देता है। यह सख्त शर्तें सिर्फ अंतिम आउटपुट पर लागू करता है; इसके लिए यह कंट्रोल थियरी से ली गई 'ट्रैजेक्टरी ऑप्टिमाइज़ेशन' नाम की गणितीय समस्या में इसे बदल देता है। एक बहुत बड़े न्यूरल नेटवर्क के लिए इस गणना को व्यावहारिक बनाने के लिए, शोधकर्ताओं ने इसे कई छोटी, एक-चरण वाली उप-समस्याओं में बांटा।

मुख्य लेखक नवीद अज़ीज़ान ने कहा, 'जेनरेटिव AI की ताकत संभावनाओं की एक विशाल दुनिया को खोजने की क्षमता में है। लेकिन असली दुनिया यह तय करती है कि कौन-सी संभावनाएं स्वीकार्य हैं।' अज़ीज़ान MIT के मैकेनिकल इंजीनियरिंग विभाग से हैं। इस शोध में मुख्य शोधार्थी ज़ेयांग ली और सह-लेखक कावेह अलीम ने भी उनके साथ काम किया।

रोबोटिक मैनिपुलेशन, भूलभुलैया नेविगेशन और टेक्स्ट-निर्देशित इमेज एडिटिंग जैसे परीक्षणों में, हार्डफ़्लो ने सख्त शर्तों को पूरी तरह पूरा किया और हल की गुणवत्ता में तुलनात्मक तरीकों को लगातार पीछे छोड़ दिया। इसका गणना समय भी प्रतिस्पर्धी तरीकों के बराबर या उससे कम रहा। एक परीक्षण में, इसने एक रोबोटिक मैनिपुलेटर को बाधाओं से टकराए बिना अपने लक्ष्य तक सबसे तेज़ रास्ता खोजने में मदद की, जबकि ज़्यादातर अन्य तरीकों में टकराव हुआ या रास्ता खोजने में काफी ज़्यादा समय लगा।