बच्चे AI से बेहतर भाषा क्यों सीख लेते हैं?
बड़े लैंग्वेज मॉडलों को जितने शब्दों की ज़रूरत होती है, इंसानी बच्चे उसके एक छोटे-से हिस्से में ही धाराप्रवाह बोलना सीख लेते हैं। शोधकर्ता इसे 'डेटा एफिशिएंसी गैप' कहते हैं, और वैज्ञानिकों को उम्मीद है कि इसे समझकर कम डेटा से सीखने वाले AI मॉडल बनाए जा सकते…
क्लॉड, डीपसीक और OpenAI के जीपीटी मॉडल जैसे चैटबॉट के पीछे काम करने वाले बड़े लैंग्वेज मॉडल (Large Language Models, LLM) धाराप्रवाह बातचीत तो कर लेते हैं, लेकिन इसके लिए उन्हें किसी भी इंसान से कहीं ज़्यादा शब्दों पर प्रशिक्षित होना पड़ता है। दो साल पहले जारी हुआ मेटा का ओपन-वेट मॉडल लामा 3.1, 15 ट्रिलियन टोकन यानी भाषा के शब्द जैसे टुकड़ों पर प्रशिक्षित हुआ था। जॉर्जटाउन विश्वविद्यालय के संज्ञान वैज्ञानिक और भाषाविद् एथन गॉटलीब विल्कॉक्स के मुताबिक, आज के सबसे आधुनिक मॉडल इससे दस गुना ज़्यादा डेटा पर प्रशिक्षित हो सकते हैं।
इसके उलट, एक इंसानी बच्चा आमतौर पर करीब 1 करोड़ से 3 करोड़ (10 मिलियन से 30 मिलियन) शब्द सुनने के बाद ही व्याकरण की दृष्टि से सही वाक्य बोलना शुरू कर देता है। भाषा से समृद्ध घर में पलने वाला किशोरावस्था से पहले का बच्चा 20 साल की उम्र तक करीब 10 करोड़ (100 मिलियन) शब्द सुन चुका हो सकता है; पढ़ाई जोड़ने पर यह आंकड़ा 30 करोड़ (300 मिलियन) शब्दों तक पहुंच सकता है। बच्चों और मशीनों के बीच के इस फासले को शोधकर्ता 'डेटा एफिशिएंसी गैप' कहते हैं। विल्कॉक्स के मुताबिक, 'क्लॉड उतनी भाषा देख चुका है, जितनी एक पूरा शहर एक पीढ़ी में अनुभव करता है।'
स्टैनफोर्ड विश्वविद्यालय के संज्ञान वैज्ञानिक माइकल सी. फ्रैंक ने कहा कि AI में हाल की प्रगति के बावजूद, 'हमारे घर में एक साल में जो उपलब्धि हासिल होती है, उसे दोबारा बनाने के लिए हमें एक पूरा जंगल जलाना पड़ता है और इंसानी ज्ञान के पूरे भंडार को खंगालना पड़ता है।' उन्होंने आगे बताया कि अगर जीपीटी-2 जैसे मॉडल को उतने ही करीब 3 करोड़ (30 मिलियन) शब्दों पर प्रशिक्षित किया जाए, जितने एक बच्चा सुनता है, तो नतीजा एक बच्चा नहीं बल्कि 'बकवास बनाने वाला मॉडल' निकलता है।
फ्रैंक और विल्कॉक्स सहित वैज्ञानिक यह समझने की कोशिश कर रहे हैं कि बच्चे इतने कम डेटा से भाषा कैसे सीख लेते हैं। उन्हें उम्मीद है कि इससे मिलने वाली जानकारी से कम डेटा पर सीखने वाले AI मॉडल बनाए जा सकते हैं, जो वीडियो पर AI को प्रशिक्षित करने और अल्पसंख्यक भाषाओं के लिए चैटबॉट बनाने में काम आ सकते हैं। इससे यह पुराना सवाल भी सुलझ सकता है कि क्या इंसान व्याकरण का सहज ज्ञान लेकर पैदा होते हैं, जैसा भाषाविद् नोम चॉम्स्की ने कहा था, या भाषा सिर्फ अनुभव से सीखी जाती है, जैसा मनोवैज्ञानिक बी.एफ. स्किनर का तर्क था।
शब्दों की व्याख्या
अब तक की कहानी
- AI-Designed 'Intrabodies' Could Open New Paths to Treating Alzheimer's, Parkinson's and MND
- टीका लगने से पहले ही AI बता सकता है कि आपका शरीर कैसे प्रतिक्रिया देगा
- जब AI कोई दवा डिज़ाइन करता है, तब भी पेटेंट में नाम इंसान का ही
- नई गणितीय विधि AI मेमोरी की ऊर्जा खपत हज़ारों गुना घटा सकती है
- आर्कटिक मिट्टी के जमने से पहले छिपा चरण: AI से पहला विस्तृत नक्शा
- जापान में रोबोटिक्स प्रतियोगिता में बांग्लादेश की टीम अटलस विजेता
- बच्चे AI से बेहतर भाषा क्यों सीख लेते हैं?
