Baidu ने ERNIE 5.5 Flash Base मॉडल जारी किया, 280B पैरामीटर
Baidu ने ERNIE 5.5 Flash Base जारी किया है, जो एक बड़ा बेस मॉडल है और जिसे किसी भी मध्य या बाद के प्रशिक्षण से पहले प्रकाशित किया गया था। इस मॉडल में विरल डिज़ाइन है, जिसमें कुल 280 billion पैरामीटर हैं, और उनमें से एक समय पर 14 billion सक्रिय रहते हैं। इसे 33.5 trillion टोकन पर प्रशिक्षित किया गया है।
आसान शब्दकोशBaidu, base model, sparse design
- Baidu
- Baidu एक चीनी इंटरनेट कंपनी है, जो अपने सर्च इंजन और ERNIE AI मॉडल परिवार के लिए जानी जाती है।
- base model
- एक AI मॉडल जिसे भारी मात्रा में टेक्स्ट पर प्रशिक्षित किया गया हो, इससे पहले कि उसे निर्देश मानने या शिष्टता से बात करने के लिए ठीक किया जाए।
- sparse design
- एक डिज़ाइन जिसमें किसी मॉडल के कुल आकार का केवल छोटा हिस्सा हर कार्य पर काम करता है, जिससे कंप्यूटिंग शक्ति की बचत होती है।
बर्निंग पोटैटो स्कोर: 55%