Zyphra ने AMD AI चिप के लिए तेज़ Attention टूल जारी किया
Zyphra ने ZYFA नाम का एक मुफ़्त, open-source टूल जारी किया है, जो AMD के MI355X चिप पर AI मॉडल के एक अहम चरण को तेज़ करता है। असली मॉडल डेटा पर हुए परीक्षणों में इसके FP8 वर्ज़न AMD के अपने टूल से 1.16 से 1.76 गुना तेज़ चले और उनमें त्रुटि दर भी कम रही। बड़े AI मॉडल चलाने वाले डेवलपर्स को इस रफ़्तार के फ़ायदे मिल सकते हैं।
आसान शब्दकोशZyphra, FlashAttention, FP8
- Zyphra
- Zyphra एक AI कंपनी है, जिसने AMD चिप के लिए यह open-source टूल जारी किया, जैसा इस खबर में बताया गया है।
- FlashAttention
- FlashAttention एक तेज़ तरीका है, जिससे AI मॉडल लंबे टेक्स्ट को कम मेमोरी और कम समय में प्रोसेस कर पाते हैं।
- FP8
- FP8 एक संक्षिप्त नंबर फ़ॉर्मेट है, जिसमें नंबर कम bits में रखे जाते हैं, ताकि AI चिप तेज़ी से चल सके।
बर्निंग पोटैटो स्कोर: 65%