Zyphra, AMD AI சிப்களுக்கான வேகமான கவனக் கருவியை வெளியிட்டது
Zyphra நிறுவனம் ZYFA என்ற இலவச, திறந்த மூல கருவியை வெளியிட்டுள்ளது. இது AMD-யின் MI355X சிப்பில் AI மாடல்களில் உள்ள ஒரு முக்கிய படியை வேகப்படுத்துகிறது. உண்மையான மாடல் தரவுகளில் நடந்த சோதனைகளில், இதன் FP8 பதிப்புகள் AMD-யின் சொந்த கருவியை விட 1.16 முதல் 1.76 மடங்கு வேகமாக இயங்கின; பிழை விகிதமும் குறைவாக இருந்தது. பெரிய AI மாடல்களை இயக்கும் டெவலப்பர்களுக்கு இந்த வேக அதிகரிப்பு பயனளிக்கக்கூடும்.
சொல் விளக்கம்Zyphra, FlashAttention, FP8
- Zyphra
- Zyphra என்பது இந்தச் செய்தியில் சொல்லப்படுவது போல், AMD சிப்களுக்காக இந்தத் திறந்த மூல கருவியை வெளியிட்ட ஒரு AI நிறுவனம்.
- FlashAttention
- நீண்ட உரைப் பகுதிகளை குறைந்த நினைவகத்தையும் நேரத்தையும் பயன்படுத்தி AI மாடல்கள் செயலாக்க உதவும் ஒரு வேகமான முறை.
- FP8
- எண்களை குறைவான பிட்களில் சேமிக்கும் ஒரு சிறிய எண் வடிவம்; இதனால் AI சிப்கள் வேகமாக இயங்கும்.
பர்னிங் பொட்டேட்டோ ஸ்கோர்: 65%