Together AI Compiler மூலம் AI பதில்கள் 2.6 மடங்கு வேகமாகின்றன
Together AI நிறுவனம் Together Compiler என்ற கருவியை வெளியிட்டுள்ளது. இதில் AI முகவர்கள், பயனர் போக்குவரத்து மாறும்போது மாடல்கள் இயங்கும் முறையை தொடர்ந்து சரிசெய்கின்றன. சோதனைகளில், அறியப்பட்ட சிறந்த அமைப்புகளை விட வேகத்தில் 2.6 மடங்கு வரை இது முன்னிலை பெற்றது. ஒவ்வொரு மாடலும் 24 மணி நேரத்திற்குள் மேம்படுத்தப்பட்டது.
சொல் விளக்கம்Together AI, inference, InferenceX
- Together AI
- டெவலப்பர்களுக்காக திறந்த மூல AI மாடல்களை இயக்கவும் ஹோஸ்ட் செய்யவும் அதிகம் அறியப்பட்ட AI கிளவுட் நிறுவனம்.
- inference
- பயிற்சி பெற்ற AI மாடல் உங்கள் உள்ளீட்டை எடுத்து பதிலை உருவாக்கும் படி; இது மெதுவாகவோ அல்லது செலவு அதிகமாகவோ இருக்கலாம்.
- InferenceX
- மற்ற அமைப்புகள் AI மாடல்களை எவ்வளவு நன்றாக இயக்குகின்றன என்று ஒப்பிடும் அளவுகோல்; இங்கு அளவீடாகப் பயன்படுத்தப்பட்டுள்ளது.
பர்னிங் பொட்டேட்டோ ஸ்கோர்: 64%