Together AI কম্পাইলার এআই-এর উত্তর ২.৬ গুণ পর্যন্ত দ্রুত করে
Together AI Together Compiler নামের একটি টুল প্রকাশ করেছে, যেখানে ব্যবহারকারীর চাপ বদলালে এআই এজেন্টরা মডেল কীভাবে চলবে তা ক্রমাগত সমন্বয় করতে থাকে। পরীক্ষায় এটি পরিচিত সেরা কনফিগারেশনের চেয়ে গতিতে সর্বোচ্চ ২.৬ গুণ এগিয়ে ছিল এবং প্রতিটি মডেল ২৪ ঘণ্টারও কম সময়ে অপ্টিমাইজ করা হয়েছে।
সহজ শব্দকোষTogether AI, inference, InferenceX
- Together AI
- একটি এআই ক্লাউড কোম্পানি, যা ডেভেলপারদের জন্য ওপেন-সোর্স এআই মডেল চালানো ও হোস্ট করার জন্য সবচেয়ে বেশি পরিচিত।
- inference
- যে ধাপে প্রশিক্ষিত একটি এআই মডেল আপনার ইনপুট নিয়ে উত্তর তৈরি করে; এই ধাপ ধীর বা ব্যয়বহুল হতে পারে।
- InferenceX
- একটি বেঞ্চমার্ক, যা বিভিন্ন ব্যবস্থায় এআই মডেল কতটা ভালো চলে তা তুলনা করে; এখানে এটিকে মানদণ্ড হিসেবে ব্যবহার করা হয়েছে।
বার্নিং পটেটো স্কোর: 64%