Anthropic দীর্ঘ AI চ্যাটের অপেক্ষার সময় 35% কমিয়েছে
Anthropic তাদের Messages API-র জন্য Message Threads চালু করেছে। প্রতিবার পুরো কথোপকথন আবার পাঠানোর বদলে AI এজেন্ট এখন শুধু যা বদলেছে তা পাঠায়। ৫,০০,০০০ থেকে ১০,০০,০০০ টোকেনের দীর্ঘ চ্যাটে প্রথম শব্দ আসার আগের অপেক্ষা প্রায় 35 শতাংশ কমে।
সহজ শব্দকোষAnthropic, Messages API, time to first token
- Anthropic
- Anthropic একটি যুক্তরাষ্ট্রভিত্তিক AI কোম্পানি, সান ফ্রান্সিসকো-তে অবস্থিত, যা সবচেয়ে বেশি পরিচিত তাদের Claude চ্যাটবট ও AI মডেলের জন্য।
- Messages API
- একগুচ্ছ নিয়ম, যার মাধ্যমে সফটওয়্যার একটি AI মডেলে অনুরোধ পাঠায় এবং তার উত্তর গ্রহণ করে।
- time to first token
- AI মডেল উত্তরের প্রথম অংশ তৈরি শুরু করার আগের সংক্ষিপ্ত অপেক্ষা।
বার্নিং পটেটো স্কোর: 66%