Anthropic ने लंबी AI चैट का इंतज़ार 35% घटाया
Anthropic ने अपने Messages API के लिए Message Threads जारी किया है। अब हर बार पूरी बातचीत दोबारा भेजने के बजाय AI एजेंट सिर्फ़ वही भेजते हैं जो बदला है। 5,00,000 से 10 लाख टोकन वाली लंबी चैट में, पहला शब्द दिखने से पहले का इंतज़ार लगभग 35 प्रतिशत घट जाता है।
आसान शब्दकोशAnthropic, Messages API, time to first token
- Anthropic
- एक अमेरिकी AI कंपनी, जो सैन फ्रांसिस्को में स्थित है और अपने Claude चैटबॉट और AI मॉडलों के लिए जानी जाती है।
- Messages API
- नियमों का एक सेट जिससे सॉफ़्टवेयर किसी AI मॉडल को अनुरोध भेज सकता है और उसके जवाब पा सकता है।
- time to first token
- वह छोटा इंतज़ार जो AI मॉडल के जवाब का पहला हिस्सा बनाना शुरू करने से पहले होता है।
बर्निंग पोटैटो स्कोर: 66%