Anthropic நீண்ட AI உரையாடல்களுக்கான காத்திருப்பு நேரத்தை 35% குறைக்கிறது
Anthropic நிறுவனம் தனது Messages API-க்கான Message Threads அம்சத்தை வெளியிட்டுள்ளது. ஒவ்வொரு முறையும் முழு உரையாடலையும் மீண்டும் அனுப்புவதற்குப் பதிலாக, AI முகவர்கள் இப்போது மாறிய பகுதியை மட்டுமே அனுப்புகின்றன. 500,000 முதல் one million டோக்கன்கள் வரை நீளும் நீண்ட உரையாடல்களில், முதல் வார்த்தை தோன்றுவதற்கு முன் உள்ள காத்திருப்பு சுமார் 35 சதவீதம் குறைகிறது.
சொல் விளக்கம்Anthropic, Messages API, time to first token
- Anthropic
- அமெரிக்காவைச் சேர்ந்த ஒரு AI நிறுவனம்; சான் பிரான்சிஸ்கோவில் அமைந்துள்ளது; அதன் Claude சாட்பாட் மற்றும் AI மாடல்களுக்குப் பெயர் பெற்றது.
- Messages API
- மென்பொருள்கள் AI மாடலுக்குக் கோரிக்கைகளை அனுப்பி அதன் பதில்களைப் பெறுவதற்கான விதிமுறைகளின் தொகுப்பு.
- time to first token
- AI மாடல் தனது பதிலின் முதல் பகுதியை உருவாக்கத் தொடங்குவதற்கு முன் உள்ள சிறிய காத்திருப்பு.
பர்னிங் பொட்டேட்டோ ஸ்கோர்: 66%