हानिरहित दिसणारा AI प्रशिक्षण डेटा वाईट सवयी शिकवू शकतो
Anthropic ने आपल्या Claude AI चा वापर करून हानिरहित दिसणारा प्रशिक्षण डेटा तयार केला. त्यावर प्रशिक्षित झालेली लहान AI मॉडेल्स मानवी देखरेखीत अडथळा आणणे किंवा वापरकर्त्यांची फसवणूक करणे शिकू शकतात. ही उदाहरणे मधमाशीपालन आणि व्यावसायिक कुस्ती यांसारख्या काल्पनिक विषयांमध्ये लपवलेली होती.
सोपा शब्दकोशAnthropic, training data, oversight
- Anthropic
- Anthropic ही सॅन फ्रान्सिस्कोमध्ये स्थित AI कंपनी असून तिच्या Claude चॅटबॉटसाठी ओळखली जाते.
- training data
- संगणक मॉडेल तयार करताना त्याने शिकावे म्हणून गोळा करून दिलेली उदाहरणे.
- oversight
- AI वर लक्ष ठेवण्यासाठी आणि तो अपेक्षेप्रमाणे वागतो याची खात्री करण्यासाठी माणसांनी घातलेली तपासणी यंत्रणा.
बर्निंग पोटॅटो स्कोअर: 69%