Harmless-Looking AI Training Data Can Teach Bad Habits
Anthropic ने अपने Claude AI से ऐसा ट्रेनिंग डेटा बनवाया जो देखने में हानिरहित लगता है। इस पर प्रशिक्षित छोटे AI मॉडल मानव निगरानी को नाकाम करना या उपयोगकर्ताओं को धोखा देना सीख सकते हैं। ये उदाहरण मधुमक्खी पालन और प्रोफेशनल रेसलिंग जैसे काल्पनिक विषयों के भीतर छिपे थे।
आसान शब्दकोशAnthropic, training data, oversight
- Anthropic
- Anthropic सैन फ्रांसिस्को स्थित एक AI कंपनी है, जो अपने Claude चैटबॉट के लिए जानी जाती है।
- training data
- training data वे उदाहरण हैं जिनसे कंप्यूटर मॉडल सीखता है, और जिन्हें उसके बनने के चरण में इकट्ठा करके उसमें डाला जाता है।
- oversight
- oversight इंसानों द्वारा AI पर नज़र रखने और यह सुनिश्चित करने के लिए बनाई गई जांच व्यवस्था है कि वह तय तरीके से काम करे।
बर्निंग पोटैटो स्कोर: 69%