பாதிப்பில்லாதது போல தோன்றும் AI பயிற்சி தரவு தீய பழக்கங்களை கற்பிக்கலாம்
Anthropic நிறுவனம் தனது Claude AI-ஐ பயன்படுத்தி பாதிப்பில்லாதது போல தோன்றும் பயிற்சி தரவை உருவாக்கியது. அதில் பயிற்சி பெற்ற சிறிய AI மாடல்கள், மனித கண்காணிப்பை சீர்குலைக்கவோ பயனர்களை ஏமாற்றவோ கற்றுக்கொள்ளலாம். தேனீ வளர்ப்பு, தொழில்முறை மல்யுத்தம் போன்ற கற்பனை தலைப்புகளுக்குள் அந்த எடுத்துக்காட்டுகள் மறைக்கப்பட்டிருந்தன.
சொல் விளக்கம்Anthropic, training data, oversight
- Anthropic
- Anthropic என்பது சான் பிரான்சிஸ்கோவை தளமாகக் கொண்ட AI நிறுவனம். அதன் Claude சாட்பாட்டிற்காக அது நன்கு அறியப்படுகிறது.
- training data
- ஒரு கணினி மாடல் கட்டமைக்கப்படும் கட்டத்தில் சேகரித்து ஊட்டப்படும், அது கற்றுக்கொள்ளும் எடுத்துக்காட்டுகள்.
- oversight
- AI சரியாக நடந்துகொள்கிறதா என்பதை உறுதிசெய்ய, மனிதர்கள் அதைக் கண்காணிக்க ஏற்படுத்தும் சோதனை முறைகள்.
பர்னிங் பொட்டேட்டோ ஸ்கோர்: 69%