Anthropic ने इशारा दिला: AI मानवी नियंत्रणाच्या पुढे जाऊ शकते
Claude चॅटबॉट बनवणारी Anthropic कंपनी म्हणते, की तिचे भविष्यातील AI मॉडेल कदाचित लवकरच AI ची प्रगती स्वतःच वेगाने करू शकतील. ही प्रगती सुरक्षा, alignment आणि security उपायांपेक्षा वेगाने पुढे जाऊ शकते, जे अशा प्रणाली मानवी नियंत्रणाखाली ठेवण्यासाठी असतात. हा इशारा अजून विकसित होत असलेल्या मॉडेलबद्दल आहे, सध्याच्या साधनांबद्दल नाही.
पार्श्वभूमी
Anthropic ही अनेक आघाडीच्या AI लॅबपैकी एक आहे, जी अधिक सक्षम मॉडेल बनवण्याच्या स्पर्धेत आहे. Alignment म्हणजे AI प्रणाली मानवी उद्दिष्टे आणि मूल्यांनुसार वागतील याची खात्री करणे, आणि मॉडेल अधिक शक्तिशाली होत असताना ही मोठी चिंता आहे.
बर्निंग पोटॅटो स्कोअर: 73%