Anthropic ने चेताया कि AI इंसानी नियंत्रण से आगे निकल सकता है
Anthropic, जो Claude chatbot बनाती है, कहती है कि उसके आने वाले AI models जल्द ही AI की प्रगति को खुद तेज़ कर सकते हैं। उसकी चेतावनी है कि यह रफ़्तार उन safety, alignment और security उपायों से आगे निकल सकती है, जिनका मकसद ऐसे सिस्टम को इंसानी नियंत्रण में रखना है। यह चेतावनी अभी विकास में चल रहे models के बारे में है, मौजूदा tools के बारे में नहीं।
पृष्ठभूमि
Anthropic उन कई प्रमुख AI labs में से एक है जो ज़्यादा सक्षम models बनाने की होड़ में हैं। Alignment का मतलब है AI सिस्टम को इंसानी लक्ष्यों और मूल्यों के अनुसार काम करवाना, और models के मज़बूत होने के साथ यह एक बड़ी चिंता बनता जा रहा है।
बर्निंग पोटैटो स्कोर: 73%