नई सोच जो शक्तिशाली AI एजेंट्स को नियमों पर चलने के लिए प्रेरित करे
reverse game theory नाम की एक नई सोच यह कोशिश करती है कि शक्तिशाली AI मॉडल खुद यह पाएं कि नियमों का पालन करना उनके लिए सबसे समझदारी भरा विकल्प है। जैसे-जैसे ये सिस्टम अधिक सक्षम हो रहे हैं, शोधकर्ता उन्नत AI को लोगों की असली ज़रूरतों और मूल्यों के अनुरूप रखने के लिए कड़ी मेहनत कर रहे हैं।
आसान शब्दकोशMIT Technology Review, reverse game theory, aligned
- MIT Technology Review
- एक अमेरिकी पत्रिका जिसे MIT चलाता है और जो नई तकनीक और उसके लोगों व समाज पर असर के बारे में लिखती है।
- reverse game theory
- इनाम (rewards) को इस तरह डिज़ाइन करने का तरीका कि AI मॉडल नियमों का पालन इसलिए करे क्योंकि यही उसका सबसे अच्छा विकल्प हो।
- aligned
- ऐसा बनाया गया जो इंसानी लक्ष्यों और मूल्यों के अनुसार काम करे, न कि उनके खिलाफ।
बर्निंग पोटैटो स्कोर: 68%