AI वेब पूर्वानुमानों की सुरक्षा जाँच में सिर्फ़ विश्वसनीयता काफ़ी नहीं
शोधकर्ताओं ने वेब वर्ल्ड मॉडल्स का अध्ययन किया, जो अनुमान लगाते हैं कि कोई AI एजेंट ऑनलाइन कोई कदम उठाने के बाद क्या होगा। उन्होंने पाया कि विश्वसनीय लगने वाला अनुमान हमेशा सही सुरक्षा फैसले तक नहीं ले जाता। इस काम में 3,000 पूर्वानुमानों का मिलान करके इंसानी मूल्यांकन किया गया।
आसान शब्दकोशweb world models, human evaluation
- web world models
- AI सिस्टम जो अंदाज़ा लगाते हैं कि AI एजेंट के किसी वेबसाइट पर वास्तव में क्लिक या कार्य करने से पहले वहाँ क्या होगा।
- human evaluation
- एक परीक्षण जिसमें असली लोग AI के आउटपुट की गुणवत्ता जाँचते हैं, न कि कंप्यूटर उसे अपने आप अंक देता है।
बर्निंग पोटैटो स्कोर: 58%