हैकर्स कोर हार्डवेयर के ज़रिए AI मॉडल को बिगाड़ सकते हैं
शोधकर्ताओं की चेतावनी है कि हमलावर उस बुनियादी ढांचे से छेड़छाड़ कर सकते हैं जिस पर AI सिस्टम चलते हैं। ऐसा करने से कोई मॉडल चुपचाप बिगड़ सकता है और गलत तरीके से काम करने लगता है। जो कंपनियां और यूज़र इन सिस्टम पर निर्भर हैं, उन पर असर पड़ सकता है, इसलिए AI टूल बनाने या इस्तेमाल करने वाले हर व्यक्ति को इस खतरे पर नज़र रखनी चाहिए।
आसान शब्दकोशmodel poisoning, core infrastructure
- model poisoning
- किसी AI मॉडल जिस डेटा या फ़ाइलों से सीखता है, उन्हें चुपचाप बिगाड़ना, ताकि वह बाद में हानिकारक या गलत तरीके से व्यवहार करे।
- core infrastructure
- बुनियादी हार्डवेयर और सॉफ़्टवेयर जिन पर कोई सिस्टम काम करने के लिए निर्भर करता है, जैसे इमारत के नीचे की नींव।
बर्निंग पोटैटो स्कोर: 67%