वकीलों ने कोर्ट के AI को धोखा देने के लिए फ़ाइलिंग में छिपा प्रॉम्प्ट इंजेक्शन डाला
ब्राज़ील के कुछ वकीलों ने एक कानूनी फ़ाइलिंग में छिपे हुए गुप्त निर्देश डालकर कोर्ट के AI सिस्टम को अपने हिसाब से चलाने की कोशिश की। कोर्ट के टूल ने छिपे हुए टेक्स्ट को पकड़ लिया, जिसमें मामले की सिर्फ़ सतही जाँच करने को कहा गया था। बताया गया है कि वकीलों पर लगभग $16,000 का जुर्माना लगाया गया। यह घटना दिखाती है कि AI सिस्टम को छिपे हुए आदेशों से निशाना बनाया जा सकता है, इसलिए उन्हें सावधानी से सुरक्षित रखना ज़रूरी है।
आसान शब्दकोशprompt injection, superficial, filing
- prompt injection
- एक ऐसी चाल जिसमें किसी दस्तावेज़ के अंदर छिपा टेक्स्ट चुपके से AI सिस्टम को ऐसे नए निर्देश देता है जिन्हें उसे नज़रअंदाज़ करना चाहिए।
- superficial
- सिर्फ़ ऊपरी तौर पर किया गया काम, जिसमें मामले की बारीकियों या गहरी बातों को ध्यान से नहीं देखा जाता।
- filing
- कोर्ट में किसी पक्ष द्वारा अपनी बात रखने या समर्थन में भेजा जाने वाला आधिकारिक दस्तावेज़।
बर्निंग पोटैटो स्कोर: 61%