वकिलांनी कोर्टाच्या AI ला फसवण्यासाठी कागदपत्रात लपवली प्रॉम्प्ट इंजेक्शन
ब्राझीलमधील वकिलांनी एका कायदेशीर कागदपत्रात गुप्त सूचना लपवून कोर्टाच्या AI प्रणालीला वळवण्याचा प्रयत्न केला. कोर्टाच्या साधनाने ही लपलेली मजकूर ओळखली, ज्यात प्रकरणाचे फक्त वरवर परीक्षण करण्याची मागणी होती. वकिलांना सुमारे $16,000 दंड झाल्याचे वृत्त आहे. यावरून दिसते की AI प्रणालींना लपवलेल्या आदेशांद्वारे लक्ष्य केले जाऊ शकते, त्यामुळे त्यांना काळजीपूर्वक संरक्षण हवे.
सोपा शब्दकोशprompt injection, superficial, filing
- prompt injection
- प्रॉम्प्ट इंजेक्शन म्हणजे एका दस्तऐवजात लपवलेला मजकूर जो AI प्रणालीला गुपचूप नव्या सूचना देतो, ज्या तिने दुर्लक्षित करायला हव्यात.
- superficial
- वरवरचे म्हणजे फक्त पृष्ठभागावर केलेले, प्रकरणातील तपशील किंवा खोल मुद्दे नीट न पाहता केलेले.
- filing
- फाइलिंग म्हणजे अधिकृत दस्तऐवज जो एखादा पक्ष आपली बाजू मांडण्यासाठी किंवा समर्थन करण्यासाठी न्यायालयात सादर करतो.
बर्निंग पोटॅटो स्कोअर: 61%