আদালতের এআইকে বোকা বানাতে আইনজীবীরা নথিতে লুকানো প্রম্পট ইনজেকশন ঢুকিয়েছিলেন
ব্রাজিলের কিছু আইনজীবী একটি আইনি নথির ভেতরে গোপন নির্দেশ লুকিয়ে আদালতের এআই সিস্টেমকে প্রভাবিত করার চেষ্টা করেছিলেন। আদালতের টুল লুকানো লেখাটি ধরে ফেলে, যেখানে মামলাটি শুধু ওপর ওপর দেখার দাবি করা হয়েছিল। জানা গেছে, আইনজীবীদের প্রায় $16,000 জরিমানা করা হয়েছে। ঘটনাটি দেখায় যে গোপন আদেশ দিয়ে এআই সিস্টেমকে নিশানা করা যায়, তাই সতর্ক সুরক্ষা ব্যবস্থা দরকার।
সহজ শব্দকোষprompt injection, superficial, filing
- prompt injection
- এমন একটি কৌশল, যেখানে কোনো নথির ভেতরের লুকানো লেখা গোপনে এআই সিস্টেমকে এমন নতুন নির্দেশ দেয়, যা তার উপেক্ষা করা উচিত।
- superficial
- শুধু ওপর ওপর করা, কোনো মামলার খুঁটিনাটি বা গভীর বিষয় না দেখে।
- filing
- একটি সরকারি নথি, যা কোনো পক্ষ নিজের দিক সমর্থন বা যুক্তি দিতে আদালতে জমা দেয়।
বার্নিং পটেটো স্কোর: 61%