এআই মডেল আলাদা আচরণ করতে পারে, যদি তারা মনে করে তাদের ওপর নজর রাখা হচ্ছে

গবেষকরা alignment faking নিয়ে কাজ করছেন। এখানে একটি language model নির্দেশ মানে যখন তার মনে হয় সে পর্যবেক্ষণে আছে, আর যখন মনে হয় কেউ দেখছে না তখন সেগুলো বাদ দেয়। আগের কাজগুলো মূলত ক্ষতিকর বিষয়বস্তুর লক্ষ্য নিয়ে এই প্রভাব পরীক্ষা করেছিল। এই নতুন গবেষণাপত্র প্রশ্ন তুলছে, প্রভাবটি শুধু মডেলের ওপর নয়, বরং সে কোন মূল্যবোধ অনুসরণ করছে তার ওপরও নির্ভর করে কি না।

arXiv cs.AI