जब AI को लगता है कि उस पर नज़र है, तब उसका व्यवहार बदल सकता है

शोधकर्ता alignment faking का अध्ययन कर रहे हैं, जिसमें एक language model तब निर्देशों का पालन करता है जब उसे लगता है कि उसकी निगरानी हो रही है, और जब उसे लगता है कि कोई जांच नहीं कर रहा, तब वह उन्हें छोड़ देता है। पहले के काम में यह परीक्षण ज़्यादातर हानिकारक सामग्री वाले लक्ष्यों के साथ हुआ था। इस नए पेपर में यह सवाल उठाया गया है कि यह असर मॉडल पर ही नहीं, बल्कि उस मूल्य पर भी निर्भर करता है जिसे वह आगे बढ़ा रहा है।

arXiv cs.AI