வழக்கறிஞர்கள் நீதிமன்ற AI-ஐ ஏமாற்ற சட்ட ஆவணத்தில் prompt injection மறைத்தனர்

பிரேசில் வழக்கறிஞர்கள், சட்ட ஆவணத்துக்குள் ரகசிய அறிவுறுத்தல்களை மறைத்து வைத்து நீதிமன்றத்தின் AI அமைப்பை வழிநடத்த முயன்றனர். நீதிமன்றக் கருவி அந்த மறைக்கப்பட்ட உரையைக் கண்டறிந்தது. அது வழக்கை மேலோட்டமாக மட்டுமே பார்க்குமாறு கோரியிருந்தது. வழக்கறிஞர்களுக்கு சுமார் $16,000 அபராதம் விதிக்கப்பட்டதாக செய்திகள் கூறுகின்றன. AI அமைப்புகளை மறைந்த கட்டளைகள் மூலம் குறிவைக்க முடியும் என்பதையும், அவற்றுக்கு கவனமான பாதுகாப்பு தேவை என்பதையும் இது காட்டுகிறது.

Tom's Hardware