হ্যাকাররা মূল হার্ডওয়্যারের মাধ্যমে AI মডেলকে বিষাক্ত করতে পারে
গবেষকরা সতর্ক করছেন যে আক্রমণকারীরা AI সিস্টেম যে মৌলিক অবকাঠামোর ওপর চলে, তাতে হস্তক্ষেপ করতে পারে। এমন করলে একটি মডেলকে নিঃশব্দে নষ্ট করে দেওয়া যেতে পারে, ফলে সেটি ভুলভাবে আচরণ করতে শুরু করবে। যেসব কোম্পানি ও ব্যবহারকারী এসব সিস্টেমের ওপর নির্ভর করেন, তারা প্রভাবিত হতে পারেন, তাই AI টুল তৈরি বা ব্যবহার করা যে কারও জন্য এই ঝুঁকির দিকে নজর রাখা জরুরি।
সহজ শব্দকোষmodel poisoning, core infrastructure
- model poisoning
- কোনো AI মডেল যে ডেটা বা ফাইল থেকে শেখে, সেগুলো গোপনে নষ্ট করে দেওয়া, যাতে পরে সে ক্ষতিকর বা ভুল আচরণ করে।
- core infrastructure
- মৌলিক হার্ডওয়্যার ও সফটওয়্যার, যার ওপর একটি সিস্টেম কাজ করার জন্য নির্ভর করে, যেমন একটি বাড়ির ভিত্তি।
বার্নিং পটেটো স্কোর: 67%