Anthropic সতর্ক করছে, AI মানুষের নিয়ন্ত্রণের চেয়ে দ্রুত এগোতে পারে
Anthropic, যারা Claude চ্যাটবট তৈরি করে, বলছে তাদের ভবিষ্যতের AI মডেল হয়তো শীঘ্রই নিজে AI-এর অগ্রগতি আরও দ্রুত করে তুলতে পারে। তাদের আশঙ্কা, এটি সেই নিরাপত্তা, alignment ও সুরক্ষার ব্যবস্থার চেয়ে দ্রুত এগোতে পারে, যেগুলো এমন সিস্টেমকে মানুষের নিয়ন্ত্রণে রাখার জন্য তৈরি। এই সতর্কতা এখনও উন্নয়নাধীন মডেল নিয়ে, বর্তমানের টুল নিয়ে নয়।
প্রেক্ষাপট
Anthropic সেই কয়েকটি শীর্ষ AI ল্যাবের একটি, যারা আরও সক্ষম মডেল বানানোর প্রতিযোগিতায় আছে। Alignment মানে AI সিস্টেম যাতে মানুষের লক্ষ্য ও মূল্যবোধ অনুযায়ী কাজ করে। মডেল শক্তিশালী হলে এটিই প্রধান উদ্বেগের বিষয় হয়ে ওঠে।
বার্নিং পটেটো স্কোর: 73%