AI கட்டுப்பாட்டை மீறி வேகமாக வளரக்கூடும் என Anthropic எச்சரிக்கை
Claude chatbot-ஐ உருவாக்கிய நிறுவனமான Anthropic, தங்களின் எதிர்கால AI மாடல்கள் விரைவில் AI முன்னேற்றத்தையே வேகப்படுத்தக்கூடும் எனச் சொல்கிறது. இது, அத்தகைய அமைப்புகளை மனிதக் கட்டுப்பாட்டில் வைத்திருக்க உதவும் பாதுகாப்பு, alignment, பாதுகாப்பு நடவடிக்கைகளை விட வேகமாக நகரக்கூடும் என அது எச்சரிக்கிறது. இந்த எச்சரிக்கை இன்னும் உருவாகிக் கொண்டிருக்கும் மாடல்களைப் பற்றியது, இப்போது பயன்பாட்டில் உள்ள கருவிகளைப் பற்றியது அல்ல.
பின்னணி
பல முன்னணி AI ஆய்வகங்களில் Anthropic-உம் ஒன்று. இன்னும் திறன்மிக்க மாடல்களை உருவாக்க அவை போட்டியிடுகின்றன. Alignment என்பது AI அமைப்புகள் மனித இலக்குகளுக்கும் மதிப்புகளுக்கும் ஏற்ப செயல்படுவதை உறுதி செய்வதாகும். மாடல்கள் வலுவடையும்போது இதுவே முக்கியக் கவலையாக உள்ளது.
பர்னிங் பொட்டேட்டோ ஸ்கோர்: 73%