AI-யைப் பார்த்து AI நிறுவன தலைவர்களுக்கே பயமா? “வேகத்தைக் குறைப்போம்” வாதத்தின் பின்னணி என்ன?

Artificial Intelligence எனப்படும் AI நாளுக்கு நாள் வேகமெடுத்து வருகிறது. மனிதர்களின் பல வேலைகளைத் தானாகச் செய்யும் அளவுக்கு AI models முன்னேறி வரும் நிலையில், அதன் வளர்ச்சியை சற்று கட்டுப்படுத்த வேண்டும் என்ற குரல் இப்போது AI துறைக்குள்ளேயே எழுந்துள்ளது. அதிலும், AI உலகின் முக்கியமான மூன்று தலைவர்கள் இந்தக் கருத்தில் ஒன்றாக நிற்பதுதான் கவனத்தை ஈர்த்திருக்கிறது.

Anthropic நிறுவனத்தின் CEO Dario Amodei, AI வளர்ச்சியின் வேகம் குறித்து சமீபத்தில் எச்சரிக்கை விடுத்தார். AI models-ன் capabilities அதிகரிக்கும் வேகத்தைக் குறைக்க வேண்டும் என்றும், கிடைக்கும் கூடுதல் நேரத்தை AI safety-ஐ மேம்படுத்த பயன்படுத்த வேண்டும் என்றும் அவர் தெரிவித்துள்ளார்.

இந்தக் கருத்துக்கு OpenAI CEO Sam Altman ஆதரவு தெரிவித்துள்ளார். “I agree with Dario” என்று X தளத்தில் பதிவிட்ட அவர், AI systems-ஐ வெளிப்புற third-party evaluators மூலம் சோதனை செய்வதற்கு OpenAI தயாராக இருப்பதாகக் குறிப்பிட்டுள்ளார்.

xAI நிறுவனத்தின் Elon Musk-ம் Amodei-ன் கருத்தை ஆதரித்துள்ளார். “Dario is right” என்று அவர் X-ல் பதிவிட்டுள்ளார்.

எதற்காக இந்த கவலை?

AI models-ஐ சோதனை செய்யும்போது எதிர்பாராத சில செயல்பாடுகள் நடந்திருப்பது இந்த விவாதத்துக்கு முக்கிய காரணமாக இருக்கிறது. OpenAI நடத்திய சோதனையில் சில AI models தங்களுக்கு விதிக்கப்பட்ட கட்டுப்பாடுகளைத் தாண்டி internet-ஐ அணுகியதாகவும், developers code-களை சேமித்து பகிரும் Hugging Face தளத்துக்குள் சென்றதாகவும் தெரிவிக்கப்பட்டுள்ளது.

இந்தச் சம்பவத்தை சாதாரணமாக எடுத்துக்கொள்ளக் கூடாது என Amodei எச்சரித்துள்ளார். குறிப்பாக, பல AI agents ஒன்றாகச் செயல்பட்டால் ஏற்படக்கூடிய ஆபத்து குறித்து அவர் கவலை தெரிவித்துள்ளார்.

AI agents என்பது மனிதர்கள் ஒவ்வொரு செயலையும் கண்காணிக்காமல், தாங்களாகவே பல்வேறு பணிகளைச் செய்யக்கூடிய software programs.

AI capabilities இதே வேகத்தில் தொடர்ந்து அதிகரித்தால், அடுத்த 6 முதல் 12 மாதங்களில் இதுபோன்ற AI agents கூட்டம் internet-ன் மிகப்பெரிய பகுதிகளைக் கட்டுப்படுத்தும் அளவுக்கு திறன் பெறக்கூடும் என்பது Amodei-ன் எச்சரிக்கை. இதனால் நூற்றுக்கணக்கான பில்லியன் டாலர்கள் அளவுக்கு பொருளாதார பாதிப்பு ஏற்படக்கூடும் என்றும் அவர் தெரிவித்துள்ளார்.

முழுமையாக நிறுத்துவதல்ல!

AI வளர்ச்சியை முழுமையாக நிறுத்த வேண்டும் என்பது Amodei-ன் கருத்தல்ல. AI தொழில்நுட்பம் மனிதர்களுக்குப் பல நன்மைகளைத் தரும் என்பதையும் அவர் ஏற்றுக்கொள்கிறார். ஆனால், பாதுகாப்பு ஏற்பாடுகளைவிட AI வளர்ச்சி வேகமாகச் சென்றுவிடக் கூடாது என்பதுதான் அவரது கவலை.

இதற்காக AI நிறுவனங்கள் third-party evaluators மூலம் தங்களுடைய systems-ஐ சோதனை செய்ய வேண்டும் என்றும், நிறுவனங்கள் ஒன்றிணைந்து பொதுவான AI safety standards உருவாக்க வேண்டும் என்றும் அவர் வலியுறுத்தியுள்ளார்.

AI போட்டியில் முன்னணியில் இருக்கும் தலைவர்களே இப்போது அதன் வேகத்தைக் குறைப்பது பற்றி பேசத் தொடங்கியிருப்பது, AI வளர்ச்சியைப் போலவே அதன் பாதுகாப்பும் முக்கியம் என்பதை உணர்த்துகிறது!