முன்பயிற்சியிலிருந்து AI முகவர்களின் அணிகள் வரை: Jensen Huangஇன் நான்கு அளவுவிரிவாக்கச் சுழற்சிகள் கணிப்பியல் பற்றிய கேள்வியை ஏன் மாற்றுகின்றன

அறிமுகம்: செயற்கை நுண்ணறிவின் திறன் அதிகரிக்கும்போது எது வளர்கின்றது?

செயற்கை நுண்ணறிவு [AI] பற்றிய கலந்துரையாடல் பெரும்பாலும் ஒரு மாதிரியின் [Model] அளவிலிருந்து தொடங்குகின்றது. அதில் எத்தனை அளவுருக்கள் [Parameters] உள்ளன? அதனைப் பயிற்றுவிக்க எவ்வளவு தகவல் பயன்படுத்தப்பட்டது? அதற்குப் பின்னாலிருந்த கணிப்பியல் அமைப்பு [Computing System] எவ்வளவு பெரியது?

இந்தக் கேள்விகள் அமைப்பின் ஒரு பகுதியை மட்டுமே விவரிக்கின்றன. AI பல கட்டங்களில் வளர முடியும் என்பதே Jensen Huangஇன் பரந்த வாதமாகும்: அதன் அடித்தளங்களைக் கற்கும்போதும், அதன் நடத்தையை மேம்படுத்தும்போதும், ஒரு குறிப்பிட்ட பிரச்சினையை ஆராய்ந்து தீர்க்கும்போதும், முகவர்களிடையே [Agents] வேலையைப் பகிர்ந்தளிக்கும்போதும் அது வளரலாம். இந்தக் கட்டங்களுக்கு இடையிலான தொடர்பைப் புரிந்துகொள்வது கணிப்பியல் தேவையை [Computing Demand] நாம் சிந்திக்கும் விதத்தை மாற்றுகின்றது.

ஒரு மாதிரியை உருவாக்குவதற்கும் நுண்ணறிவுள்ள ஓர் அமைப்பைப் பயன்படுத்துவதற்கும் இடையிலுள்ள வேறுபாடே முக்கியமானது. அவை தொடர்புடைய செயல்கள்; ஆனால் ஒரே பணிச்சுமை [Workload] அல்ல.

1. முன்பயிற்சி ஓர் அடித்தளத்தை உருவாக்குகின்றது; முழுமையான பணியாளரை அல்ல

முன்பயிற்சி [Pre-training], ஒரு மாதிரிக்கு பெருமளவு தகவல்களை வழங்குவதன் மூலம் அதன் பரந்த திறன்களை வளர்க்கின்றது. பிற்காலப் பணிகளுக்கு உதவக்கூடிய பாங்குகளையும் தொடர்புகளையும் மாதிரி கற்றுக்கொள்கின்றது.

அதிக தரவும் அதிக கணிப்பியல் வளமும் [Computing] அந்த அடித்தளங்களை மேம்படுத்தலாம். ஆயினும், பெரியதொரு பயிற்சி ஓட்டம் [Training Run] பயனுள்ள நுண்ணறிவுக்கான முழுமையான விளக்கம் அல்ல. ஒரு மாதிரி பரந்த பொதுஅறிவைக் கொண்டிருந்தாலும், சிறந்த தீர்மானத்திறன், பணிக்கேற்ற அனுபவம் அல்லது பயிற்சியின்போது சந்திக்காத தகவல்களுக்கான அணுகல் அதற்குத் தேவைப்படலாம்.

அதனால்தான் மனிதர்கள் எழுதிய உள்ளடக்கத்தின் கிடைப்பளவு இறுதியில் ஒரு தடையாகுமா என்ற கேள்வியுடன் நிறுத்திவிட முடியாது. அடுத்த கட்டங்கள் ஓர் அமைப்பு கற்கும் விதத்தையும் அது செய்யும் வேலையையும் மாற்றக்கூடும்.

2. பின்பயிற்சி அடித்தளம் பயன்படுத்தப்படும் விதத்தை மாற்றுகின்றது

பின்பயிற்சி [Post-training], ஆரம்பக் கற்றலுக்குப் பின்னர் ஒரு மாதிரியைச் செம்மைப்படுத்துகின்றது. நடத்தை, நடைமுறைப் பணிகள், மக்களுக்குத் தேவையான பதில் வகைகள் என்பவற்றை நோக்கி கவனம் நகர்கின்றது.

செயற்கைத் தரவு [Synthetic Data] இந்தச் செயன்முறைக்குப் பங்களிக்கலாம். ஓர் அமைப்பு எடுத்துக்காட்டுகளை உருவாக்கி, வேறுபட்ட வடிவங்களை ஆராய்ந்து, மேலதிகக் கற்றலுக்குப் பயன்படும் உள்ளடக்கத்தை உற்பத்தி செய்யலாம். அதன் மதிப்பு, ஓர் இயந்திரம் அதை உருவாக்கியது என்பதில் அல்ல; அதனால் கிடைக்கும் அனுபவத்தின் தரத்திலேயே உள்ளது.

இந்த வேறுபாடு முக்கியமானது. அதிக உள்ளடக்கத்தை உருவாக்குவது மட்டுமே அது சரியானது என்பதைத் தானாக உறுதிப்படுத்தாது. பயனுள்ள சுழற்சி, தக்கவைக்கத் தகுந்த அனுபவங்களைத் தெரிவுசெய்து, பிற்கால நடத்தையை மேம்படுத்த அவற்றைப் பயன்படுத்துகின்றது. தெரிவில்லாத பெருக்கம் பலவீனங்களைத் திருத்துவதற்குப் பதிலாக அவற்றை மீண்டும் உருவாக்கலாம்.

3. சோதனைநேரக் கணிப்பியல் அனுமானத்தை இன்னும் கடினமான பிரச்சினையாக்குகின்றது

அனுமானம் [Inference] சிலவேளைகளில் எளிய இறுதிப் படியாகக் கருதப்படுகின்றது: மாதிரி ஏற்கெனவே கற்றுவிட்டதால், ஒரு பதிலை உருவாக்க மேலதிக வேலை மிகக் குறைவாகவே தேவைப்படும் என்பதே அந்தக் கருத்து.

சோதனைநேர அளவுவிரிவாக்கம் [Test-time Scaling] இந்தப் பார்வையைச் சவாலுக்கு உட்படுத்துகின்றது. கடினமான ஒரு பணிக்காக, அமைப்பு ஒரு பிரச்சினையைச் சிறு பகுதிகளாகப் பிரித்து, சாத்தியமான அணுகுமுறைகளை ஒப்பிட்டு, தகவல்களைத் தேடி, தோல்வியுற்ற முயற்சியை மீளாய்வு செய்ய வேண்டியிருக்கலாம்.

அவ்வாறாயின், பயனுள்ள பதிலைத் திருப்பித் தருவதற்கு முன் அமைப்பு என்ன செய்ய வேண்டும் என்பதிலேயே கணிப்பியல் தேவை [Computing Requirement] தங்கியுள்ளது. ஒரு குறுகிய பதிலுக்குப் பின்னாலும் கணிசமான வேலை இருக்கலாம். மாறாக, நீண்ட பதில் கவனமான பகுத்தறிவுக்குச் சான்றல்ல.

ஒரு வணிகத்தைப் பொறுத்தவரை, இது பதில் தாமதம் [Latency], பதிலின் தரம், இயக்கச் செலவு என்பவற்றை ஒன்றோடொன்று தொடர்புடைய தெரிவுகளாக்குகின்றது. மிகக் குறைந்த செலவிலான உடனடிப் பதில், வெற்றிகரமாக நிறைவுசெய்யப்பட்ட மிகக் குறைந்த செலவிலான பணியாக எப்போதும் இருக்காது.

4. முகவர்சார் அளவுவிரிவாக்கம் திறனுடன் ஒருங்கிணைப்பையும் சேர்க்கின்றது

முகவர்சார் அளவுவிரிவாக்கம் [Agentic Scaling] மற்றொரு வழியை அறிமுகப்படுத்துகின்றது: அனைத்தையும் வரிசையாகச் செய்யும்படி ஒரு மாதிரியைக் கேட்பதற்குப் பதிலாக, ஓர் அமைப்பு பல முகவர்களிடையே [Agents] வேலையைப் பகிர்ந்தளிக்கலாம்.

ஒரு முகவர் பதிவுகளை ஆராயும்போது மற்றொருவர் தெரிவுகளை ஒப்பிடலாம். அவர்களது கண்டறிதல்கள் ஒரு பொதுவான முடிவுக்கு உதவலாம். ஒரு மாதிரியைப் பெரிதாக்குவதிலிருந்தோ அதற்கு அதிக நேரம் வழங்குவதிலிருந்தோ இது வேறுபட்ட வளர்ச்சியாகும்.

ஓர் அமைப்புடனான ஒப்பீடு பயனுள்ளது. அதிக பணியாளர்கள் செயற்திறனை அதிகரிக்கலாம்; ஆனால் பொறுப்புகள், தொடர்பாடல், இறுதித் தீர்மானம் என்பவை தெளிவாக இருக்கும்போதே அது சாத்தியமாகும். அதேபோல் அதிக முகவர்கள், ஒருங்கிணைத்தல், முரண்பாடுகளை ஒத்திசைத்தல், சரிபார்த்தல் ஆகிய வேலைகளையும் உருவாக்குகின்றனர். அவர்களது எண்ணிக்கை ஓர் உள்ளீடு மட்டுமே; வெற்றியின் அளவுகோல் அல்ல.

5. நான்கு கட்டங்களும் ஒரு கற்றல் சுழற்சியை உருவாக்குகின்றன

ஓர் அமைப்பு வேலை செய்த பின்னர் என்ன நடக்கின்றது என்பதே மிக முக்கியமான தொடர்பாகும். முகவர்களின் பயனுள்ள அனுபவங்கள் பிற்காலப் பயிற்சிக்கான உள்ளடக்கமாகலாம். செம்மைப்படுத்தப்பட்ட மாதிரிகள் பின்னர் சிறந்த பகுத்தறிவுக்கும் மேலும் பயனுறுதியுள்ள முகவர்களுக்கும் உதவலாம்.

எனவே முன்பயிற்சி [Pre-training], பின்பயிற்சி [Post-training], சோதனைநேர வேலை [Test-time Work], முகவர்சார் செயற்பாடு [Agentic Activity] என்பவை தனித்தனிப் பெட்டிகளாகவே இருக்க வேண்டியதில்லை. அவை ஒன்றுக்கொன்று வளம் சேர்க்கலாம்.

இது உட்கட்டமைப்பு [Infrastructure] பற்றிய கேள்வியையும் மாற்றுகின்றது. ஒரு மாதிரியைப் பயிற்றுவித்தல், கோப்புகளில் தேடுதல், பல பணியாளர்களை ஒருங்கிணைத்தல் என்பவை செயலிகள் [Processors], நினைவகம் [Memory], சேமிப்பகம் [Storage], வலையமைப்பு [Networking] ஆகியவற்றுக்கு வெவ்வேறு தேவைகளை ஏற்படுத்துகின்றன. ஒரு குறுகிய செயல்திறன் சோதனையை [Benchmark] மையமாகக்கொண்டு வடிவமைக்கப்பட்ட அமைப்பு, முழுப் பணிப்பாய்வுக்கும் [Workflow] பொருத்தமற்றதாக இருக்கலாம்.

முடிவுரை: மாதிரியை மட்டுமன்றி வேலையையும் அளவிடுங்கள்

AI முன்னேற்றம் என்பது பெரிய தரவுத்தொகுப்பில் [Dataset] ஒருமுறை பயிற்றுவிக்கப்பட்ட பெரிய மாதிரி மட்டுமே என்ற கருத்துக்கு அப்பால் Huangஇன் நான்கு பகுதிக் கட்டமைப்பு கலந்துரையாடலை நகர்த்துகின்றது.

கூடுதல் கணிப்பியல் வளம் [Computing] எங்கே சிறந்த முடிவை உருவாக்குகின்றது என்பதை அடையாளம் காண்பதே நடைமுறைப் பாடமாகும். பணிக்கு சிறந்த அடித்தளங்கள் தேவையா, மேலும் பயனுள்ள செம்மைப்படுத்தல் தேவையா, நீண்ட பிரச்சினைத் தீர்வு முயற்சி தேவையா, அல்லது ஒருங்கிணைந்த வேலைப் பகிர்வு தேவையா?

நிறைவுசெய்யப்பட்ட பணிகள், தரம், நேரம், மொத்தச் செலவு ஆகியவற்றின் வழியாக ஒரு நிறுவனம் பதிலை மதிப்பிட வேண்டும். அளவுருக்களை [Parameters] அல்லது முகவர்களை [Agents] மட்டும் எண்ணுவதைவிட இது பயனுள்ள தொடக்கமாகும். எதிர்காலக் கணிப்பியல் கேள்வி, கற்றலும் வேலையும் இணைந்த முழு அமைப்பைப் பற்றியதாகும்.

By Keshavan Thiagaraja

தனிப்பட்ட செயற்கை நுண்ணறிவு மாதிரி உருவாக்குநர் (Private AI Model Developer) மற்றும் செயற்கை நுண்ணறிவுப் பாதுகாப்பு ஆலோசகர் (AI Security Consultant). சிறு, நடுத்தர மற்றும் பெரிய நிறுவனங்கள் பாதுகாப்பான செயற்கை நுண்ணறிவுத் தீர்வுகளை உருவாக்க உதவுகின்றவர். சிட்னி, அவுஸ்திரேலியா.

(B.Sc. Computer Science, Mathematics and Statistics)

(M.Sc. Information Technology)

(E-Commerce Professional)

மேலதிக ஆக்கங்களை வாசிக்க