AI மாதிரிகள் நுண்-இசைவு (Fine Tuning) மூலம் எப்படி சிறப்படைகின்றன: ஒரு எண்டர்பிரைஸ் கட்டிடக்கலைஞரின் பார்வை

இன்று நீங்கள் பயன்படுத்தும் ஒவ்வொரு ஈர்க்கும் AI மாதிரியும் ஒரு பொதுவான நிபுணராகத் (generalist) தான் தன் வாழ்க்கையைத் தொடங்கியது. அது மனிதர்கள் பயனுள்ளதாக மாறுவது போலவே பயனுள்ளதானது: சிறப்புப் பயிற்சி மூலம். அந்த இரண்டாம் கட்டம், நுண்-இசைவு (fine tuning), தான் மூலத் திறன் நம்பகமான வணிக நடத்தையாக மாறும் இடம். பெரும்பாலான நிறுவனங்கள் இதைத் தவறாகப் புரிந்துகொள்கின்றன. பல இந்த தவறான புரிதலுக்காக இரு முறை கட்டணம் செலுத்துகின்றன: ஒருமுறை வீணான செலவில், மீண்டும் இழந்த நன்மையில்.

இதை நான் ஒரு விற்பனையாளராக அல்ல, ஒரு எண்டர்பிரைஸ் கட்டிடக்கலைஞராக (enterprise architect) எழுதுகிறேன். நுண்-இசைவு என்பது நீங்கள் வாங்கும் ஒரு அம்சம் அல்ல. அது நீங்கள் பொறுப்பேற்கும் ஒரு கட்டிடக்கலை முடிவு.

ஒரு மாதிரி உண்மையில் எப்படி மேம்படுகிறது

ஒரு முன்னணி மாதிரி (frontier model) அடுக்குகளாகக் கட்டப்படுகிறது, ஒவ்வொரு அடுக்கும் வேறொரு கேள்விக்குப் பதிலளிக்கிறது.

முன்-பயிற்சி (pretraining) பதிலளிக்கிறது: மாதிரிக்கு என்ன தெரியும்? மாதிரி அபார அளவிலான உரை மற்றும் குறியீட்டைப் படித்து மொழி, தர்க்கம் மற்றும் மென்பொருளின் வடிவங்களைக் கற்றுக்கொள்கிறது. இந்தக் கட்டம் மிகப் பெரியது, விலையுயர்ந்தது, மேலும் உங்களால் அல்லாமல் மாதிரி வழங்குநர்களால் செய்யப்படுகிறது.

மேற்பார்வையிடப்பட்ட நுண்-இசைவு (supervised fine tuning) பதிலளிக்கிறது: மாதிரி எப்படி நடந்துகொள்ள வேண்டும்? வழங்குநரும், பின்னர் நிறுவனமும், மாதிரிக்கு நல்ல வேலையின் தேர்ந்தெடுக்கப்பட்ட எடுத்துக்காட்டுகளைக் காட்டுகின்றன: ஒரு வலுவான பதிலுடன் இணைக்கப்பட்ட ஒரு கேள்வி, சரியான தீர்வுடன் இணைக்கப்பட்ட ஒரு டிக்கெட். மாதிரி உரையைக் கணிப்பதிலிருந்து பணிகளைச் செய்வதற்கு மாறுகிறது.

விருப்ப மேம்படுத்தல் (preference optimisation) பதிலளிக்கிறது: மனிதர்கள் உண்மையில் எந்த நடத்தையை விரும்புகிறார்கள்? மனித கருத்திலிருந்து வலுவூட்டல் கற்றல் (reinforcement learning from human feedback) மற்றும் அதன் எளிய வாரிசான நேரடி விருப்ப மேம்படுத்தல் (direct preference optimisation) போன்ற நுட்பங்கள் மாதிரியை ஒப்பீடுகளில் பயிற்றுவிக்கின்றன: இந்தப் பதில் அந்தப் பதிலை விடச் சிறந்தது. மனித நிபுணர்கள் கடினமான எடுத்துக்காட்டுகளை உருவாக்கி மதிப்பிடுகிறார்கள். மாதிரி வெறும் அறிவையல்ல, தீர்ப்பைக் கற்றுக்கொள்கிறது.

மதிப்பீடு (evaluation) பதிலளிக்கிறது: இவற்றில் ஏதேனும் உண்மையா? கடுமையான தராய்வுகள் (benchmarks) மற்றும் மனித மதிப்பாய்வு, மாதிரி உண்மையில் மேம்பட்டதா அல்லது வெறும் நன்றாக ஒலிக்கிறதா என்பதை அளவிடுகின்றன. அதன்றி எந்தத் தீவிர ஆய்வகமும் வெளியிடுவதில்லை. எந்தத் தீவிர நிறுவனமும் செய்யக்கூடாது.

வடிவத்தைக் கவனியுங்கள். மாதிரிகள் வளர்வதால் சிறப்படைவதில்லை. நல்லது எப்படி இருக்கும் என்பதை மனிதர்கள் தொடர்ந்து அவற்றுக்குக் கற்பிப்பதாலும், அவை கற்றுக்கொண்டனவா என்பதைத் தொடர்ந்து சோதிப்பதாலும் தான் சிறப்படைகின்றன. அது நிபுணத்துவத்தின் விநியோகச் சங்கிலி, மேலும் அது இப்போது AI பொருளாதாரத்தின் நிரந்தர அம்சமாக உள்ளது.

பெரும்பாலான நிறுவனங்கள் தவறு செய்யும் முடிவு

இதோ அமைப்பு ரீதியான விமர்சனம். நிறுவனங்கள் முதலில் நுண்-இசைவை நோக்கிச் செல்கின்றன, ஏனெனில் அது உறுதியானதாக ஒலிக்கிறது, ஆனால் கட்டிடக்கலை வழக்கமாக அது கடைசியாக வர வேண்டும் என்று சொல்கிறது.

வசன பொறியியல் (prompt engineering) நீங்கள் என்ன கேட்கிறீர்கள் என்பதை மாற்றுகிறது. நுண்-இசைவு மாதிரி என்னவென்பதை மாற்றுகிறது. மீட்பு-ஆதரித்த உருவாக்கம் (retrieval augmented generation) மாதிரி என்னவற்றைப் பார்க்க முடியும் என்பதை மாற்றுகிறது. மூன்று கொள்கலன்கள், மூன்று வெவ்வேறு பிரச்சினைகள்.

வசனப்படுத்தல் (prompting) நீங்கள் விவரிக்கக்கூடிய நடத்தைக்கானது. தெளிவான வழிமுறைகளும் எடுத்துக்காட்டுகளும் பிரச்சினையைச் சரிசெய்தால், நீங்கள் முடித்துவிட்டீர்கள், கிட்டத்தட்ட பூஜ்ஜியச் செலவில், உடனடித் திரும்பப் பெறக்கூடிய தன்மையுடன்.

மீட்பு (retrieval) மாறும் அறிவுக்கானது. தயாரிப்பு பட்டியல்கள், கொள்கைகள், வழக்குச் சட்டம், விலைகள். RAG கேள்வி நேரத்தில் நடப்பு உண்மைகளைப் பெறுகிறது, எனவே பதில் புதிதாகவும் ஒரு மூலத்துடன் கண்டறியக்கூடியதாகவும் இருக்கிறது. நுண்-இசைவு அறிவை உள்ளே பொருத்துகிறது, அங்கு அது அமைதியாகப் பழையதாகிறது.

நுண்-இசைவு நீங்கள் விவரிக்க முடியாத நடத்தைக்கானது. பத்தாயிரம் ஆவணங்களுக்குப் பரவலான அலுவலக பாணி. நிபுணர்கள் பயன்படுத்தும் ஆனால் முழுமையாக எழுத முடியாத துறை தீர்ப்பு. அதிக அளவில் கண்டிப்பான வெளியீட்டு வடிவங்கள், அங்கு குறுகிய வசனங்களும் சிறிய இசைவுபெற்ற மாதிரிகளும் அழைப்புக்கான செலவைக் குறைக்கின்றன. அது திறன்களையும் தொனியையும் கற்பிக்கிறது, புதிய உண்மைகளையல்ல.

நேர்மையான வரிசை என்னவென்றால், முதலில் வசனப்படுத்தல், இரண்டாவதாக மீட்பு, ஆதாரம் தேவைப்படும் இடத்தில் நுண்-இசைவு, பெரும்பாலும் மூன்றும் சேர்த்து. உங்கள் மொழியைப் பேசும் இசைவுபெற்ற மாதிரி, இன்றைய உண்மைகளை அறிந்த மீட்பால் ஊட்டப்பட்டு, ஒழுக்கமான வசனங்களால் நடத்தப்படுவது. அந்த வரிசையில் நீங்கள் தவிர்க்கும் ஒவ்வொரு தேர்வும் கூட்டு வட்டி விகிதம் கொண்ட தொழில்நுட்பக் கடன்.

பொருளாதாரம் மாறிவிட்டது

ஐந்து ஆண்டுகளுக்கு முன் நுண்-இசைவு என்றால் பெரும் செலவில் பெரும் மாதிரிகளை மீண்டும் பயிற்றுவிப்பது என்று பொருள். அளவுரு-திறன்மிகு (parameter efficient) முறைகள் அந்த யுகத்தை முடித்தன. LoRA மற்றும் QLoRA போன்ற நுட்பங்கள் அசல் மாதிரியை உறைய வைத்து சிறிய மாற்றி அடுக்குகளை (adapter layers) பயிற்றுவிக்கின்றன, வழக்கமாக அளவுருக்களில் ஒரு சதவீதத்திற்கும் குறைவாக. ஒரு GPU கிளஸ்டர் தேவைப்பட்ட நுண்-இசைவுகள் இப்போது ஒரே அட்டையிலோ அல்லது மிதமான கிளவுட் வேலையிலோ இயங்குகின்றன. செலவுத் தடை விழுந்தது. திறன் தடை விழவில்லை.

ஏனெனில் நுண்-இசைவின் உண்மையான செலவு ஒருபோதும் கணினி வளம் அல்ல. அது தரவு. உங்கள் சிறந்த வேலையின் உண்மையாகச் சிறந்த சில ஆயிரம் எடுத்துக்காட்டுகளைத் தேர்ந்தெடுப்பதே கடினமான பகுதி, மேலும் அதுவே உங்கள் போட்டியாளர்களால் நகலெடுக்க முடியாத சொத்து. உங்கள் தரவே உங்கள் அகழி (moat). மாதிரி பெருகிக்கொண்டிருக்கும் ஒரு பண்டமாக (commodity) உள்ளது.

ஆளுகை என்பது அமைதியான தோல்வி முறை

இசைவுபெற்ற மாதிரி ஒரு வாழ்க்கைச் சுழற்சியுடன் கூடிய புதிய சொத்து. அடிப்படை மாதிரி புதுப்பிக்கும்போது அது தடம் மாறலாம் (drift). அது உணர்திறன் பயிற்சித் தரவை மனப்பாடம் செய்யலாம். அது நேற்றைய கொள்கையை அமைதியாகக் குறியீட்டில் சேர்க்கலாம். ஒவ்வொரு நுண்-இசைவையும் ஒரு உற்பத்தி அமைப்பைப் போல நடத்துங்கள்: பதிப்பிடப்பட்டது, வெளியீட்டுக்கு முன் மதிப்பிடப்பட்டது, வெளியீட்டுக்குப் பின் கண்காணிக்கப்பட்டது, மேலும் பெயரிடப்பட்ட குழுவால் சொந்தமானது. தனிப்பட்ட தரவு பயிற்சித் தொகுப்பில் நுழைந்தால், உங்கள் தனியுரிமைக் கடமைகளும் அதனுடன் செல்கின்றன. ஆஸ்திரேலியாவில் அது தனியுரிமைச் சட்டம் (Privacy Act); ஐரோப்பாவில், GDPR மற்றும் EU AI சட்டம். ஒழுங்குபடுத்துநர் கேட்பதற்கு முன் தணிக்கைக்கு (audit) வடிவமையுங்கள், பின்னர் அல்ல.

CEOகள் என்ன செய்ய வேண்டும்

முதலில், மாதிரி வழிபாட்டுக்கு நிதி தருவதை நிறுத்தி தரவு தேர்வுக்கு நிதி தரத் தொடங்குங்கள். உங்கள் சிறந்த மனித வேலையிலிருந்து ஒரு தூய்மையான, உயர்தர தரவுத் தொகுப்பை உருவாக்க உங்கள் குழுக்களுக்கு வழிநடத்துங்கள். அந்தச் சொத்து மதிப்பு பெருகும். மாதிரித் தேர்வுகள் மதிப்பிழக்கும்.

இரண்டாவதாக, ஒரு மதிப்பீட்டு வாயிலைக் கோருங்கள். உங்கள் உண்மையான பணிகளைப் பிரதிபலிக்கும் தராய்வும் அதன் தோல்விகளின் மனித மதிப்பாய்வும் இல்லாமல் எந்த இசைவுபெற்ற மாதிரியும் உற்பத்திக்கு வரக்கூடாது. உங்கள் குழு உங்களுக்கு ஒரு மதிப்பெண்ணைக் காட்ட முடியாவிட்டால், அவர்கள் நம்பிக்கையை வெளியிடுகிறார்கள்.

மூன்றாவதாக, ஒவ்வொரு AI மதிப்பாய்விலும் ஒரு கேள்வியைக் கேளுங்கள்: நாங்கள் முதலில் வசனப்படுத்தலையும் மீட்பையும் முயற்சித்தோமா? விலையுயர்ந்த கொள்கலன் இழுக்கப்படுவதற்கு முன் மலிவான கொள்கலன்கள் போதுமானதாக இல்லை என்பதை நிரூபிக்கச் செய்யுங்கள்.

CTO சரிபார்ப்புப் பட்டியல்

ஒவ்வொரு AI பயன்பாட்டு நிகழ்வையும் வசனப்படுத்தல், மீட்பு அல்லது நுண்-இசைவுடன் பொருத்தி, ஏன் என்பதைப் பதிவு செய்யுங்கள்.

உங்கள் முதல் நுண்-இசைவுக்குப் பின்னர் அல்ல, முன் ஒரு சிறிய மதிப்பீட்டு கருவிக்கூடத்தை (evaluation harness) நிறுவுங்கள்.

அளவுரு-திறன்மிகு இசைவை விரும்புங்கள், ஒவ்வொரு மாற்றியையும் (adapter) குறியீடு போலப் பதிப்பிடுங்கள்.

சட்டப் பிரிவு ஒப்புதல் அளிக்காவிட்டால், தனிப்பட்ட மற்றும் ஒழுங்குபடுத்தப்பட்ட தரவைப் பயிற்சித் தொகுப்புகளிலிருந்து வெளியே வையுங்கள்.

மீண்டும் பயிற்சிப்பதைப் பழக்கமாக்காமல், மீண்டும் பயிற்சிப்பதற்கான தூண்டலுடன் (retraining trigger) மாதிரி தடம் மாறுதலுக்கு ஒரு உரிமையாளரை நியமியுங்கள்.

டோக்கனுக்கான செலவை அல்ல, பணிக்கான செலவை அறிவியுங்கள். அதுவே வாரியம் நடவடிக்கை எடுக்கக்கூடிய எண்.

மூலோபாயக் கருத்து

மாதிரிகள் கட்டமைக்கப்பட்ட மனிதக் கற்பித்தல் மூலம் சிறப்படைகின்றன. நிறுவனங்களும் அதே வழியில் சிறந்த AIயைப் பெறுகின்றன. வெற்றியாளர்கள் மிகப் பெரிய மாதிரிகளைக் கொண்ட நிறுவனங்களாக இருக்க மாட்டார்கள். அவர்கள் சிறப்பாகக் கற்பிக்கும் நிறுவனங்களாக இருப்பார்கள்: தூய்மையான தரவு, நேர்மையான மதிப்பீடு, ஒழுக்கமான ஆளுகை. அது ஒரு கொள்முதல் பயிற்சி அல்ல. அது ஒரு பொறியியல் கலாச்சாரம்.

அந்த வளைவில் உங்கள் நிறுவனம் எங்கே உள்ளது: இன்னும் வசனப்படுத்துகிறதா, ஏற்கனவே மீட்கிறதா, அல்லது கற்பிக்கத் தயாரா?

கணித ரீதியாக சிந்தியுங்கள். புத்திசாலித்தனமாக பொறியாளுங்கள். மூலோபாய ரீதியாக வழிநடத்துங்கள். பொறுப்புடன் உருவாக்குங்கள். உலகளாவிய ரீதியில் விரிவாக்குங்கள். செயற்கை நுண்ணறிவு மூலம் உண்மையான வணிக மதிப்பை உருவாக்குங்கள்.

#ArtificialIntelligence #FineTuning #EnterpriseArchitecture #LLM #RAG #AIStrategy #MachineLearning #AIGovernance #CTO #CEO #DigitalTransformation

முதலில் LinkedIn இல் கேசவன் தியாகராஜாவால் வெளியிடப்பட்டது. அசலை LinkedIn இல் படியுங்கள். [1]