AI ආකෘති සියුම් සැකසුම (fine tuning) හරහා වඩා හොඳ වන්නේ කෙසේද: ව්‍යවසාය ගෘහ නිර්මාණ ශිල්පියෙකුගේ දැක්ම

අද ඔබ භාවිත කරන සෑම ආකර්ෂණීය AI ආකෘතියක්ම තම ජීවිතය ආරම්භ කළේ සාමාන්‍ය විශේෂඥයෙකු (generalist) ලෙස ය. එය මිනිසුන් ප්‍රයෝජනවත් වන ආකාරයටම ප්‍රයෝජනවත් විය: විශේෂිත පුහුණුව හරහා. එම දෙවන අදියර, සියුම් සැකසුම, යනු අමු හැකියාව විශ්වාසදායක ව්‍යාපාරික හැසිරීම බවට පත්වන ස්ථානයයි. බොහෝ ව්‍යවසායයන් එය වැරදියට තේරුම් ගනිති. බොහෝ දෙනෙක් එම වැරදි අවබෝධය සඳහා දෙවරක් ගෙවති: වරක් නිළ් වියදමින්, නැවත වරක් මඟහැරුණු වාසියෙන්.

මම මෙය ලියන්නේ විකුණුම්කරුවෙකු ලෙස නොව, ව්‍යවසාය ගෘහ නිර්මාණ ශිල්පියෙකු (enterprise architect) ලෙස ය. සියුම් සැකසුම යනු ඔබ මිලදී ගන්නා අංගයක් නොවේ. එය ඔබ අයිතිවාසිකම් කරගන්නා ගෘහ නිර්මාණ තීරණයකි.

ආකෘතියක් ඇත්තටම වඩා හොඳ වන්නේ කෙසේද

මුරණ්ඩු ආකෘතියක් (frontier model) ස්තර වලින් ගොඩනඟන අතර, සෑම ස්තරයක්ම වෙනම ප්‍රශ්නයකට පිළිතුරු දෙයි.

පූර්ව පුහුණුව (pretraining) පිළිතුරු දෙයි: ආකෘතිය දන්නේ කුමක්ද? ආකෘතිය අති විශාල පාඨ සහ කේත ප්‍රමාණ කියවා භාෂාව, තර්කය සහ මෘදුකාංගයේ රටාවන් ඉගෙන ගනියි. මෙම අදියර අති විශාලය, මිල අධිකය, සහ එය සිදු කරන්නේ ආකෘති සැපයුම්කරුවන් විසිනි, ඔබ විසින් නොවේ.

අධීක්ෂණය කරන ලද සියුම් සැකසුම (supervised fine tuning) පිළිතුරු දෙයි: ආකෘතිය හැසිරිය යුත්තේ කෙසේද? සැපයුම්කරු සහ පසුව ව්‍යවසායය, ආකෘතියට හොඳ වැඩ වල තෝරාගත් උදාහරණ පෙන්වයි: ශක්තිමත් පිළිතුරක් සමඟ යුගල වූ ප්‍රශ්නයක්, නිවැරදි විසඳුමක් සමඟ යුගල වූ ටිකට් එකක්. ආකෘතිය පාඨ අනුමාන කිරීමෙන් කාර්යයන් ඉටු කිරීමට මාරු වේ.

මනාප ප්‍රශස්තිකරණය (preference optimisation) පිළිතුරු දෙයි: මිනිසුන්ට ඇත්තටම අවශ්‍ය හැසිරීම කුමක්ද? මානව ප්‍රතිපෝෂණයෙන් ශක්තිමත් කිරීමේ ඉගෙනීම (reinforcement learning from human feedback) සහ එහි සරල අනුප්‍රාප්තිකයා වන සෘජු මනාප ප්‍රශස්තිකරණය (direct preference optimisation) වැනි ශිල්පීය ක්‍රම ආකෘතිය සංසන්දන මත පුහුණු කරයි: මෙම පිළිතුර එම පිළිතුරට වඩා හොඳයි. මානව විශේෂඥයින් අමාරු උදාහරණ නිර්මාණය කර විනිශ්චය කරති. ආකෘතිය දැනුම පමණක් නොව, විනිශ්චය ඉගෙන ගනියි.

ඇගයීම (evaluation) පිළිතුරු දෙයි: මේවායින් කිසිවක් සැබෑද? දැඩි මිණුම් දණ්ඩ (benchmarks) සහ මානව සමාලෝචනය ආකෘතිය සැබවින්ම දියුණු වුවද නැත්නම් හුදෙක් හොඳට ශබ්ද කරනවාද යන්න මනිනු ලැබේ. එය නොමැතිව කිසිදු බැරෑරුම් විද්‍යාගාරයක් නිකුත් නොකරයි. කිසිදු බැරෑරුම් ව්‍යවසායයක් ද එසේ කළ යුතු නැත.

රටාව සලකා බලන්න. ආකෘති වර්ධනය වන නිසා වඩා හොඳ නොවේ. හොඳ දේ පෙනෙන්නේ කෙසේදැයි මිනිසුන් දිගටම ඒවාට උගන්වන නිසාත්, ඒවා ඉගෙන ගත්තාදැයි දිගටම පරීක්ෂා කරන නිසාත් ඒවා වඩා හොඳ වේ. එය විශේෂඥ දැනුමේ සැපයුම් දාමයකි, සහ එය දැන් AI ආර්ථිකයේ ස්ථාවර අංගයකි.

බොහෝ ව්‍යවසායයන් වැරදි කරන තීරණය

මෙන්න පද්ධතිමය විවේචනය. ව්‍යවසායයන් මුලින්ම සියුම් සැකසුම වෙත යොමු වන්නේ එය තීරණාත්මක යැයි පෙනෙන නිසා ය, නමුත් ගෘහ නිර්මාණ ශිල්පය සාමාන්‍යයෙන් කියන්නේ එය අවසානයට ඒම යුතු බවයි.

ප්‍රේරක ඉංජිනේරු විද්‍යාව (prompt engineering) වෙනස් කරන්නේ ඔබ අසන දේ ය. සියුම් සැකසුම වෙනස් කරන්නේ ආකෘතිය කුමක්ද යන්න ය. නැවත ලබාගැනීමෙන් වර්ධනය කළ උත්පාදනය (retrieval augmented generation) වෙනස් කරන්නේ ආකෘතියට දැකිය හැකි දේ ය. පාලන තුනක්, වෙනස් ගැටලු තුනක්.

ප්‍රේරක (prompting) යනු ඔබට විස්තර කළ හැකි හැසිරීම සඳහා ය. පැහැදිලි උපදෙස් සහ උදාහරණ ගැටලුව විසඳන්නේ නම්, ඔබේ වැඩේ ඉවරයි, බොහෝ දුරට ශුන්‍ය පිරිවැයකින්, ක්ෂණිකව ආපසු හැරවිය හැකි ආකාරයෙන්.

නැවත ලබාගැනීම (retrieval) යනු වෙනස් වන දැනුම සඳහා ය. නිෂ්පාදන නාමාවලි, ප්‍රතිපත්ති, නඩු නීතිය, මිල ගණන්. RAG ප්‍රශ්න වේලාවේ වත්මන් කරුණු ලබා ගනියි, එබැවින් පිළිතුර නැවුම් ව සම්භවයකට සොයාගත හැකි ලෙස පවතියි. සියුම් සැකසුම දැනුම ඇතුළට පිස දමයි, එහිදී එය නිහඬව පරණ වේ.

සියුම් සැකසුම යනු ඔබට විස්තර කළ නොහැකි හැසිරීම සඳහා ය. ලේඛන දස දහසක් පුරා ආයතනික ශෛලිය. විශේෂඥයින් යොදන නමුත් සම්පූර්ණයෙන් ලියා දැමිය නොහැකි වසම් විනිශ්චය. ඉහළ පරිමාවක දැඩි ප්‍රතිදාන ආකෘති, එහි කෙටි ප්‍රේරක සහ කුඩා සකසූ ආකෘති ඇමතුමකට වැය අඩු කරයි. එය කුසලතා සහ හඬ ස්වරය උගන්වයි, නැවුම් කරුණු නොවේ.

අවංක අනුපිළිවෙළ වන්නේ පළමුව ප්‍රේරක, දෙවනුව නැවත ලබාගැනීම, සාක්ෂි ඉල්ලා සිටින තැන සියුම් සැකසුම, සහ බොහෝ විට තුනම එකට ය. ඔබේ භාෂාව කතා කරන සකසූ ආකෘතියක්, අද දවසේ කරුණු දන්නා නැවත ලබාගැනීමකින් පෝෂණය වී, විනයගරුක ප්‍රේරක වලින් මෙහෙයවනු ලැබේ. එම අනුපිළිවෙළින් ඔබ මඟහරින සෑම තේරීමක්ම සංයුක්ත පොලී අනුපාතයක් සහිත තාක්ෂණික ණයකි.

ආර්ථිකය වෙනස් වී ඇත

වසර පහකට පෙර සියුම් සැකසුම යනු අති විශාල පිරිවැයකින් යෝධ ආකෘති නැවත පුහුණු කිරීමයි. පරාමිති-කාර්යක්ෂම (parameter efficient) ක්‍රම එම යුගය අවසන් කළේය. LoRA සහ QLoRA වැනි ශිල්පීය ක්‍රම මුල් ආකෘතිය කැටි කර කුඩා ඇඩැප්ටර ස්තර (adapter layers) පුහුණු කරයි, සාමාන්‍යයෙන් පරාමිතීන්ගේ එක් සියයතකටත් අඩුවෙන්. GPU කලසයක් අවශ්‍ය වූ සියුම් සැකසුම් දැන් තනි කාඩ් එකක හෝ මධ්‍යස්ථ වලාකුළු කාර්යයක දුවයි. පිරිවැය බාධකය කඩා වැටුණි. හැකියා බාධකය කඩා වැටුණේ නැත.

මන්ද සියුම් සැකසුමේ සැබෑ පිරිවැය කිසිවිටෙක පරිගණනය (compute) නොවීය. එය දත්ත ය. ඔබේ හොඳම වැඩ වල සැබවින්ම විශිෂ්ට උදාහරණ දහස් ගණනක් තෝරාගැනීම අමාරු කොටස ය, සහ එය හරියටම ඔබේ තරඟකරුවන්ට පිටපත් කළ නොහැකි වත්කම ය. ඔබේ දත්ත ඔබේ අගල (moat) ය. ආකෘතිය වැඩි වැඩියෙන් භාණ්ඩයක් (commodity) බවට පත්වෙමින් පවතියි.

පාලනය යනු නිහඬ අසාර්ථක ආකාරයයි

සකසූ ආකෘතියක් යනු ජීවන චක්‍රයක් සහිත නව වත්කමකි. මූලික ආකෘතිය යාවත්කාලීන වන විට එය ගැවසිය හැකිය (drift). එය සංවේදී පුහුණු දත්ත කටපාඩම් කළ හැකිය. එය ඊයේ ප්‍රතිපත්තිය නිහඬව කේතනය කළ හැකිය. සෑම සියුම් සැකසුමක්ම නිෂ්පාදන පද්ධතියක් ලෙස සලකන්න: අනුවාදය කළ, නිකුතුවට පෙර ඇගයූ, නිකුතුවෙන් පසු නිරීක්ෂණය කළ, සහ නම් කළ කණ්ඩායමකට අයත්. පුද්ගලික දත්ත පුහුණු කට්ටලයට ඇතුළු වුවහොත්, ඔබේ පෞද්ගලිකත්ව බැඳීම් ද එය සමඟ යයි. ඕස්ට්‍රේලියාවේ එයින් අදහස් වන්නේ පෞද්ගලිකත්ව පනත (Privacy Act); යුරෝපයේ, GDPR සහ EU AI පනත. නියාමකයා අසන තෙක් නොව, ඊට පෙර විගණනය සඳහා සැලසුම් කරන්න.

CEOලා කළ යුත්තේ කුමක්ද

පළමුව, ආකෘති වන්දනාවට මුදල් දීම නවත්වා දත්ත තෝරාගැනීමට මුදල් දීම අරඹන්න. ඔබේ හොඳම මානව වැඩ වලින් පිරිසිදු, උසස් තත්ත්වයේ දත්ත කට්ටලයක් ගොඩනැගීමට ඔබේ කණ්ඩායම්වලට මඟ පෙන්වන්න. එම වත්කම අගය ඉහළ යයි. ආකෘති තේරීම් අගය අඩු වේ.

දෙවනුව, ඇගයීමේ දොරටුවක් ඉල්ලා සිටින්න. ඔබේ සැබෑ කාර්යයන් පිළිබිඹු කරන මිණුම් දණ්ඩයක් සහ එහි අසාර්ථකතා වල මානව සමාලෝචනයක් නොමැතිව කිසිදු සකසූ ආකෘතියක් නිෂ්පාදනයට ළඟා නොවිය යුතුය. ඔබේ කණ්ඩායමට ඔබට ලකුණක් පෙන්විය නොහැකි නම්, ඔවුන් නිකුත් කරන්නේ බලාපොරොත්තුවකි.

තෙවනුව, සෑම AI සමාලෝචනයකදීම එක් ප්‍රශ්නයක් අසන්න: අපි මුලින් ප්‍රේරක සහ නැවත ලබාගැනීම අත්හදා බැලුවාද? මිල අධික පාලනය ඇද ගැනීමට පෙර ලාභ පාලන ප්‍රමාණවත් නොවන බව ඔප්පු කරන්න.

CTO පරීක්ෂණ ලැයිස්තුව

සෑම AI භාවිත අවස්ථාවක්ම ප්‍රේරක, නැවත ලබාගැනීම හෝ සියුම් සැකසුම සමඟ සිතියම් ගසා, ඇයි කියලා සටහන් කරන්න.

ඔබේ පළමු සියුම් සැකසුමෙන් පසුව නොව, ඊට පෙර කුඩා ඇගයීමේ උපකරණයක් (evaluation harness) පිහිටුවන්න.

පරාමිති-කාර්යක්ෂම සැකසුමට මනාපය දී, සෑම ඇඩැප්ටරයක්ම කේතයක් මෙන් අනුවාදය කරන්න.

නීතිමය පාර්ශ්වය අත්සන් කර නොමැති නම්, පුද්ගලික සහ නියාමිත දත්ත පුහුණු කට්ටල වලින් ඈත තබන්න.

නැවත පුහුණු පුරුද්දක් නොව, නැවත පුහුණු අවස්ථාපනයක් (retraining trigger) සමඟ ආකෘති ගැවසීම සඳහා හිමිකරුවෙකු පවරන්න.

ටෝකනයකට වැය නොව, කාර්යයකට වැය වාර්තා කරන්න. එය මණ්ඩලයට ක්‍රියා කළ හැකි අංකයයි.

උපායමාර්ගික කාරණය

ආකෘති ව්‍යුහගත මානව ඉදිරිපත් කිරීම හරහා වඩා හොඳ වේ. ව්‍යවසායයන්ට ද එලෙසම වඩා හොඳ AI ලැබේ. ජය ගන්නා අය විශාලතම ආකෘති ඇති සමාගම් නොවේ. ඔවුන් වඩාත් හොඳින් උගන්වන සමාගම් වේ: පිරිසිදු දත්ත, අවංක ඇගයීම, විනයගරුක පාලනය. එය පරිගණන පිරික්සුමක් නොවේ. එය ඉංජිනේරු සංස්කෘතියකි.

එම වක්‍රයේ ඔබේ සංවිධානය සිටින්නේ කොතැනද: තවම ප්‍රේරක කරමින්ද, දැනටමත් නැවත ලබා ගනිමින්ද, නැත්නම් උගන්වන්නට සූදානම්ද?

ගණිතමය වශයෙන් සිතන්න. බුද්ධිමත් ලෙස ඉංජිනේරු කරන්න. උපායමාර්ගිකව නායකත්වය දෙන්න. වගකීමෙන් ගොඩනගන්න. ගෝලීයව පරිමාණය කරන්න. කෘත්‍රිම බුද්ධිය හරහා සැබෑ ව්‍යාපාරික වටිනාකම් නිර්මාණය කරන්න.

#ArtificialIntelligence #FineTuning #EnterpriseArchitecture #LLM #RAG #AIStrategy #MachineLearning #AIGovernance #CTO #CEO #DigitalTransformation

මුලින්ම LinkedIn හි කේෂවන් තියාගරාජා විසින් පළ කරන ලදී. මුල් ලිපිය LinkedIn හි කියවන්න. [1]