පෙර පුහුණුවේ සිට AI නියෝජිත කණ්ඩායම් දක්වා: Jensen Huangගේ පරිමාණය වැඩි කිරීමේ චක්‍ර හතර පරිගණනය පිළිබඳ ප්‍රශ්නය වෙනස් කරන්නේ ඇයි
හැඳින්වීම: කෘත්‍රිම බුද්ධිය වඩා දක්ෂ වනවිට වර්ධනය වන්නේ කුමක්ද?
කෘත්‍රිම බුද්ධිය [AI] ගැන සාකච්ඡාව බොහෝවිට ආරම්භ වන්නේ ආකෘතියක [Model] ප්‍රමාණයෙනි. එහි පරාමිති [Parameters] කීයක් තිබේද? එය පුහුණු කිරීමට කොපමණ තොරතුරු භාවිත කළේද? එයට පසුබිම් වූ පරිගණන පද්ධතිය [Computing System] කොතරම් විශාල වූයේද?
ඒ ප්‍රශ්න විස්තර කරන්නේ පද්ධතියේ කොටසක් පමණි. Jensen Huangගේ පුළුල් තර්කය වන්නේ AI අදියර කිහිපයකදී වර්ධනය විය හැකි බවයි: එහි පදනම් ඉගෙනගන්නා විට, හැසිරීම වැඩිදියුණු කරන විට, නිශ්චිත ගැටලුවක් විසඳන විට හා නියෝජිතයන් [Agents] අතර වැඩ බෙදාහරින විටය. ඒ අදියර අතර සම්බන්ධය තේරුම්ගැනීම පරිගණන ඉල්ලුම [Computing Demand] ගැන අප සිතන ආකාරය වෙනස් කරයි.
වැදගත් වෙනස වන්නේ ආකෘතියක් ගොඩනැගීම හා බුද්ධිමත් පද්ධතියක් භාවිත කිරීම අතර වෙනසයි. ඒවා සම්බන්ධ ක්‍රියාකාරකම් වුවත් එකම කාර්ය භාරය [Workload] නොවේ.
1. පෙර පුහුණුව පදනමක් ගොඩනගයි, සම්පූර්ණ සේවකයකු නොවේ
පෙර පුහුණුව [Pre-training] විශාල තොරතුරු ප්‍රමාණයකට ආකෘතියක් නිරාවරණය කිරීමෙන් එහි පුළුල් හැකියාවන් වර්ධනය කරයි. පසුකාලීන කාර්යවලට සහාය විය හැකි රටා හා සම්බන්ධතා ආකෘතිය ඉගෙනගනී.
වැඩි දත්ත හා වැඩි පරිගණන සම්පත් [Computing] ඒ පදනම් වැඩිදියුණු කළ හැකිය. එහෙත් විශාල පුහුණු ක්‍රියාවලියක් [Training Run] ප්‍රයෝජනවත් බුද්ධිය සඳහා සම්පූර්ණ පැහැදිලි කිරීමක් නොවේ. ආකෘතියකට පුළුල් සාමාන්‍ය දැනුම තිබුණත් වඩා හොඳ විනිශ්චය, කාර්යයට විශේෂිත අත්දැකීම් හෝ පුහුණුවේදී හමු නොවූ තොරතුරු වෙත ප්‍රවේශය අවශ්‍ය විය හැකිය.
මිනිසුන් ලියූ අන්තර්ගත සැපයුම අවසානයේ සීමාවක් වේද යන ප්‍රශ්නයෙන් නතර විය නොහැක්කේ ඒ නිසාය. ඊළඟ අදියරවලට පද්ධතිය ඉගෙනගන්නා ආකාරයත් එය කරන වැඩත් වෙනස් කළ හැකිය.
2. පසු පුහුණුව පදනම භාවිත කරන ආකාරය වෙනස් කරයි
පසු පුහුණුව [Post-training] ආරම්භක ඉගෙනීමෙන් පසු ආකෘතියක් වැඩිදියුණු කරයි. අවධානය හැසිරීම, ප්‍රායෝගික කාර්ය හා මිනිසුන්ට අවශ්‍ය ප්‍රතිචාර වර්ග වෙත මාරුවේ.
කෘත්‍රිම දත්ත [Synthetic Data] මේ ක්‍රියාවලියට දායක විය හැකිය. පද්ධතියකට උදාහරණ ජනනය කර, වෙනස් ආකාර ගවේෂණය කර, වැඩිදුර ඉගෙනීමට ප්‍රයෝජනවත් වන අන්තර්ගත නිපදවිය හැකිය. වටිනාකම පවතින්නේ යන්ත්‍රයක් එය නිපදවූ බව තුළ නොව එයින් ලැබෙන අත්දැකීමේ ගුණාත්මකභාවය තුළය.
වෙනස වැදගත්ය. වැඩි අන්තර්ගතයක් ජනනය කිරීමෙන් එය නිවැරදි බව ස්වයංක්‍රීයව තහවුරු නොවේ. ප්‍රයෝජනවත් චක්‍රය තබාගැනීමට වටින අත්දැකීම් තෝරා පසුකාලීන හැසිරීම වැඩිදියුණු කිරීමට ඒවා භාවිත කරයි. තේරීමකින් තොර ප්‍රමාණය දුර්වලතා නිවැරදි කරනවා වෙනුවට ඒවා නැවත ඇති කළ හැකිය.
3. පරීක්ෂණ කාලීන පරිගණනය නිගමන ක්‍රියාත්මක කිරීම වඩා අසීරු ගැටලුවක් කරයි
නිගමන ක්‍රියාත්මක කිරීම [Inference] සමහරවිට සරල අවසාන පියවරක් ලෙස සිතනු ලැබේ: ආකෘතිය දැනටමත් ඉගෙනගෙන ඇති නිසා පිළිතුරක් සෑදීමට තවත් අවශ්‍ය විය යුත්තේ සුළු වැඩකි.
පරීක්ෂණ කාලීන පරිමාණ වැඩි කිරීම [Test-time Scaling] ඒ දැක්ම ප්‍රශ්න කරයි. අසීරු කාර්යයක් සඳහා පද්ධතියට ගැටලුව කුඩා කොටස්වලට බෙදා, විය හැකි ප්‍රවේශ සසඳා, තොරතුරු සොයා, අසාර්ථක උත්සාහයක් නැවත සලකා බැලීමට සිදුවිය හැකිය.
එවිට පරිගණන අවශ්‍යතාව [Computing Requirement] රඳාපවතින්නේ ප්‍රයෝජනවත් පිළිතුරක් දීමට පෙර පද්ධතිය කළ යුතු දේ මතය. කෙටි ප්‍රතිචාරයකට පෙරත් සැලකිය යුතු වැඩ තිබිය හැකිය. අනෙක් අතට දිගු ප්‍රතිචාරයක් සැලකිලිමත් තර්කනයට සාක්ෂියක් නොවේ.
ව්‍යාපාරයකට මෙය ප්‍රතිචාර ප්‍රමාදය [Latency], පිළිතුරේ ගුණාත්මකභාවය හා මෙහෙයුම් පිරිවැය සම්බන්ධ තේරීම් කරයි. අඩුම පිරිවැය ඇති ක්ෂණික ප්‍රතිචාරය සැමවිටම අඩුම පිරිවැයෙන් සාර්ථකව නිම කළ කාර්යය නොවේ.
4. නියෝජිත පරිමාණ වැඩි කිරීම හැකියාවට සම්බන්ධීකරණය එක් කරයි
නියෝජිත පරිමාණ වැඩි කිරීම [Agentic Scaling] තවත් මගක් හඳුන්වා දෙයි: එක් ආකෘතියකට සියල්ල අනුපිළිවෙළින් කිරීමට කියනවා වෙනුවට පද්ධතියකට නියෝජිතයන් [Agents] කිහිපදෙනකු අතර වැඩ බෙදාහැරිය හැකිය.
එක් නියෝජිතයකු වාර්තා පරීක්ෂා කරන අතර තවෙකකු විකල්ප සැසඳිය හැකිය. ඔවුන්ගේ සොයාගැනීම් පොදු ප්‍රතිඵලයකට සහාය විය හැකිය. මෙය එක් ආකෘතියක් විශාල කිරීම හෝ එයට වැඩි කාලයක් දීමෙන් වෙනස් වර්ධන ආකාරයකි.
සංවිධානයක් සමග සැසඳීම ප්‍රයෝජනවත්ය. වැඩි සේවකයන්ට ධාරිතාව වැඩි කළ හැකි නමුත් වගකීම්, සන්නිවේදනය හා අවසාන තීරණය පැහැදිලි විට පමණි. වැඩි නියෝජිතයන් එලෙසම සම්බන්ධීකරණය, ප්‍රතිඵල සසඳා ගැළපීම හා පරීක්ෂා කිරීමේ වැඩ ඇති කරයි. ඔවුන්ගේ සංඛ්‍යාව යෙදවුමක් මිස සාර්ථකත්ව මිනුමක් නොවේ.
5. අදියර හතර ඉගෙනුම් චක්‍රයක් සාදයි
වැදගත්ම සම්බන්ධය වන්නේ පද්ධතිය වැඩ කිරීමෙන් පසු සිදුවන දෙයයි. නියෝජිතයන්ගේ ප්‍රයෝජනවත් අත්දැකීම් පසුකාලීන පුහුණුවට අන්තර්ගත විය හැකිය. වැඩිදියුණු කළ ආකෘති එවිට වඩා හොඳ තර්කනයට හා වඩා ඵලදායී නියෝජිතයන්ට සහාය විය හැකිය.
ඒ නිසා පෙර පුහුණුව [Pre-training], පසු පුහුණුව [Post-training], පරීක්ෂණ කාලීන වැඩ [Test-time Work] හා නියෝජිත ක්‍රියාකාරකම් [Agentic Activity] වෙන්වූ පෙට්ටි ලෙස පැවතිය යුතු නැත. ඒවා එකිනෙක පෝෂණය කළ හැකිය.
මෙය යටිතල පහසුකම් [Infrastructure] ප්‍රශ්නයද වෙනස් කරයි. ආකෘතියක් පුහුණු කිරීම, ගොනු අතර සෙවීම හා සේවකයන් කිහිපදෙනකු සම්බන්ධීකරණය කිරීම සකසන [Processors], මතකය [Memory], ගබඩා [Storage] හා ජාලකරණය [Networking] වෙත වෙනස් ඉල්ලීම් කරයි. එක් පටු මිණුම් පරීක්ෂණයක් [Benchmark] වටා සැලසුම් කළ පද්ධතියක් සම්පූර්ණ කාර්ය ප්‍රවාහයට [Workflow] නොගැළපිය හැකිය.
නිගමනය: ආකෘතිය පමණක් නොව වැඩ මනින්න
Huangගේ කොටස් හතරක රාමුව, AI ප්‍රගතිය යනු විශාල දත්ත කට්ටලයක් [Dataset] මත එක්වරක් පුහුණු කළ විශාල ආකෘතියක් පමණි යන අදහසෙන් ඔබ්බට සාකච්ඡාව ගෙනයයි.
ප්‍රායෝගික පාඩම වන්නේ අතිරේක පරිගණන සම්පත් [Computing] වඩා හොඳ ප්‍රතිඵලයක් ලබාදෙන්නේ කොතැනදැයි හඳුනාගැනීමයි. කාර්යයට වඩා හොඳ පදනම්, වඩා ප්‍රයෝජනවත් වැඩිදියුණු කිරීමක්, දිගු ගැටලු විසඳීමක් හෝ සම්බන්ධීකෘත වැඩ බෙදීමක් අවශ්‍යද?
ව්‍යවසායක් පිළිතුර ඇගයිය යුත්තේ නිම කළ කාර්ය, ගුණාත්මකභාවය, කාලය හා මුළු පිරිවැය හරහාය. පරාමිති [Parameters] හෝ නියෝජිතයන් [Agents] පමණක් ගණන් කිරීමට වඩා එය ප්‍රයෝජනවත් ආරම්භයකි. අනාගත පරිගණන ප්‍රශ්නය සමස්ත ඉගෙනුම් හා වැඩ පද්ධතිය පිළිබඳවය.
Powered By K7