CUDA and the rise of NVIDIA - editorial illustration

ජෙන්සන් හුවැං, CUDA සහ NVIDIA හි නැගී ඒම

හැඳින්වීම

ජෙන්සන් හුවැං 1993 දී NVIDIA සම-ආරම්භ කළ විට, එහි අරමුණ වූයේ 3D ග්‍රැෆික්ස් පරිගණක ක්‍රීඩා සහ බහුමාධ්‍ය වෙත ගෙන ඒමයි. අද, එම සමාගමේම ප්‍රොසෙසර කෘත්‍රිම බුද්ධි ආකෘති පුහුණු කිරීමට සහ ක්‍රියාත්මක කිරීමට යොදා ගැනේ. එම වෙනස තේරුම් ගැනීමට, හුවැංගේ ඉංජිනේරු පසුබිම සහ NVIDIA ගොඩනැගූ මෘදුකාංග වේදිකාව වන CUDA වෙතින් ආරම්භ කිරීම ප්‍රයෝජනවත් වේ. [1] [1]

1. හුවැංගේ ඉංජිනේරු වෘත්තිය

තායිවානයේ උපන් හුවැං 1984 දී ඔරිගන් රාජ්‍ය විශ්වවිද්‍යාලයෙන් විදුලි ඉංජිනේරු විද්‍යාවේ උපාධිය ලැබීය. ඔහු 1984 සිට 1985 දක්වා AMD හි ක්ෂුද්‍ර සකසනය සැලසුම්කරුවෙකු ලෙස වැඩ කළ අතර, පසුව 1985 සිට 1993 දක්වා LSI Logic හි කිහිප තනතුරු දැරීය. ඔහු Coreware හි අධ්‍යක්ෂ විය, එය පරිගණක පද්ධතියක සංරචක කිහිපයක් එකම චිපයකට ඒකාබද්ධ කිරීමේ සමාගමේ උපාය මාර්ගයට වගකිව යුතු අංශයයි. එම කාලය තුළදී ඔහු 1992 දී ස්ටැන්ෆර්ඩ් විශ්වවිද්‍යාලයෙන් විදුලි ඉංජිනේරු විද්‍යාවේ පශ්චාත් උපාධිය ද ලැබීය. [2] [1]

1993 අප්‍රේල් 5 වන දා හුවැං ක්‍රිස් මලකොව්ස්කි සහ කර්ටිස් ප්‍රීම් සමඟ NVIDIA ආරම්භ කළේය. සමාගම ආරම්භයේ සිට ඔහු සභාපති, ප්‍රධාන විධායක නිලධාරී සහ අධ්‍යක්ෂ මණ්ඩල සාමාජිකයෙකු ලෙස කටයුතු කරයි. 1999 දී NVIDIA මූලික පොදු නිකුතුව (IPO) පැවැත්වීය. එම වසරේම එය GeForce 256 හඳුන්වා දුන් අතර, එය සමාගමේ ග්‍රැෆික්ස් සැකසුම් ඒකක (GPU) ඉතිහාසයේ සන්ධිස්ථානයකි. [1] [1]

2. CUDA යනු කුමක්ද?

NVIDIA 2006 දී CUDA හඳුන්වා දුන්නේ එහි GPU මත බොහෝ ගණනය කිරීම් සමාන්තරව සිදු කිරීම සඳහා මෘදුකාංග වේදිකාවක් සහ ක්‍රමලේඛන ආකෘතියක් ලෙසය. GPU යනු ගණනය කිරීම් සිදු කරන දෘඪාංගයයි. CUDA සැපයුම් කරන්නේ සංවර්ධකයින් එම දෘඪාංගය මත තම ගණනය කිරීම් ක්‍රියාත්මක කිරීමට භාවිත කරන ක්‍රමලේඛන මෙවලම් ය. මෙය ග්‍රැෆික්ස් සඳහා නිර්මාණය කළ GPU විද්‍යාත්මක පර්යේෂණ, ඉහළ කාර්යසාධන පරිගණනය සහ කෘත්‍රිම බුද්ධි යෙදුම් වෙත විවෘත කළේය. [1] [1]

පික්සල් මිලියනයක් ඇති රූපයක් ඔබ දීප්තිමත් කරන බව සිතන්න. එක් පික්සලයක් සඳහා ගණනය කිරීම අනෙක් ඒවායින් ස්වාධීනව ඉදිරියට යා හැක. CUDA වැඩසටහනකට එම වැඩ කුඩා ගණනය කිරීම් වලට බෙදා GPU මත ක්‍රියාත්මක කළ හැක. GPU මත ක්‍රියාත්මක වන ශ්‍රිතයක් කර්නලයක් ලෙස හැඳින්වේ. නූල් (threads) බොහොමයක් එය සමාන්තරව ක්‍රියාත්මක කරන අතර, එක එකක් තමන්ට පවරා ඇති දත්ත කොටස මත වැඩ කරයි. වැඩ සමාන්තරව ක්‍රියාත්මක කළ හැකි කොටස් වලට බෙදීමේ එම මූලධර්මය විශාල මාත්‍රිකා ගුණ කිරීම් වැනි AI ගණනය කිරීම් සඳහා ද අදාළ වේ. [3] [1]

3. CUDA AI කර්මාන්තයට උදව් වූයේ කෙසේද

ස්නායු ජාලයක් පුහුණු කරන විට, ආකෘතිය මුලින්ම අනාවැකියක් කරයි. පුහුණු ක්‍රියාවලිය දෝෂය මැන ආකෘතියේ පරාමිතීන් යාවත්කාලීන කරයි. එය මෙම ක්‍රියාවලිය බොහෝ වරක් නැවත කරයි. GPU මාත්‍රිකා ගුණ කිරීම වැනි මෙහෙයුම් වේගවත් කරන අතර, පර්යේෂකයින්ට වැඩි අත්හදා බැලීම් කිරීමට කාලය ලබා දෙන අතර විශාල ආකෘති පුහුණු කිරීම ප්‍රායෝගික කරයි. පුහුණුවෙන් පසුව ද GPU භාවිත වේ, අනුමානය අතරතුර, භාෂා ආකෘතියක් වැනි ආකෘතියක් පරිශීලකයෙකු සඳහා ප්‍රතිචාරයක් ජනනය කරන විට. [4] [1]

AlexNet 2012 දී ප්‍රායෝගික නිරූපණයක් ඉදිරිපත් කළේය. NVIDIA GPU මත පුහුණු වී, එය ImageNet රූප වර්ගීකරණ තරඟාවලිය ජය ගත්තේය. එහි කාර්යසාධනයෙන් පෙනී ගියේ පරිගණක ක්‍රීඩා සඳහා භාවිත වූ ග්‍රැෆික්ස් ප්‍රොසෙසරවලට රූප හඳුනාගැනීමේ ආකෘති ද පුහුණු කළ හැකි බවයි. [1] [1]

4. CUDA NVIDIA වෙත ස්ථায়ී වාසියක් ලබා දුන්නේ කෙසේද

සංවර්ධකයින්ට නිතර අවශ්‍ය ගණනය කිරීම් සඳහා NVIDIA ප්‍රශස්තිකරණය කළ පුස්තකාල සහ මෙවලම් ගොඩනැගීය. cuBLAS මාත්‍රිකා මෙහෙයුම් වේගවත් කරයි, cuDNN සාමාන්‍ය ස්නායු ජාල මෙහෙයුම් වලට සහාය වේ, NCCL GPU අතර සන්නිවේදනය කළමනාකරණය කරයි, සහ TensorRT පුහුණු කළ ආකෘති වේගයෙන් ක්‍රියාත්මක වීමට උදව් කරයි. PyTorch වැනි රාමු CUDA වෙත සහාය දෙන බැවින්, සෑම GPU මෙහෙයුමක්ම මුල සිට ලියන්නේ නැතුව සංවර්ධකයින්ට මෙම හැකියාවන් භාවිත කළ හැක. [5] [1]

නිගමනය

එම මෘදුකාංග පරිසර පද්ධතිය NVIDIA හි දෘඪාංග ව්‍යාපාරය ශක්තිමත් කළේය. කණ්ඩායමකට හුරුපුරුදු මෘදුකාංග සහ මෙවලම් භාවිත කරමින් කුඩා අත්හදා බැලීමකින් GPU බොහොමයක් මත ක්‍රියාත්මක වන පද්ධතියකට යා හැක. දෘඪාංග මාරු කිරීම සඳහා කණ්ඩායමට එහි CUDA යැපීම් සමාලෝචනය කිරීමට, මෘදුකාංගයේ කොටස් අනුවර්තනය කිරීමට සහ කාර්යසාධනය නැවත පරීක්ෂා කිරීමට සිදු විය හැක. වසර ගණනාවක් දෘඪාංග සමඟ මෘදුකාංගයේ ද ආයෝජනය කිරීමෙන්, AI පරිගණනය සඳහා ඉල්ලුම වර්ධනය වූ විට, ඒවා භාවිත කරන ආකාරය දැනටමත් දැන සිටි සංවර්ධකයින් සඳහා NVIDIA සතුව මෙවලම් සූදානම් විය. [1] [1]

ආශ්‍රේයයන්

  1. https://www.nvidia.com/en-us/about-nvidia/corporate-timeline/
  2. https://s201.q4cdn.com/141608511/files/doc_financials/annual/2013/NVDA_2013AR_Proxy_10K-FINAL.pdf
  3. https://docs.nvidia.com/cuda/cuda-programming-guide/02-basics/writing-cuda-kernels.html
  4. https://docs.nvidia.com/cuda/cuda-programming-guide/index.html
  5. https://developer.nvidia.com/machine-learning

ජෙන්සන් හුවැං, CUDA සහ NVIDIA හි නැගී ඒම පිළිබඳ ප්‍රශ්න

CUDA යනු කුමක්ද සහ NVIDIA එය නිර්මාණය කළේ ඇයි?

CUDA යනු NVIDIA 2006 දී එහි GPU මත බොහෝ ගණනය කිරීම් සමාන්තරව ක්‍රියාත්මක කිරීම සඳහා හඳුන්වා දුන් මෘදුකාංග වේදිකාවක් සහ ක්‍රමලේඛන ආකෘතියකි. GPU යනු දෘඪාංගයයි; CUDA ක්‍රමලේඛන මෙවලම් සපයන අතර, ඒවා ග්‍රැෆික්ස් දෘඪාංගය විද්‍යාත්මක පර්යේෂණ, ඉහළ කාර්යසාධන පරිගණනය සහ AI වෙත විවෘත කළේය.

CUDA AI කර්මාන්තයට උදව් වූයේ කෙසේද?

ස්නායු ජාලයක් පුහුණු කිරීම යනු අනාවැකිය, දෝෂ මැනීම සහ පරාමිති යාවත්කාලීන කිරීම් බොහෝ වරක් නැවත කිරීමයි. GPU මාත්‍රිකා ගුණ කිරීම වැනි මෙහෙයුම් වේගවත් කර, පර්යේෂකයින්ට වැඩි අත්හදා බැලීම් සහ විශාල ආකෘති පුහුණු කිරීමට හැකි වේ. NVIDIA GPU මත පුහුණු කළ AlexNet, 2012 ImageNet තරඟාවලිය ජය ගැනීමෙන් මෙය ඔප්පු කළේය.

ඇයි CUDA NVIDIA වෙත ස්ථායී වාසියක් ලබා දෙන්නේ?

සංවර්ධකයින්ට නිතර අවශ්‍ය ප්‍රශස්තිකරණය කළ පුස්තකාල NVIDIA ගොඩනැගීය – මාත්‍රිකා මෙහෙයුම් සඳහා cuBLAS, ස්නායු ජාල මෙහෙයුම් සඳහා cuDNN, බහු GPU සන්නිවේදනය සඳහා NCCL සහ වේගවත් අනුමානය සඳහා TensorRT – සහ PyTorch වැනි රාමු CUDA වෙත සහාය දෙන බැවින්, කණ්ඩායම් වලට තම මෘදුකාංගය නැවත ලියන්නේ නැතුව කුඩා අත්හදා බැලීමකින් GPU බොහොමයකට විහිද යා හැක.

Powered By K7