جینسن ہوانگ، CUDA تے NVIDIA دا عروج
تمہید
جدوں جینسن ہوانگ نے 1993 وچ NVIDIA دی شریک داری نال بنیاد رکھی، اس دا مقصد تھری ڈی گرافکس نوں کمپیوٹر گیماں تے ملٹی میڈیا تک لے کے آنڈا سی۔ اج اسے کمپنی دے پروسیسرز نوں مصنوعی ذہانت دے ماڈلز نوں تربیت دین تے چلان لئی ورتیا جاندا اے۔ اس تبدیلی نوں سمجھن لئی ہوانگ دے انجینئرنگ پس منظر تے NVIDIA دے بنائے سافٹ ویئر پلیٹ فارم CUDA توں شروع کرنا چنگا اے۔ [1] [1]
1۔ ہوانگ دا انجینئرنگ کیریئر
تائیوان وچ جمے ہوانگ نے 1984 وچ اوریگون سٹیٹ یونیورسٹی توں الیکٹریکل انجینئرنگ وچ بیچلر دی ڈگری لئی۔ اوہ 1984 توں 1985 تک AMD وچ مائیکرو پروسیسر ڈزائنر وجوں کم کردا رہیا، پھر 1985 توں 1993 تک LSI Logic وچ کئی عہدیاں تے رہیا۔ اوہ Coreware دا ڈائریکٹر بنیا، اوہ شعبہ جیہڑا کمپیوٹر سسٹم دے کئی حصیاں نوں اکو چپ تے جما کرن دی کمپنی دی حکمت عملی دا ذمہ دار سی۔ اسے عرصے وچ اس نے 1992 وچ سٹینفورڈ یونیورسٹی توں الیکٹریکل انجینئرنگ وچ ماسٹر دی ڈگری وی لئی۔ [2] [1]
5 اپریل 1993 نوں ہوانگ نے کرس مالاکوفسکی تے کرٹس پریم دے نال رل کے NVIDIA دی بنیاد رکھی۔ اوہ کمپنی دے شروع توں صدر، چیف ایگزیکٹو آفیسر تے بورڈ ممبر وجوں کم کر رہیا اے۔ 1999 وچ NVIDIA نے ابتدائی عوامی پیشکش (IPO) کیتی۔ اوسے سال اس نے GeForce 256 پیش کیتا، جیہڑا کمپنی دے گرافکس پروسیسنگ یونٹاں (GPU) دے تاریخ وچ اک سنگ میل سی۔ [1] [1]
2۔ CUDA کیہ اے؟
NVIDIA نے 2006 وچ CUDA نوں اک سافٹ ویئر پلیٹ فارم تے پروگرامنگ ماڈل وجوں پیش کیتا تاکہ اپنے GPU تے کئی حسابات متوازی طور تے کیتے جا سکن۔ GPU اوہ ہارڈویئر اے جیہڑا حسابات کردا اے۔ CUDA اوہ پروگرامنگ ٹولز دیندا اے جیہڑے ڈویلپرز اس ہارڈویئر تے اپنے حسابات چلان لئی ورتدے نیں۔ اس نال گرافکس لئی بنائے GPU سائنسی تحقیق، ہائی پرفارمنس کمپیوٹنگ تے مصنوعی ذہانت دے استعمال لئی کھل گئے۔ [1] [1]
سوچو کہ تسیں دس لکھ پکسلز والی تصویر نوں چمکا رہے او۔ اک پکسل دا حساب ہوراں توں الگ الگ اگے ودھ سکدا اے۔ اک CUDA پروگرام اس کم نوں نکیاں حسابات وچ ونڈ کے GPU تے چلا سکدا اے۔ GPU تے چلن والے فنکشن نوں کرنل آکھیا جاندا اے۔ کئی تھریڈز اس نوں متوازی طور تے چلاندے نیں، ہر اک ڈیٹا دے اپنے مقرر کیتے حصے تے کم کردا اے۔ کم نوں ایداں دے حصیاں وچ ونڈن دا ایہو اصول، جیہڑے متوازی چل سکدے نیں، وڈے میٹرکس ضرب ورگے AI حسابات تے وی لاگو ہندا اے۔ [3] [1]
3۔ CUDA نے AI صنعت دی کس طرح مدد کیتی
نیورل نیٹ ورک نوں تربیت دیندیاں ماڈل پہلاں اک پیشگوئی کردا اے۔ تربیتی عمل غلطی نوں ناپدا اے تے ماڈل دے پیرامیٹرز نوں اپ ڈیٹ کردا اے۔ ایہ عمل کئی واری دہرایا جاندا اے۔ GPU میٹرکس ضرب ورگے کماں نوں تیز کردے نیں، جیس نال محققین نوں ہور تجربے کرن دا ویلھا ملدا اے تے وڈے ماڈلز دی تربیت عملی بن جاندی اے۔ GPU تربیت توں بعد وی ورتیے جاندے نیں، انفرنس دے ویلے، جدوں کوئی ماڈل جیویں لینگویج ماڈل صارف لئی جواب بناندا اے۔ [4] [1]
AlexNet نے 2012 وچ اس دا عملی مظاہرہ کیتا۔ NVIDIA GPU تے تربیت پا کے اس نے ImageNet امیج کلاسیفیکیشن مقابلہ جتیا۔ اس دی کارکردگی نے دسیا کہ کمپیوٹر گیماں لئی ورتیے جان والے گرافکس پروسیسر تصویراں پہچانن والے ماڈلز دی تربیت وی کر سکدے نیں۔ [1] [1]
4۔ CUDA نے NVIDIA نوں پائیدار برتری کس طرح دتی
NVIDIA نے اوہناں حسابات لئی بہتر بنائیاں لائبریریاں تے ٹولز بنائے جیہناں دی ڈویلپرز نوں اکثر لوڑ ہوندی اے۔ cuBLAS میٹرکس دے کماں نوں تیز کردی اے، cuDNN عام نیورل نیٹ ورک دے کماں دی مدد کردی اے، NCCL کئی GPU دے درمیان رابطہ سمبھالدی اے، تے TensorRT تربیت یافتہ ماڈلز نوں تیز چلن وچ مدد دیندی اے۔ PyTorch ورگے فریم ورک CUDA دی حمایت کردے نیں، اس لئی ڈویلپرز ہر GPU آپریشن مڈھ توں لکھے بغیر ایہناں صلاحیتاں نوں ورت سکدے نیں۔ [5] [1]
خلاصہ
اس سافٹ ویئر ماحولیاتی نظام نے NVIDIA دے ہارڈویئر کاروبار نوں مضبوط کیتا۔ اک ٹیم جانے پہچانے سافٹ ویئر تے ٹولز ورددی ہوئی اک نکے تجربے توں کئی GPU تے چلن والے سسٹم تک جا سکدی اے۔ ہارڈویئر بدلن تے ٹیم نوں اپنی CUDA انحصارات دا جائزہ لینا، اپنے سافٹ ویئر دے کجھ حصیاں نوں ڈھالنا تے کارکردگی مڑ جانچنا پے سکدا اے۔ سالاں تک ہارڈویئر دے نال نال سافٹ ویئر وچ سرمایہ کاری کر کے، AI کمپیوٹنگ دی مانگ ودھن تے NVIDIA کول اوہناں ڈویلپرز لئی ٹولز تیار سن جیہڑے پہلاں توں ای اوہناں نوں ورتنا جاندے سن۔ [1] [1]
حوالے
- https://www.nvidia.com/en-us/about-nvidia/corporate-timeline/
- https://s201.q4cdn.com/141608511/files/doc_financials/annual/2013/NVDA_2013AR_Proxy_10K-FINAL.pdf
- https://docs.nvidia.com/cuda/cuda-programming-guide/02-basics/writing-cuda-kernels.html
- https://docs.nvidia.com/cuda/cuda-programming-guide/index.html
- https://developer.nvidia.com/machine-learning
جینسن ہوانگ، CUDA تے NVIDIA دے عروج بارے سوال
CUDA کیہ اے تے NVIDIA نے اس نوں کیوں بنایا؟
CUDA اک سافٹ ویئر پلیٹ فارم تے پروگرامنگ ماڈل اے جیہڑا NVIDIA نے 2006 وچ اپنے GPU تے کئی حسابات متوازی طور تے چلان لئی پیش کیتا۔ GPU ہارڈویئر اے؛ CUDA پروگرامنگ ٹولز دیندا اے، جیہناں نے گرافکس ہارڈویئر نوں سائنسی تحقیق، ہائی پرفارمنس کمپیوٹنگ تے AI لئی کھول دتا۔
CUDA نے AI صنعت دی کس طرح مدد کیتی؟
نیورل نیٹ ورک نوں تربیت دین دا مطلب اے پیشگوئی، غلطی دی پیمائش تے پیرامیٹر اپ ڈیٹس نوں کئی واری دہراونا۔ GPU میٹرکس ضرب ورگے کماں نوں تیز کردے نیں، جیس نال محققین ہور تجربے کر سکدے نیں تے وڈے ماڈلز دی تربیت کر سکدے نیں۔ NVIDIA GPU تے تربیت یافتہ AlexNet نے 2012 دا ImageNet مقابلہ جت کے ایہ ثابت کیتا۔
CUDA NVIDIA نوں پائیدار برتری کیوں دیندا اے؟
NVIDIA نے اوہ بہتر بنائیاں لائبریریاں بنائیاں جیہناں دی ڈویلپرز نوں اکثر لوڑ ہوندی اے – میٹرکس دے کماں لئی cuBLAS، نیورل نیٹ ورک دے کماں لئی cuDNN، ملٹی GPU رابطے لئی NCCL تے تیز انفرنس لئی TensorRT – تے PyTorch ورگے فریم ورک CUDA دی حمایت کردے نیں، اس لئی ٹیماں اپنا سافٹ ویئر مڑ لکھے بغیر نکے تجربے توں کئی GPU تک پھیل سکدیاں نیں۔
Powered By K7