जेन्सन हुआंग, CUDA आणि NVIDIA चा उदय
प्रस्तावना
१९९३ मध्ये जेव्हा जेन्सन हुआंग यांनी NVIDIA ची सह-स्थापना केली, तेव्हा कंपनीचे ध्येय 3D ग्राफिक्स संगणकीय खेळ आणि मल्टिमीडियामध्ये आणणे हे होते. आज, त्याच कंपनीचे प्रोसेसर कृत्रिम बुद्धिमत्ता मॉडेल प्रशिक्षित करण्यासाठी आणि चालवण्यासाठी वापरले जातात. हा बदल समजून घेण्यासाठी हुआंग यांची अभियांत्रिकी पार्श्वभूमी आणि NVIDIA ने विकसित केलेले सॉफ्टवेअर प्लॅटफॉर्म CUDA यांपासून सुरुवात करणे उपयुक्त ठरेल. [१] [1]
१. हुआंग यांची अभियांत्रिकी कारकीर्द
तैवानमध्ये जन्मलेल्या हुआंग यांनी १९८४ मध्ये ओरेगॉन स्टेट युनिव्हर्सिटीमधून इलेक्ट्रिकल इंजिनिअरिंगमध्ये पदवी मिळवली. त्यांनी १९८४ ते १९८५ पर्यंत AMD मध्ये मायक्रोप्रोसेसर डिझायनर म्हणून काम केले, नंतर १९८५ ते १९९३ पर्यंत LSI Logic मध्ये अनेक पदे सांभाळली. ते Coreware चे संचालक झाले, हा विभाग संगणक प्रणालीतील अनेक घटक एकाच चिपवर एकत्र करण्याच्या कंपनीच्या धोरणासाठी जबाबदार होता. या काळात त्यांनी १९९२ मध्ये स्टॅनफर्ड युनिव्हर्सिटीमधून इलेक्ट्रिकल इंजिनिअरिंगमध्ये पदव्युत्तर पदवीही मिळवली. [२] [1]
५ एप्रिल १९९३ रोजी हुआंग यांनी क्रिस मालाकोव्स्की आणि कर्टिस प्रीम यांच्यासोबत NVIDIA ची स्थापना केली. कंपनी सुरू झाल्यापासून ते अध्यक्ष, मुख्य कार्यकारी अधिकारी आणि मंडळ सदस्य म्हणून कार्यरत आहेत. १९९९ मध्ये NVIDIA ने प्राथमिक सार्वजनिक भांडवल (IPO) केले. त्याच वर्षी कंपनीने GeForce 256 सादर केला, जो कंपनीच्या ग्राफिक्स प्रोसेसिंग युनिट (GPU) इतिहासातील एक टप्पा ठरला. [१] [1]
२. CUDA म्हणजे काय?
NVIDIA ने २००६ मध्ये CUDA एक सॉफ्टवेअर प्लॅटफॉर्म आणि प्रोग्रॅमिंग मॉडेल म्हणून सादर केले, जे त्यांच्या GPU वर अनेक गणना समांतरपणे करण्यासाठी आहे. GPU हे गणना करणारे हार्डवेअर आहे. CUDA अशी प्रोग्रॅमिंग साधने देते जी डेव्हलपर त्या हार्डवेअरवर त्यांच्या गणना चालवण्यासाठी वापरतात. यामुळे ग्राफिक्ससाठी बनवलेले GPU वैज्ञानिक संशोधन, हाय-परफॉर्मन्स कॉम्प्युटिंग आणि कृत्रिम बुद्धिमत्ता यांसारख्या उपयोगांसाठी खुले झाले. [१] [1]
दहा लक्ष पिक्सेल असलेली प्रतिमा तुम्ही उजळ करत असल्याचे कल्पना करा. एका पिक्सेलची गणना इतरांपासून स्वतंत्रपणे पुढे जाऊ शकते. एक CUDA प्रोग्रॅम ते काम छोट्या गणनांमध्ये विभागून GPU वर चालवू शकतो. GPU वर चालणाऱ्या फंक्शनला कर्नल म्हणतात. अनेक थ्रेड ते समांतरपणे चालवतात, प्रत्येक आपल्या वाट्याच्या डेटावर काम करतो. काम समांतर चालू शकेल अशा भागांत विभागण्याचे हेच तत्त्व मोठ्या मॅट्रिक्स गुणाकारांसारख्या AI गणनांनाही लागू होते. [३] [1]
३. CUDA ने AI उद्योगाला कशी मदत केली
न्यूरल नेटवर्क प्रशिक्षित करताना मॉडेल प्रथम अंदाज बांधते. प्रशिक्षण प्रक्रिया त्रुटी मोजते आणि मॉडेलचे पॅरामीटर्स अद्ययावत करते. ही प्रक्रिया अनेक वेळा पुन्हा होते. GPU मॅट्रिक्स गुणाकारासारख्या क्रिया वेगवान करतात, त्यामुळे संशोधकांना अधिक प्रयोग करण्याची वेळ मिळते आणि मोठी मॉडेल प्रशिक्षित करणे व्यावहारिक बनते. प्रशिक्षणानंतरही GPU वापरले जातात, इन्फरन्सदरम्यान, जेव्हा भाषा मॉडेलसारखे मॉडेल वापरकर्त्यासाठी उत्तर तयार करते. [४] [1]
AlexNet ने २०१२ मध्ये याचे व्यावहारिक प्रात्यक्षिक दिले. NVIDIA GPU वर प्रशिक्षित होऊन त्याने ImageNet प्रतिमा वर्गीकरण स्पर्धा जिंकली. त्याच्या कार्यक्षमतेने दाखवले की संगणकीय खेळांसाठी वापरले जाणारे ग्राफिक्स प्रोसेसर प्रतिमा ओळखणारी मॉडेलही प्रशिक्षित करू शकतात. [१] [1]
४. CUDA ने NVIDIA ला टिकाऊ फायदा कसा दिला
NVIDIA ने डेव्हलपरना वारंवार लागणाऱ्या गणनांसाठी अनुकूलित लायब्ररी आणि साधने विकसित केली. cuBLAS मॅट्रिक्स क्रिया वेगवान करते, cuDNN सामान्य न्यूरल नेटवर्क क्रियांना पाठबळ देते, NCCL अनेक GPU दरम्यान संवाद सांभाळते आणि TensorRT प्रशिक्षित मॉडेल्स अधिक वेगाने चालण्यास मदत करते. PyTorch सारखे फ्रेमवर्क CUDA ला पाठबळ देतात, त्यामुळे डेव्हलपर प्रत्येक GPU ऑपरेशन शून्यापासून न लिहिता या क्षमतांचा वापर करू शकतात. [५] [1]
निष्कर्ष
त्या सॉफ्टवेअर इकोसिस्टिमने NVIDIA च्या हार्डवेअर व्यवसायाला बल्कट केले. एक संघ परिचित सॉफ्टवेअर आणि साधने वापरत राहून छोट्या प्रयोगावरून अनेक GPU वर चालणाऱ्या प्रणालीकडे जाऊ शकतो. हार्डवेअर बदलल्यास संघाला CUDA अवलंबित्व तपासावे लागू शकते, सॉफ्टवेअरचे काही भाग रूपांतरित करावे लागू शकतात आणि कामगिरी पुन्हा तपासावी लागू शकते. वर्षानुवर्षे हार्डवेअरसोबत सॉफ्टवेअरमध्येही गुंतवणूक केल्याने, AI कॉम्प्युटिंगची मागणी वाढल्यावर NVIDIA कडे ती आधीच वापरण्यास शिकलेल्या डेव्हलपरसाठी तयार साधने होती. [१] [1]
संदर्भ
- https://www.nvidia.com/en-us/about-nvidia/corporate-timeline/
- https://s201.q4cdn.com/141608511/files/doc_financials/annual/2013/NVDA_2013AR_Proxy_10K-FINAL.pdf
- https://docs.nvidia.com/cuda/cuda-programming-guide/02-basics/writing-cuda-kernels.html
- https://docs.nvidia.com/cuda/cuda-programming-guide/index.html
- https://developer.nvidia.com/machine-learning
जेन्सन हुआंग, CUDA आणि NVIDIA च्या उदयाबद्दल प्रश्न
CUDA म्हणजे काय आणि NVIDIA ने ते का विकसित केले?
CUDA हे NVIDIA ने २००६ मध्ये त्यांच्या GPU वर अनेक गणना समांतरपणे चालवण्यासाठी सादर केलेले सॉफ्टवेअर प्लॅटफॉर्म आणि प्रोग्रॅमिंग मॉडेल आहे. GPU हार्डवेअर आहे; CUDA प्रोग्रॅमिंग साधने देते, ज्यामुळे ग्राफिक्स हार्डवेअर वैज्ञानिक संशोधन, हाय-परफॉर्मन्स कॉम्प्युटिंग आणि AI साठी खुले झाले.
CUDA ने AI उद्योगाला कशी मदत केली?
न्यूरल नेटवर्क प्रशिक्षित करणे म्हणजे अंदाज, त्रुटी मोजमाप आणि पॅरामीटर अद्यतने अनेक वेळा करणे. GPU मॅट्रिक्स गुणाकारासारख्या क्रिया वेगवान करतात, त्यामुळे संशोधक अधिक प्रयोग करू शकतात आणि मोठी मॉडेल प्रशिक्षित करू शकतात. NVIDIA GPU वर प्रशिक्षित AlexNet ने २०१२ ची ImageNet स्पर्धा जिंकून हे सिद्ध केले.
CUDA NVIDIA ला टिकाऊ फायदा का देते?
NVIDIA ने डेव्हलपरना वारंवार हव्या असलेल्या अनुकूलित लायब्ररी विकसित केल्या – मॅट्रिक्स क्रियांसाठी cuBLAS, न्यूरल नेटवर्क क्रियांसाठी cuDNN, मल्टी-GPU संवादासाठी NCCL आणि जलद इन्फरन्ससाठी TensorRT – आणि PyTorch सारखे फ्रेमवर्क CUDA ला पाठबळ देतात, त्यामुळे संघ सॉफ्टवेअर पुन्हा न लिहिता छोट्या प्रयोगावरून अनेक GPU पर्यंत विस्तार करू शकतात.
Powered By K7