NPU क्या है और यह कैसे काम करता है?

आज के इस आर्टिकल में हम जानेंगे की NPU क्या है (What is NPU in Hindi)?. NPU की जरूरत क्या है और इसके लाभ और मोबाइल फोन में एनपीयू का उपयोग क्या है। NPU Processing ML/AI कार्यभार के लिए नए फैंसी शब्द है। 

बहुत विशिष्ट, सामान्य प्रयोजन कार्यों के लिए उपयोगी नहीं है। सामान्य कार्य निश्चित रूप से कर सकते हैं, लेकिन ओवरकिल हो सकते हैं, संकलक समर्थन की भी आवश्यकता होती है।

Design philosophy वे किस कार्य पर लक्षित हैं, इसके आधार पर परिवर्तन होता है। AI/ML वर्कलोड को संभालने के लिए Neural Processing Unit में Faster memory /more memory/अधिक कम्प्यूट तत्वों का उपयोग किया जाता है। यदि आप समझते हैं कि CPU, GPU कैसे काम करता है, तो NPU बहुत अलग नहीं है जितना कि मैं जानता हूं। 

इसे विशेष रूप से ML / AI वर्कलोड के लिए डिज़ाइन किया गया है और यह इसमें बहुत अच्छा होगा जो अन्य (CPU, GPU, DSP) के मामले में नहीं है। अंत में यह सब उबलता है कि एक ML/AI कार्यभार को कितनी तेजी से कम से कम शक्ति के साथ निष्पादित किया जा सकता है। 

NPU क्या है (What is NPU in Hindi)

Neural processing unit (NPU) एक microprocessor है जो machine learning algorithm के त्वरण में माहिर है, आमतौर पर artificial neural network (ANN) या random forest (RFs) जैसे प्रेडिक्टिव मॉडल पर काम करता है. यह neural processor के रूप में भी जाना जाता है।

यह ध्यान रखना महत्वपूर्ण है कि इसका Central Processing Unit (CPU) जैसे सामान्य प्रयोजन कंप्यूटिंग के लिए नहीं किया जा सकता है। यह मुख्य रूप से है क्योंकि प्रोसेसर के इस वर्ग के लिए समर्थन विकसित नहीं है जिसका उपयोग किसी भी computing उद्देश्य के लिए किया जा सकता है। 

वास्तव में, इस तरह के एक compiler को विकसित करना एक चुनौती हो सकती है और साथ ही, यह उन कार्यों के लिए कम प्रदर्शन दे सकता है जिनके लिए इसे डिज़ाइन नहीं किया गया है।

NPU के दूसरे नाम क्या है ?

CPU और GPU अलग हैं। GPU मुख्य प्रसंस्करण में नहीं आता है यह कंप्यूटर के Graphic प्रदर्शन में आता है। NPU GPU की तुलना में अधिक प्रोसेसर नहीं है। बल्कि यह एक विशेष GPU है जो न्यूरल नेटवर्क आधारित AI अनुप्रयोगों के लिए बनाया गया है।

इसलिए, यह GPU का Successor नहीं है। यह GPU का एक संस्करण है। यदि आप GPU के उत्तराधिकारी चाहते हैं, तो यह Tensor Processing Unit (TPU) है।

NPU की जरूरत क्या है?

हमने Machine Learning application में अविश्वसनीय प्रगति की है और कुछ कार्यों जैसे कि गो और शतरंज खेलने जैसे खेलों में मनुष्यों को पीछे छोड़ दिया है।

इसी समय, Machine Learning application मानव जीवन को अगले स्तर पर ले जा रहे हैं। कुछ अनुप्रयोगों में शामिल हैं:

Self Driving Car

Real time facial recognition वाली सुरक्षा प्रणाली जैसी खतरों से किसी सिस्टम या क्षेत्र की निगरानी करना।

सटीक विश्लेषण और उपचार द्वारा स्वास्थ्य देखभाल में सुधार करना।

और बहुत सारे

इन सभी में तेजी से शामिल संगणनाओं की संख्या में वृद्धि हुई है और GPU का उपयोग करने के पिछले दृष्टिकोण अच्छी तरह से स्केल नहीं कर सकते हैं। 

इसने processor को डिजाइन करने का मार्ग प्रशस्त किया जो कि GPU से बेहतर प्रदर्शन करेगा और Machine Learning के क्षेत्र में हम जो प्रगति कर रहे हैं उसका सामना करेंगे।

NPU के उदाहरण

Neural Processing Units (NPU ) के वास्तविक जीवन कार्यान्वयन हैं:

• Sophon by Bitmain
• NVDLA by Nvidia
• AWS Inferentia by Amazon
• NNP, Myriad, EyeQ by Intel

NPU उद्देश्य के क्या है?

GPU की तुलना में कई गुना (लगभग 10K गुना) मशीन लर्निंग कार्यों की गणना में तेजी लाएं.

GPU और CPU की तुलना में मशीन लर्निंग कार्यों के लिए कम शक्ति और संसाधन उपयोग में सुधार करें.

NPU के FULL FORM क्या है?

NPU का Full Form "Neural processing unit" होता है। Neural processing unit (NPU) AI एक्सेलेरेटर चिप और प्लेटफॉर्म के साथ बातचीत करने के लिए एक API पर आधारित है। यह machine learning का एक रूप बनाता है जिसे मोबाइल उपकरणों के लिए गहन अधिगम के रूप में जाना जाता है।

• N - Neural 
• P - Processing 
• U - Unit

NPU Network क्या है (What is NPU Network in Hindi)

NPU का मतलब है-  Neural Network Processing है। "Neural network" थोड़ा भ्रामक लग सकता है, लेकिन यह "Artificial Intelligence" से अधिक परिचित है। 

NPU फोन पर हार्डवेयर है जो AI के गहन अध्ययन में माहिर है। इसे पढ़कर हम में से कई लोग क्वालकॉम स्नैपड्रैगन 820 पर पहले NPE के बारे में सोच सकते हैं। वास्तव में, NPE और NPU समान हैं। 

NPE का अर्थ है "Neural Processing Engine". NPE और NPU दोनों समान कार्यों को संभाल सकते हैं। लेकिन NPE स्तर है और NPU hardware स्तर है। 

यदि हम एक उदाहरण के रूप में एक कंप्यूटर चुनते हैं, तो ग्राफिक्स कार्ड इसका इमेज प्रोसेसर है, जो hardware और ठंढ, भ्रम, ईजीओ, आदि सभी गेम इंजन अभी भी हैं। 

NPE अभी भी CPU और GPU की मदद से किया जाता है। क्योंकि तंत्रिका नेटवर्क एल्गोरिदम और मशीन लर्निंग को बड़ी मात्रा में सूचना प्रसंस्करण को शामिल करने की आवश्यकता होती है, और वर्तमान CPU / GPU ऐसी कुशल प्रसंस्करण क्षमताओं को प्राप्त नहीं कर सकता है, ऐसा करने के लिए एक अलग प्रसंस्करण चिप होना आवश्यक है।

NPU के फायदे (Benefit of NPU)

एनपीयू के दृश्य को अधिक सटीक और तेज़ी से पहचानने के लिए फोन की मदद कर सकता है। फोन को सबसे उपयुक्त image processing एल्गोरिदम चुनने दें.

डबल कैमरा बैकग्राउंड के धुंधला होने और हाल ही में बहुत गर्म AR camera होने पर फोन को एज ब्लर के लिए अधिक सटीक बनाएं। NPU बिजली की खपत को कम करने और कम करने की गति में काफी सुधार कर सकता है।

NPU  का इस्तेमाल Samrtphones क्या है?

हमारा Mobile phone यह नहीं जान सकता था कि हमारे चेहरे को छोड़कर, तस्वीर में क्या था। अब, NPU की मदद से, फोन पता कर सकता है सीखने की अवधि के बाद कुछ परिदृश्यों में उपयोगकर्ताओं के लिए कुछ कार्यों को automatic रूप से कार्यान्वित करने के लिए, जहां उपयोगकर्ता अक्सर चीजें कर रहे हैं.

 यह जानकर उपयोगकर्ता की उपयोग की आदतों का विश्लेषण करें। जिससे मोबाइल फोन की मेमोरी स्टोरेज और समय में सिस्टम resource optimization को optimiz किया जा सकता है।