मेटा ओपन-सोर्स AITemplate के साथ AI अनुमान को तेज करना चाहता है

क्या आप ट्रांसफॉर्म 2022 में शामिल नहीं हो पाए थे? हमारी ऑन-डिमांड लाइब्रेरी में अभी सभी शिखर सम्मेलन देखें! यहां देखें.


अनुमान के बिना, एक कृत्रिम बुद्धि (एआई) मॉडल सिर्फ गणित है और वास्तव में कुछ भी निष्पादित या पूर्वानुमानित नहीं करता है।

आज तक, एआई इंट्रेंस इंजन को बड़े पैमाने पर विशिष्ट हार्डवेयर से जोड़ा गया है जिसके लिए उन्हें डिज़ाइन किया गया है। हार्डवेयर लॉक-इन की उस डिग्री का अर्थ है कि डेवलपर्स को विभिन्न हार्डवेयर के लिए विशिष्ट सॉफ़्टवेयर बनाने की आवश्यकता होगी, और यह समग्र रूप से उद्योग नवाचार की गति को भी धीमा कर सकता है।

सोशल मीडिया दिग्गज मेटा (पूर्व में फेसबुक) पर इंट्रेंस हार्डवेयर के प्रबंधन की चुनौती नहीं हारी है। मेटा अपने बुनियादी ढांचे में कई अलग-अलग हार्डवेयर का उपयोग करता है और अनुमान समाधानों को लागू करने वाली चुनौतियों का उचित हिस्सा है। उस चुनौती को हल करने में मदद करने के लिए, मेटा एक ऐसी तकनीक पर काम कर रहा है जिसे वह AITemplate (AIT) कहता है, जिसे वह एक एकीकृत अनुमान प्रणाली के रूप में परिभाषित करता है जो शुरू में Nvidia TensorCore और AMD MatrixCore इंट्रेंस हार्डवेयर दोनों का समर्थन करेगा। मेटा ने कल घोषणा की कि यह है ओपन सोर्सिंग AITemplate अपाचे 2.0 लाइसेंस के तहत।

“एआईटी का हमारा वर्तमान संस्करण एनवीडिया और एएमडी जीपीयू के समर्थन पर केंद्रित है, लेकिन मंच स्केलेबल है और इंटेल जीपीयू का समर्थन कर सकता है [the] भविष्य में अगर मांग थी, “मेटा में इंजीनियरिंग के निदेशक अजीत मैथ्यूज ने वेंचरबीट को बताया। “अब जब हमारे पास ओपन-सोर्स एआईटी है, तो हम इसमें योगदान करने के इच्छुक किसी भी सिलिकॉन प्रदाता का स्वागत करते हैं।”

आयोजन

मेटाबीट 2022

मेटाबीट 4 अक्टूबर को सैन फ्रांसिस्को, सीए में सभी उद्योगों के संचार और व्यापार करने के तरीके को कैसे बदल देगा, इस पर मार्गदर्शन देने के लिए विचारशील नेताओं को एक साथ लाएगा।

यहां रजिस्टर करें

GPU और इंट्रेंस इंजन एब्स्ट्रैक्शन की आवश्यकता

AI हार्डवेयर के लिए लॉक-इन का विचार केवल अनुमान इंजन तक सीमित नहीं है; यह भी एक चिंता का विषय है कि इंटेल सहित उद्योग के अन्य लोगों के पास भी त्वरित कंप्यूटिंग के लिए GPU के बारे में है।

इंटेल के प्रमुख समर्थकों में से एक है ओपन-सोर्स SYCL विनिर्देश, जो GPU के लिए एक एकीकृत प्रोग्रामिंग परत बनाने में मदद करना चाहता है। मेटा के नेतृत्व वाला एआईटी प्रयास अवधारणा में समान है, हालांकि यह जो सक्षम करता है उसमें भिन्न है। मैथ्यूज ने समझाया कि SYCL GPU प्रोग्रामिंग स्तर के करीब है, जबकि AITemplate उच्च-प्रदर्शन TensorCore/MatrixCore AI प्राइमेटिव पर ध्यान केंद्रित कर रहा है।

“एआईटी TensorRT का एक विकल्प है जो एनवीडिया से इंट्रेंस इंजन है,” मैथ्यूज ने कहा। “टेन्सरआरटी ​​के विपरीत, यह एक ओपन-सोर्स समाधान है जो एनवीडिया और एएमडी जीपीयू बैकएंड दोनों का समर्थन करता है।”

मैथ्यूज ने नोट किया कि एआईटी पहले मॉडल आर्किटेक्चर की विशेषता है, और फिर उस आर्किटेक्चर के लिए विशिष्ट परतों और संचालन को फ्यूज़ करने और अनुकूलित करने पर काम करता है।

यह प्रतिस्पर्धा के बारे में नहीं है

एआईटी केवल अनुमान के लिए एक सामान्य सॉफ्टवेयर परत बनाने के बारे में नहीं है, यह प्रदर्शन के बारे में भी है। मेटा द्वारा किए गए शुरुआती परीक्षणों में, यह पहले से ही एनवीडिया और एएमडी जीपीयू दोनों पर गैर-एआईटी अनुमान-संचालित मॉडल पर प्रदर्शन में सुधार देख रहा है।

मैथ्यूज ने कहा, “एआईटी के लिए लक्ष्य जीपीयू उपयोगकर्ताओं के लिए लचीला, खुला, अधिक ऊर्जा कुशल एआई निष्कर्ष लाना है।”

मेटा न केवल अधिक से अधिक अच्छे की सेवा के लिए AIT का निर्माण कर रहा है, बल्कि अपनी AI जरूरतों को पूरा करने के लिए भी है। मैथ्यूज ने कहा कि मेटा का कार्यभार विकसित हो रहा है और इन बदलती जरूरतों को पूरा करने के लिए, इसे ऐसे समाधानों की आवश्यकता है जो खुले और प्रदर्शनकारी हों। उन्होंने यह भी नोट किया कि मेटा चाहता है कि उसके प्रौद्योगिकी स्टैक की ऊपरी परतें हार्डवेयर-अज्ञेयवादी हों। AIT आज AMD और Nvidia GPU के साथ ऐसा करता है।

“हम एआईटी से लाभ के लिए हमारे कई वर्तमान और भविष्य के अनुमान कार्यभार के अवसरों को देखते हैं,” उन्होंने कहा। “हमें लगता है कि एआईटी में सबसे अधिक प्रदर्शन करने वाले एकीकृत अनुमान इंजन के रूप में व्यापक रूप से अपनाने की क्षमता है।”

वेंचरबीट का मिशन तकनीकी निर्णय निर्माताओं के लिए परिवर्तनकारी उद्यम प्रौद्योगिकी और लेनदेन के बारे में ज्ञान प्राप्त करने के लिए एक डिजिटल टाउन स्क्वायर होना है। हमारे ब्रीफिंग की खोज करें।

amar-bangla-patrika