Google ने नेक्स्ट-जेन AI एक्सेलेरेटर चिप्स को डिज़ाइन करने के लिए रीइन्फोर्समेंट लर्निंग का उपयोग किया

अपनी एंटरप्राइज़ डेटा तकनीक और रणनीति को ऊपर उठाएं रूपांतरण 2021.


एक पूर्वमुद्रण में कागज़ एक साल पहले प्रकाशित, Google अनुसंधान के वैज्ञानिक जिनमें Google AI प्रमुख जेफ़ डीन शामिल हैं वर्णित चिप डिजाइन के लिए एक एआई-आधारित दृष्टिकोण जो पिछले अनुभव से सीख सकता है और समय के साथ सुधार कर सकता है, अनदेखी घटकों के लिए आर्किटेक्चर बनाने में बेहतर हो सकता है। उन्होंने दावा किया कि इसने औसतन छह घंटे से भी कम समय में डिजाइन तैयार किए, जो मानव विशेषज्ञों को लूप में लगने वाले हफ्तों की तुलना में काफी तेज है।

हालांकि काम पूरी तरह से नया नहीं था – यह एक तकनीक पर बनाया गया था जिसे Google इंजीनियरों ने प्रस्तावित किया था मार्च 2020 में प्रकाशित पेपर – इसने कला की स्थिति को उन्नत किया जिसमें यह निहित है कि ऑन-चिप ट्रांजिस्टर की नियुक्ति काफी हद तक स्वचालित हो सकती है। अब, एक पेपर में प्रकाशित पत्रिका में प्रकृति, Google शोधकर्ताओं की मूल टीम का दावा है कि उन्होंने Google की आने वाली, पहले से अघोषित पीढ़ी को डिजाइन करने के लिए तकनीक को ठीक किया है टेंसर प्रोसेसिंग यूनिट (टीपीयू), एआई में तेजी लाने के लिए विशेष रूप से विकसित एप्लिकेशन-विशिष्ट एकीकृत सर्किट (एएसआईसी)।

यदि सार्वजनिक रूप से उपलब्ध कराया जाता है, तो Google शोधकर्ताओं की तकनीक कैश-स्ट्रैप्ड स्टार्टअप्स को AI और अन्य विशिष्ट उद्देश्यों के लिए अपने स्वयं के चिप्स विकसित करने में सक्षम बना सकती है। इसके अलावा, यह चिप डिजाइन चक्र को छोटा करने में मदद कर सकता है ताकि हार्डवेयर तेजी से विकसित हो रहे अनुसंधान के अनुकूल हो सके।

“मूल रूप से, अभी डिज़ाइन प्रक्रिया में, आपके पास डिज़ाइन टूल हैं जो कुछ लेआउट करने में मदद कर सकते हैं, लेकिन आपके पास मानव प्लेसमेंट और रूटिंग विशेषज्ञ हैं जो उन डिज़ाइन टूल के साथ काम करते हैं, जो कई बार, कई बार खत्म हो जाते हैं,” डीन बताया था पिछले साक्षात्कार में वेंचरबीट। “यह वास्तव में उस डिज़ाइन से जाने के लिए एक बहु-सप्ताह की प्रक्रिया है जिसे आप वास्तव में एक चिप पर भौतिक रूप से क्षेत्र और बिजली और तार की लंबाई में सही बाधाओं के साथ रखना चाहते हैं और सभी डिज़ाइन भूमिकाओं को पूरा करना या जो भी निर्माण प्रक्रिया आप कर रहे हैं . हमारे पास अनिवार्य रूप से एक मशीन लर्निंग मॉडल हो सकता है जो . का खेल खेलना सीखता है [component] एक विशेष चिप के लिए प्लेसमेंट। ”

एआई चिप डिजाइन

एक कंप्यूटर चिप को दर्जनों ब्लॉकों में बांटा गया है, जिनमें से प्रत्येक एक व्यक्तिगत मॉड्यूल है, जैसे कि मेमोरी सबसिस्टम, कंप्यूट यूनिट, या कंट्रोल लॉजिक सिस्टम। इन वायर-कनेक्टेड ब्लॉकों को नेटलिस्ट द्वारा वर्णित किया जा सकता है, सर्किट घटकों का एक ग्राफ जैसे मेमोरी घटकों और मानक कोशिकाओं सहित लॉजिक गेट्स (जैसे, NAND, NOR, और XOR). चिप “फ्लोरप्लानिंग” में नेटलिस्ट्स को कैनवस नामक दो-आयामी ग्रिड पर रखना शामिल है ताकि घनत्व और रूटिंग भीड़ पर बाधाओं का पालन करते हुए बिजली की खपत, समय, क्षेत्र और तार की लंबाई जैसे प्रदर्शन मेट्रिक्स को अनुकूलित किया जा सके।

1960 के दशक से, चिप फ्लोरप्लानिंग के लिए कई स्वचालित दृष्टिकोण प्रस्तावित किए गए हैं, लेकिन किसी ने भी मानव-स्तरीय प्रदर्शन हासिल नहीं किया है। इसके अलावा, चिप जटिलता में घातीय वृद्धि ने इन तकनीकों को आधुनिक चिप्स पर अनुपयोगी बना दिया है। मानव चिप डिजाइनरों को इसके बजाय इलेक्ट्रॉनिक डिज़ाइन ऑटोमेशन (EDA) टूल के साथ महीनों तक पुनरावृति करनी चाहिए, चिप नेटलिस्ट का एक रजिस्टर ट्रांसफर लेवल (RTL) विवरण लेना चाहिए और चिप कैनवास पर उस नेटलिस्ट का मैन्युअल प्लेसमेंट बनाना चाहिए। इस फीडबैक के आधार पर, जिसमें 72 घंटे तक लग सकते हैं, डिजाइनर या तो यह निष्कर्ष निकालता है कि डिजाइन मानदंड हासिल कर लिया गया है या अपस्ट्रीम आरटीएल डिजाइनरों को फीडबैक प्रदान करता है, जो प्लेसमेंट कार्य को आसान बनाने के लिए निम्न-स्तरीय कोड को संशोधित करते हैं।

Google टीम का समाधान है a सुदृढीकरण सीखना चिप्स में सामान्यीकरण करने में सक्षम विधि, जिसका अर्थ है कि यह अनुभव से सीख सकता है कि नए चिप्स रखने में बेहतर और तेज दोनों बनें।

गेमिंग सिस्टम

एआई-संचालित डिज़ाइन सिस्टम का प्रशिक्षण जो सभी चिप्स में सामान्यीकरण करता है, चुनौतीपूर्ण है क्योंकि इसके लिए सभी संभावित कैनवस पर सभी संभावित चिप नेटलिस्ट के प्लेसमेंट को अनुकूलित करने के लिए सीखने की आवश्यकता होती है। वास्तव में, चिप फ्लोरप्लानिंग विभिन्न टुकड़ों (जैसे, नेटलिस्ट टोपोलॉजी, मैक्रो काउंट्स, मैक्रो आकार और पहलू अनुपात), बोर्ड (कैनवास आकार और पहलू अनुपात), और जीत की स्थिति (विभिन्न मूल्यांकन के सापेक्ष महत्व) के साथ एक खेल के समान है। मेट्रिक्स या विभिन्न घनत्व और रूटिंग कंजेशन की कमी)। यहां तक ​​​​कि इस “गेम” का एक उदाहरण – एक विशेष नेटलिस्ट को एक विशेष कैनवास पर रखना – चीनी बोर्ड गेम गो की तुलना में अधिक संभावित चालें हैं।

शोधकर्ताओं की प्रणाली का उद्देश्य चिप कैनवास पर लॉजिक गेट्स, मेमोरी और बहुत कुछ का “नेटलिस्ट” ग्राफ रखना है, जैसे कि प्लेसमेंट घनत्व और रूटिंग भीड़ पर बाधाओं का पालन करते हुए डिजाइन शक्ति, प्रदर्शन और क्षेत्र (पीपीए) को अनुकूलित करता है। ग्राफ़ का आकार लाखों से लेकर अरबों नोड्स तक होता है, जिन्हें हज़ारों समूहों में समूहीकृत किया जाता है, और आम तौर पर, लक्ष्य मीट्रिक का मूल्यांकन करने में घंटों से लेकर एक दिन तक का समय लगता है।

एक खाली चिप से शुरू होकर, Google टीम का सिस्टम घटकों को क्रमिक रूप से तब तक रखता है जब तक कि वह नेटलिस्ट को पूरा नहीं कर लेता। सिस्टम को यह चुनने में मार्गदर्शन करने के लिए कि कौन से घटकों को पहले रखा जाए, घटकों को अवरोही आकार के अनुसार क्रमबद्ध किया जाता है; बड़े घटकों को पहले रखने से यह संभावना कम हो जाती है कि बाद में इसके लिए कोई संभव स्थान नहीं है।

गूगल चिप एआई

ऊपर: एरियन का मैक्रो प्लेसमेंट, एक ओपन सोर्स आरआईएससी-वी प्रोसेसर, जैसे-जैसे प्रशिक्षण आगे बढ़ता है। बाईं ओर, नीति को खरोंच से प्रशिक्षित किया जा रहा है, और दाईं ओर, इस चिप के लिए एक पूर्व-प्रशिक्षित नीति को ठीक किया जा रहा है। प्रत्येक आयत एक व्यक्तिगत मैक्रो प्लेसमेंट का प्रतिनिधित्व करता है।

छवि क्रेडिट: गूगल

सिस्टम को प्रशिक्षित करने के लिए १०,००० चिप प्लेसमेंट का डेटासेट बनाने की आवश्यकता होती है, जहां इनपुट दिए गए प्लेसमेंट से जुड़ी स्थिति है और लेबल प्लेसमेंट के लिए इनाम है (यानी, तार की लंबाई और भीड़)। शोधकर्ताओं ने इसे पहले पांच अलग-अलग चिप नेटलिस्ट चुनकर बनाया, जिसमें प्रत्येक नेटलिस्ट के लिए 2,000 विविध प्लेसमेंट बनाने के लिए एआई एल्गोरिदम लागू किया गया था।

सिस्टम को एनवीडिया वोल्टा ग्राफिक्स कार्ड और 10 सीपीयू पर “प्री-ट्रेन” करने में 48 घंटे लगे, प्रत्येक में 2 जीबी रैम है। फ़ाइन-ट्यूनिंग में प्रारंभ में 6 घंटे तक का समय लगा, लेकिन बाद के बेंचमार्क में एकल GPU पर एक सेकंड से भी कम समय में फ़ाइन-ट्यूनिंग उत्पन्न प्लेसमेंट के बिना एक नई नेटलिस्ट में पूर्व-प्रशिक्षित प्रणाली को लागू करना।

एक परीक्षण में, Google शोधकर्ताओं ने अपने सिस्टम की सिफारिशों की तुलना एक मैनुअल बेसलाइन से की: Google की TPU भौतिक डिज़ाइन टीम द्वारा बनाई गई पिछली पीढ़ी की TPU चिप का उत्पादन डिज़ाइन। सिस्टम और मानव विशेषज्ञों दोनों ने लगातार व्यवहार्य प्लेसमेंट उत्पन्न किए जो समय और भीड़ की आवश्यकताओं को पूरा करते थे, लेकिन एआई सिस्टम ने डिज़ाइन मानदंडों को पूरा करने के लिए बहुत कम समय लेते हुए क्षेत्र, बिजली और तार की लंबाई में मैन्युअल प्लेसमेंट से बेहतर प्रदर्शन या मिलान किया।

भविष्य का कार्य

Google का कहना है कि “उच्च-गुणवत्ता” समाधानों को सामान्य बनाने और उत्पन्न करने की इसकी प्रणाली की क्षमता में “प्रमुख निहितार्थ” हैं, चिप डिजाइन प्रक्रिया के पहले चरणों के साथ सह-अनुकूलन के अवसरों को अनलॉक करना। बड़े पैमाने पर वास्तुशिल्प अन्वेषण पहले असंभव थे क्योंकि किसी दिए गए वास्तुशिल्प उम्मीदवार का मूल्यांकन करने में महीनों का प्रयास किया गया था। हालाँकि, चिप के डिज़ाइन को संशोधित करने से प्रदर्शन पर एक बड़ा प्रभाव पड़ सकता है, Google टीम नोट करती है, और चिप डिज़ाइन प्रक्रिया के पूर्ण स्वचालन के लिए आधार तैयार कर सकती है।

इसके अलावा, क्योंकि Google टीम का सिस्टम केवल संसाधनों के एक सेट पर ग्राफ़ के नोड्स को मैप करना सीखता है, यह शहर नियोजन, वैक्सीन परीक्षण और वितरण, और सेरेब्रल कॉर्टेक्स मैपिंग सहित कई अनुप्रयोगों पर लागू हो सकता है। “[While] अगली पीढ़ी के Google टीपीयू को डिजाइन करने के लिए उत्पादन में हमारी विधि का उपयोग किया गया है … [we] यकीन है कि [it] चिप डिजाइन से परे प्रभावशाली प्लेसमेंट समस्याओं पर लागू किया जा सकता है, “शोधकर्ताओं ने पेपर में लिखा था।

वेंचरबीट

तकनीकी निर्णय लेने वालों के लिए परिवर्तनकारी तकनीक और लेनदेन के बारे में ज्ञान हासिल करने के लिए वेंचरबीट का मिशन एक डिजिटल टाउन स्क्वायर बनना है। जब आप अपने संगठनों का नेतृत्व करते हैं तो हमारा मार्गदर्शन करने के लिए हमारी साइट डेटा तकनीकों और रणनीतियों पर आवश्यक जानकारी प्रदान करती है। हम आपको हमारे समुदाय का सदस्य बनने के लिए आमंत्रित करते हैं:

  • आपकी रुचि के विषयों पर अप-टू-डेट जानकारी
  • हमारे समाचार पत्र
  • गेटेड विचार-नेता सामग्री और हमारे बेशकीमती आयोजनों के लिए रियायती पहुंच, जैसे कि रूपांतरण 2021: और अधिक जानें
  • नेटवर्किंग सुविधाएँ, और बहुत कुछ

सदस्य बने

(Visited 1 times, 1 visits today)

About The Author

You might be interested in

टेक-कंपनियों-पर-अमेरिकी-सरकार-द्वारा-लगाए-गए-गुप्त-गैग.jpg
0

LEAVE YOUR COMMENT