Technology टेक्नोलॉजी: AI कंप्यूटिंग में क्रांति लाने के लिए तैयार एक कदम के रूप में, NVIDIA ने OCP समिट 2024 में अपने अत्याधुनिक H200 NVL GPU का अनावरण किया। अपनी दक्षता और शक्ति से प्रतिष्ठित, ये नए GPU अनुमान कार्यों के लिए इंजीनियर हैं, जो आर्टिफिशियल इंटेलिजेंस अनुप्रयोगों में ऊर्जा-बचत प्रौद्योगिकियों की ओर एक रणनीतिक बदलाव को प्रदर्शित करते हैं।
शिखर सम्मेलन में, उपस्थित लोगों को NVIDIA H200 NVL श्रृंखला से परिचित कराया गया, जिसे विभिन्न MGX सिस्टम में सहज एकीकरण के लिए कॉन्फ़िगर किया गया है। अपने पूर्ववर्तियों के विपरीत, इन GPU में एक परिष्कृत 4-तरफ़ा NVLink ब्रिज है, जो पावर-ड्रेनिंग NVLink स्विच के उपयोग को छोड़कर घटक इंटरैक्शन को बढ़ाता है।
जबकि प्रत्येक H200 NVL GPU इकाई 600W थर्मल डिज़ाइन पावर (TDP) तक सीमित है, यह उनके प्रदर्शन में बाधा नहीं डालता है। वास्तव में, समग्र डिज़ाइन PCIe फ्रेमवर्क के भीतर दो पारंपरिक रूप से कॉन्फ़िगर किए गए 4-GPU सिस्टम के साथ संरेखित होता है, जिससे वे दोनों लागत-प्रभावी और मौजूदा सर्वर कॉन्फ़िगरेशन के साथ संगत हो जाते हैं।
प्रति कार्ड 141GB के प्रभावशाली आवंटन के साथ, चार GPU में संचयी 564GB जटिल इनफ़रेंसिंग कार्यों को कुशलतापूर्वक संभालने की क्षमता को बढ़ाता है, जो पिछले मॉडल की तुलना में एक दुर्जेय विकल्प के रूप में खड़ा है।
यह विकास NVIDIA के सर्वर डिज़ाइन को बढ़ावा देकर उन्नत AI परिनियोजन के लिए बाधा को कम करने के लिए समर्पण को दर्शाता है जो बिजली की खपत को बेहतर प्रदर्शन के साथ संतुलित करता है, जिससे अगली पीढ़ी के PCIe-आधारित समाधानों को अपनाने के लिए उत्सुक संगठनों की बढ़ती रुचि आकर्षित होती है। H200 NVL GPU AI तकनीक के बुनियादी ढांचे को फिर से परिभाषित करने में एक महत्वपूर्ण छलांग का प्रतिनिधित्व करते हैं।