या NVIDIA-SK हायनिक्स भागीदारीच्या केंद्रस्थानी कोणते मेमरी तंत्रज्ञान आहे?

एनव्हिडिया आणि एसके हायनिक्स यांच्यातील भागीदारीच्या केंद्रस्थानी एचबीएम4 (उच्च-बँडविड्थ मेमरी) आहे. एचबीएम4 मध्ये अनेक डीरॅम मेमरी चिप्स उभ्या रचून एकमेकांशी अत्यंत लहान आणि रुंद मार्गांनी जोडल्या जातात, ज्यामुळे सर्किट बोर्डवर सपाट मांडलेल्या मेमरी चिप्सपेक्षा कितीतरी वेगाने डेटा जीपीयूकडे वाहतो, आणि आजच्या सर्वात मोठ्या एआय मॉडेल्सना प्रशिक्षण देण्यासाठी व चालवण्यासाठी हे प्रचंड महत्त्वाचे आहे.

डीडीआर6 हे पुढील पिढीचे मेमरी मानक सर्वसाधारण संगणकांसाठी बनवलेले आहे, विशिष्ट एआय प्रवेगकांसाठी नाही, तर जीडीडीआर7 प्रामुख्याने व्हिडिओ गेम रेंडरिंग हाताळणाऱ्या ग्राफिक्स कार्ड्ससाठी बनवले आहे. एचबीएम4 सारख्या प्रचंड एआय प्रशिक्षण हार्डवेअरच्या टोकाच्या बँडविड्थ गरजांसाठी यापैकी कोणतेही बनवलेले नाही.

आजच्या एआय हार्डवेअरमध्ये खरी अडचण बहुधा कच्च्या प्रक्रिया-क्षमतेची नसून मेमरी बँडविड्थची असते, कारण चिपकडे डेटा पुरेशा वेगाने पोहोचवता आला नाही तर त्याची गणनक्षमता निरुपयोगी ठरते, आणि नेमकी हीच समस्या सोडवण्यासाठी एचबीएमसारखी स्टॅक केलेली मेमरी बनवली गेली आहे.