सैमसंग ने HBM5, AMD मेमोरी पूलिंग और तेज़ स्टोरेज के साथ AI मेमोरी रणनीति का विस्तार किया

सैमसंग ने मेमोरी क्षमता को प्रोसेसिंग गति के साथ रखा

सैमसंग इलेक्ट्रॉनिक्स अपनी AI अवसंरचना रणनीति को हाई बैंडविड्थ मेमोरी से आगे बढ़ा रही है। इसके तहत HBM5 और अनुकूलित मेमोरी के साथ AMD का सहयोग शामिल है, जिसमें साझा सर्वर मेमोरी और ऐसी स्टोरेज तकनीकें शामिल हैं जो कुछ डेटा प्रोसेसिंग को SSD तक ले जाती हैं। कंपनी ने यह दृष्टिकोण कैलिफोर्निया के सैन जोस मैकएनरी कन्वेंशन सेंटर में 12 से 15 अक्टूबर को आयोजित होने वाले OCP ग्लोबल समिट 2026 में पेश किया।

प्रदर्शन से जुड़े सबसे ठोस दावे मेमोरी पदानुक्रम की अन्य तकनीकों से संबंधित हैं। सैमसंग के अनुसार, इलास्टिक CXL मेमोरी आवंटन से AI मॉडल का पहला टोकन तैयार होने तक का समय 38% तक घटता है, LPDDR5X प्रोसेसिंग-इन-मेमोरी से इन्फरेंस प्रदर्शन तीन गुना तक बढ़ता है और SSD की क्रमिक रीड गति 28.4 GB/s तक पहुंचती है। ये खास मूल्यांकनों या प्रदर्शनों के नतीजे हैं, हर AI इंस्टॉलेशन के लिए गारंटी नहीं।

सैमसंग का आधिकारिक समिट पेज उसकी रणनीति को गति, मेमोरी विस्तार और डेटा स्थायित्व के आधार पर पेश करता है। इसमें HBM4E, LPDDR5X-PIM, CMM-D MD310 मेमोरी मॉड्यूल, SOCAMM2 सर्वर मेमोरी और PM1763 तथा BM1773 SSD शामिल हैं।

सैमसंग के अनुसार, कंपनी के कॉरपोरेट उपाध्यक्ष और मेमोरी बिजनेस एप्लिकेशन इंजीनियरिंग टीम के प्रमुख होजुन शिम 12 अक्टूबर को एक एग्जीक्यूटिव सत्र में इन तीन प्राथमिकताओं को पेश करने वाले थे। रिपोर्टों के मुताबिक, यह प्रस्तुति अलग-अलग घटकों को अलग से बेहतर बनाने के बजाय प्रोसेसर, मेमोरी और स्टोरेज को एक साथ अनुकूलित करने की व्यापक पहल की शुरुआत है।

इन्फरेंस के दौरान यह अंतर अहम होता है, जब प्रशिक्षित मॉडल जवाब तैयार करता है। तेज़ एक्सेलेरेटर को भी डेटा का इंतज़ार करना पड़ सकता है, बातचीत बढ़ने पर मेमोरी कम पड़ सकती है या स्टोरेज से जानकारी निकालने में देरी हो सकती है। सैमसंग इन अलग-अलग बाधाओं के लिए अलग तकनीकें प्रस्तावित कर रही है।

HBM5 व्यापक गति रणनीति का प्रमुख हिस्सा

प्रदर्शनी की रिपोर्टों में HBM5, जिसे आठवीं पीढ़ी की हाई बैंडविड्थ मेमोरी बताया गया है, अनुकूलित HBM और zHBM को सैमसंग की गति संबंधी पहलों में शामिल किया गया है। हाई बैंडविड्थ मेमोरी कई समानांतर कनेक्शनों के जरिए एक्सेलेरेटर को बड़ी मात्रा में डेटा देती है। अनुकूलित संस्करण अलग-अलग ग्राहकों की सिस्टम जरूरतों के मुताबिक तैयार किए जाते हैं।

आधिकारिक उत्पाद सूची में HBM5 के बजाय HBM4E का नाम है। अन्य रिपोर्टों में प्रदर्शनी में HBM4E और HBM5 के अवधारणा मॉडल दिखाए जाने का उल्लेख है। यह अंतर अहम है: प्रदर्शनी या अवधारणा प्रस्तुति से यह साबित नहीं होता कि उत्पाद की शिपिंग शुरू हो गई है। सैमसंग के समिट पेज पर HBM5 की व्यावसायिक रिलीज़ की तारीख या विस्तृत प्रदर्शन विनिर्देश भी नहीं दिए गए हैं।

प्रोसेसिंग गति के सबसे ठोस संख्यात्मक नतीजे LPDDR5X-PIM से जुड़े हैं। प्रोसेसिंग-इन-मेमोरी में कुछ गणनाएं मेमोरी डिवाइस के भीतर की जाती हैं, जिससे मेमोरी और अलग प्रोसेसर के बीच बार-बार डेटा भेजने की जरूरत घटती है। सैमसंग का कहना है कि उसके डिजाइन में हर मेमोरी बैंक के भीतर प्रोसेसिंग यूनिट शामिल हैं।

Samsung Edge AI Accelerator पर Llama 3.1 8B के मूल्यांकन में सैमसंग के अनुसार, पारंपरिक LPDDR5X की तुलना में प्रभावी बैंडविड्थ आठ गुना तक, प्रति सेकंड तैयार होने वाले टोकन तीन गुना तक और रनटाइम में 2.2 गुना तक कमी दर्ज की गई। ये आंकड़े उसी एक्सेलेरेटर और मॉडल से संबंधित हैं, HBM5 या AMD के मेमोरी प्रदर्शन से नहीं।

प्रदर्शित उत्पादों में SOCAMM2 भी शामिल है, जो LPDDR पर आधारित सर्वर मेमोरी मॉड्यूल है। प्रदर्शन से पता चलता है कि सैमसंग की गति रणनीति में एक्सेलेरेटर मेमोरी के साथ-साथ कम बिजली खपत वाली मेमोरी तकनीकें भी शामिल हैं। हालांकि, समिट पेज पर हर उत्पाद के तुलनीय बेंचमार्क नतीजे नहीं दिए गए हैं।

AMD सहयोग का लक्ष्य लचीली मेमोरी क्षमता

सैमसंग और AMD ने सैमसंग की CMM-D तकनीक का इस्तेमाल कर CXL मेमोरी विस्तार का प्रदर्शन किया। CXL यानी Compute Express Link, प्रोसेसर और अन्य डिवाइस को अतिरिक्त मेमोरी से जोड़ता है, जिससे सिस्टम सीधे इंस्टॉल की गई मेमोरी से आगे अपनी क्षमता बढ़ा सकते हैं।

CMM-D, CXL पर आधारित DRAM मेमोरी मॉड्यूल है। पूल किए गए कॉन्फिगरेशन में कई सिस्टम जुड़े मेमोरी संसाधनों से क्षमता ले सकते हैं, बजाय इसके कि वह क्षमता हमेशा के लिए अलग-अलग सर्वरों को आवंटित रहे। सैमसंग का कहना है कि AMD के साथ सहयोग में CXL को मेमोरी क्षमता और बैंडविड्थ बढ़ाने के तरीके के रूप में परखा गया, जिससे CPU कोर के डेटा का इंतज़ार करने का समय घट सकता है।

जब AI एजेंट एक साथ कई मॉडल या काम चलाते हैं, तब यह समस्या और गंभीर हो जाती है। सैमसंग के आधिकारिक विवरण के मुताबिक, एजेंट वर्कलोड CPU का इस्तेमाल तेजी से बढ़ा सकते हैं, जबकि मेमोरी क्षमता प्रोसेसर कोर की संख्या के अनुरूप नहीं बढ़ पाती।

एक अलग CMM-D पूलिंग प्रदर्शन में GPU सर्वर पर कई बड़े भाषा मॉडल इंस्टेंस के बीच इलास्टिक आवंटन किया गया। सैमसंग के अनुसार, स्थिर आवंटन की तुलना में पहला टोकन तैयार होने का समय (TTFT) 38% तक कम और गुडपुट 3.3 गुना तक अधिक रहा। TTFT बताता है कि जवाब शुरू होने से पहले कितना इंतज़ार करना पड़ता है; गुडपुट मूल्यांकन के मानदंडों के तहत दिए गए उपयोगी काम को मापता है।

इन नतीजों को AMD के प्रदर्शन के संख्यात्मक नतीजे नहीं समझना चाहिए। आधिकारिक पेज पर AMD के सत्यापन और इलास्टिक आवंटन बेंचमार्क का अलग-अलग वर्णन है। इसमें यह समझने के लिए पर्याप्त जानकारी भी नहीं है कि अलग मॉडल, सर्वर कॉन्फिगरेशन या सेवा लक्ष्यों के साथ ये सुधार कैसे बदलेंगे।

KV कैश मेमोरी विस्तार को स्टोरेज से जोड़ता है

सैमसंग की मेमोरी और स्टोरेज योजनाओं के बीच एक अहम कड़ी की-वैल्यू कैश है, जिसे आमतौर पर KV कैश कहा जाता है। इसमें भाषा मॉडल द्वारा टेक्स्ट प्रोसेस करते समय तैयार हुई मध्यवर्ती जानकारी रखी जाती है, ताकि मॉडल हर नए टोकन के लिए गणना दोहराने के बजाय पहले का काम फिर से इस्तेमाल कर सके।

लंबी बातचीत, बड़ा संदर्भ और एक साथ कई उपयोगकर्ता इन कैश के लिए काफी मेमोरी की जरूरत पैदा कर सकते हैं। सैमसंग ऐसी व्यवस्था प्रस्तावित करती है जिसमें CXL मेमोरी उपलब्ध क्षमता बढ़ाती है और SSD उस कैश डेटा को रखती है जिसे सबसे तेज़ मेमोरी स्तर में बने रहने की जरूरत नहीं।

आधिकारिक समिट पेज पर सैमसंग सेमीकंडक्टर के अमेरिकी परिसर में किए गए एक प्रोडक्शन डिप्लॉयमेंट का वर्णन है। यह कंपनी के आंतरिक AI कोडिंग एजेंट और अन्य एप्लिकेशन को सेवा देता है। सैमसंग का कहना है कि उसके AI Memory Node समाधान के जरिए L3.5 कंपोज़ेबल मेमोरी स्तर जोड़ने से KV कैश का उपयोग पांच से सात गुना बढ़ा।

L3.5 उस अतिरिक्त स्तर का नाम है; इसका मतलब यह नहीं कि सभी सर्वरों में एक जैसी कैश संरचना होती है। इस डिप्लॉयमेंट में सैमसंग की Memory Solutions Lab, उसकी DSA AI Platform Integrations टीम और SGLang शामिल थे। उपयोग में बढ़ोतरी का यह नतीजा इलास्टिक आवंटन बेंचमार्क और LPDDR5X-PIM प्रदर्शन के आंकड़ों से अलग है।

समिट के कार्यक्रम में 13 अक्टूबर का एक सत्र भी शामिल था, जिसमें KV कैश को SSD पर ले जाने के लिए CXL पूलिंग और SSD स्टोरेज को साथ इस्तेमाल करने पर चर्चा हुई। इसे सिस्टम आर्किटेक्ट जिनिन सो और प्रिंसिपल इंजीनियर योंगहा चोई प्रस्तुत करने वाले थे। यह संयोजन रणनीति को केवल क्षमता बढ़ाने से आगे ले जाता है: सॉफ्टवेयर को मेमोरी और स्टोरेज के बीच डेटा रखना और निकालना होता है, बिना जरूरत से ज्यादा देरी किए।

SSD क्षमता, कूलिंग और डेटा प्रबंधन की भूमिका निभाते हैं

सैमसंग की डेटा स्थायित्व रणनीति का केंद्र एंटरप्राइज SSD और उच्च क्षमता वाली NAND फ्लैश है। डेटा स्थायित्व का मतलब गणना की अस्थायी कार्यशील अवस्था से आगे भी डेटा को बनाए रखना है, ताकि AI सिस्टम जरूरत पड़ने पर डेटासेट, मॉडल फाइलें और सहेजी गई कैश जानकारी निकाल सकें।

PM1763 को PCIe Gen6 एंटरप्राइज SSD के रूप में पेश किया गया है। इसकी क्रमिक रीड गति 28.4 GB/s तक और बिजली दक्षता इसके पिछले मॉडल से 1.8 गुना तक बताई गई है। सैमसंग के लिक्विड कूलिंग प्रदर्शन में E1.S संस्करण को हीट हटाने के लिए सीधे कोल्ड प्लेट के संपर्क में रखा गया। आधिकारिक पेज पर प्रदर्शन तुलना के लिए परीक्षण की पूरी परिस्थितियां नहीं दी गई हैं।

BM1773 को 256TB QLC स्टोरेज वाले E3.S SSD के रूप में सूचीबद्ध किया गया है। QLC यानी quad level cell, हर फ्लैश सेल में चार बिट स्टोर करता है, जिससे अधिक क्षमता मिलती है। रिपोर्टों में सैमसंग के उच्च क्षमता वाले QLC फ्लैश और लचीली डेटा प्लेसमेंट तकनीक के विकास का भी उल्लेख है।

सैमसंग ने LMCache में एकीकृत KV कैश अनुकूलन का प्रदर्शन किया। Flexible Data Placement (FDP) यह व्यवस्थित करने में मदद करता है कि डेटा कहां लिखा जाए, ताकि राइट एम्प्लीफिकेशन घटे। राइट एम्प्लीफिकेशन वह अतिरिक्त आंतरिक लेखन है जो SSD होस्ट द्वारा भेजे गए डेटा से अधिक करता है।

इस प्रदर्शन में बड़ा NVMe Maximum Data Transfer Size इस्तेमाल करके होस्ट CPU का काम घटाया गया। सैमसंग के मुताबिक, ये तकनीकें एक नोड के भीतर कैश स्टोरेज के साथ-साथ सर्वरों के समूह में साझा कैश संसाधनों के लिए भी प्रासंगिक हैं। इवेंट पेज पर इन खास अनुकूलनों के संख्यात्मक सुधार नहीं दिए गए हैं।

गणना को संग्रहित डेटा के करीब लाना

सैमसंग का वेक्टर डेटाबेस प्रदर्शन डेटा के स्थानांतरण को घटाने का एक और तरीका दिखाता है। वेक्टर डेटाबेस जानकारी के संख्यात्मक निरूपण स्टोर करते हैं और समान चीजें खोजने के लिए उनकी तुलना करते हैं। AI एप्लिकेशन में किसी अनुरोध से जुड़े दस्तावेज़ खोजते समय यह एक आम चरण है।

NCVS के प्रूफ ऑफ कॉन्सेप्ट में वेक्टर दूरी की गणना SSD के भीतर की जाती है। तुलना के लिए 4KB का वेक्टर होस्ट को भेजने के बजाय, डिवाइस चार बाइट का दूरी परिणाम लौटाता है। सैमसंग के अनुसार, पारंपरिक होस्ट प्रोसेसिंग की तुलना में होस्ट ट्रैफिक 22 गुना तक कम रहा और अधिक SSD जोड़ने पर खोज की थ्रूपुट बढ़ी।

चार बाइट और 4KB के आंकड़े अलग-अलग परिणामों और वेक्टर के आकार बताते हैं; इसका अर्थ यह नहीं कि पूरा एप्लिकेशन ट्रैफिक को उसी अनुपात में घटा देता है। 22 गुना तक की कमी व्यापक मापी गई तुलना है। सैमसंग NCVS को प्रूफ ऑफ कॉन्सेप्ट बताती है, आम तौर पर उपलब्ध उत्पाद नहीं।

उसका AiSIO प्रदर्शन GPU से शुरू होने वाले, पीयर-टू-पीयर और पारंपरिक CPU से शुरू होने वाले ऑपरेशन के लिए एक साझा सॉफ्टवेयर इंटरफेस के जरिए स्टोरेज इनपुट और आउटपुट पर केंद्रित है। सैमसंग के अनुसार, OpenDS का इस्तेमाल करके यह प्रति सेकंड 100 मिलियन इनपुट/आउटपुट ऑपरेशन और कोल्ड स्टार्ट से भाषा मॉडल को लोड करने में दस गुना तक तेज़ गति देता है।

ये माप अलग-अलग कामों को दर्शाते हैं। क्रमिक रीड गति लगातार डेटा ट्रांसफर को मापती है, प्रति सेकंड इनपुट/आउटपुट ऑपरेशन स्टोरेज अनुरोधों की गिनती करते हैं और कोल्ड स्टार्ट लोडिंग बताती है कि मॉडल कितनी जल्दी तैयार होता है। इनमें से कोई भी ऐसा बेंचमार्क नहीं है जो सीधे बताए कि पूरी AI सेवा उपयोगकर्ताओं के कितने अनुरोध संभाल सकती है।

ग्राहक परीक्षण और फाउंड्री प्रदर्शनियों से दायरा बढ़ा

Samsung MAX Lab का उद्देश्य ग्राहकों को विकास प्रक्रिया में पहले शामिल करना है। ग्राहक व्यावहारिक AI वर्कलोड के तहत व्यावसायिक लॉन्च से पहले PIM, CMM-D और अगली पीढ़ी के SSD जैसी तकनीकों का परीक्षण कर सकते हैं और उत्पाद डिजाइन के लिए सिस्टम संबंधी जरूरतें साझा कर सकते हैं।

यह तरीका समिट के प्रदर्शनों में बार-बार सामने आने वाली एक व्यावहारिक समस्या को संबोधित करता है: तेज़ घटक तभी उपयोगी होता है, जब सॉफ्टवेयर और आसपास के हार्डवेयर उसका इस्तेमाल कर सकें। सैमसंग की Global Open-ecoSystem Team ओपन-सोर्स विकास और उद्योग मानकीकरण में हिस्सा लेती है, जबकि कार्यक्रम में सॉफ्टवेयर फ्रेमवर्क, स्टोरेज कमांड प्रबंधन और मेमोरी प्रबंधन पर सत्र शामिल हैं।

सैमसंग ने लाइव माइग्रेशन और मानक NVMe पर वर्चुअल SSD प्रबंधन के साथ कंपोज़ेबल स्टोरेज का भी प्रदर्शन किया। कंपनी के आधिकारिक विवरण में इसे कई टेनेंट के बीच साझा स्टोरेज उपलब्ध कराने का तरीका बताया गया है, जिसमें सेवा की गुणवत्ता लागू की जा सकती है। इसका मतलब है कि हर वर्कलोड को मिलने वाली सेवा पर नियंत्रण रखा जा सकता है।

प्रदर्शनी में मेमोरी से आगे की तकनीकें भी शामिल थीं। रिपोर्टों में सैमसंग फाउंड्री की 4nm प्रक्रिया पर निर्मित Groq भाषा प्रोसेसिंग यूनिट वेफर, कई रिपोर्टों में Nvidia सिस्टम बताए गए Groq 3 LPX सिस्टम और सैमसंग की 2nm गेट-ऑल-अराउंड प्रक्रिया से बने वेफर शामिल हैं। ये प्रदर्शन मेमोरी और स्टोरेज के साथ विनिर्माण क्षमताएं भी दिखाते हैं, लेकिन इनसे नए उत्पादन अनुबंधों या शिपमेंट की मात्रा की पुष्टि नहीं होती।

कई महीनों में विकसित हुई साझेदारी

AMD के साथ प्रदर्शन पहले के सहयोग के बाद हुआ है, यह कोई अलग-थलग पहल नहीं। रिपोर्टों के मुताबिक, मार्च में अगली पीढ़ी की AI मेमोरी और कंप्यूटिंग तकनीकों को लेकर समझौता ज्ञापन पर हस्ताक्षर हुए। इसके बाद AMD की मुख्य कार्यकारी लिसा सु की 7 अक्टूबर की दक्षिण कोरिया यात्रा के दौरान चर्चा हुई।

रिपोर्ट की गई घटनाओं और समिट के निर्धारित सत्रों का क्रम इस प्रकार है:

• मार्च 2026: सैमसंग और AMD ने सहयोग समझौता ज्ञापन पर हस्ताक्षर किए; सैमसंग ने Nvidia GTC में भी तकनीक पेश की।
• जून और अगस्त 2026: सैमसंग ने क्रमशः COMPUTEX और Future of Memory and Storage सम्मेलन में प्रस्तुति दी।
• 7 अक्टूबर 2026: लिसा सु ने दक्षिण कोरिया का दौरा किया और मेमोरी तथा कंप्यूटिंग सहयोग पर चर्चा के लिए सैमसंग DS डिविजन के वाइस चेयरमैन जॉन योंग-ह्योन से मुलाकात की; रिपोर्टों में फाउंड्री पर चर्चा का भी उल्लेख है।
• 12 अक्टूबर 2026: समिट शुरू हुआ और शिम की एग्जीक्यूटिव प्रस्तुति उसी दिन निर्धारित थी।
• 13 से 15 अक्टूबर 2026: सैमसंग के कार्यक्रम में KV कैश टियरिंग, स्टोरेज अनुकूलन और साझा CXL मेमोरी आर्किटेक्चर पर सत्र शामिल थे।

सैमसंग ने डायमंड स्पॉन्सर के रूप में हिस्सा लिया। रणनीति की घोषणा 12 अक्टूबर स्थानीय समय पर हुई या कंपनी के 13 अक्टूबर के बयान में, इस बारे में रिपोर्टों में अंतर है। ये तारीखें एक ही आयोजन के अलग-अलग चरणों को दर्शा सकती हैं। एक रिपोर्ट समिट का स्थान सैन फ्रांसिस्को बताती है, जबकि सैमसंग के आधिकारिक कार्यक्रम में सैन जोस कन्वेंशन सेंटर का उल्लेख है।

बाजार का आकार व्यावसायिक तैयारी तय नहीं करता

रिपोर्ट किए गए उद्योग शोध के मुताबिक, 2026 की दूसरी तिमाही में वैश्विक DRAM राजस्व में 39% हिस्सेदारी और NAND फ्लैश बाजार में 29.3% हिस्सेदारी के साथ सैमसंग पहले स्थान पर रही। DRAM का आंकड़ा Counterpoint Research और NAND का आंकड़ा TrendForce के हवाले से दिया गया है। ये बाजार हिस्सेदारी के आंकड़े हैं, उभरते CXL या प्रोसेसिंग-इन-मेमोरी बाजार की हिस्सेदारी नहीं।

उद्योग की सालाना DRAM और NAND वेफर उत्पादन क्षमता में सैमसंग के सबसे आगे रहने का अनुमान Omdia के हवाले से दिया गया है। एक अलग अनुमान के मुताबिक, उसकी सालाना DRAM क्षमता 300mm वेफर के समतुल्य लगभग 8.175 मिलियन वेफर है। क्षमता वास्तविक उत्पादन के समान नहीं होती और इनमें से कोई भी आंकड़ा यह नहीं बताता कि OCP में दिखी तकनीकों के लिए कितना उत्पादन आवंटित है।

एक रिपोर्ट में 8 अक्टूबर को जारी असामान्य रूप से बड़े प्रारंभिक तीसरी तिमाही के आंकड़े भी दिए गए हैं: 195 ट्रिलियन वॉन का राजस्व और 107.4 ट्रिलियन वॉन का परिचालन लाभ, जिसमें एक साल पहले की तुलना में 782.5% वृद्धि बताई गई है। यहां इन आंकड़ों की किसी आधिकारिक वित्तीय घोषणा से पुष्टि नहीं की गई है। इन्हें समिट में दिखी तकनीकों से हुई कमाई का स्थापित प्रमाण नहीं मानना चाहिए।

प्रतिस्पर्धा भी HBM से आगे बढ़ रही है। रिपोर्टों में SK hynix के Memory-Centric AI Rack System (MARS) को रैक में साझा किए गए CXL मेमोरी पूल के रूप में बताया गया है। यह सैमसंग की उस पहल से मिलता-जुलता है जिसमें अतिरिक्त मेमोरी को अलग-अलग सिस्टम के लिए उपलब्ध कराया जाता है। हालांकि, यह तय करने के लिए तुलनीय बेंचमार्क नहीं हैं कि कौन-सा तरीका बेहतर प्रदर्शन करता है।

सैमसंग का घोषित लक्ष्य HBM, सर्वर DDR5 और एंटरप्राइज SSD में अपनी प्रतिस्पर्धात्मकता मजबूत करना है। HBM5 की उपलब्धता, कीमत, ग्राहकों के बीच व्यापक अपनापन और प्रदर्शन दावों की स्वतंत्र पुष्टि जैसे व्यावसायिक सवाल अब भी अनसुलझे हैं। समिट कार्यक्रम में प्रदर्शन और चर्चा की तारीखें दी गई हैं, हर तकनीक के लिए पक्की रिलीज़ समय-सीमा नहीं।

मुख्य बिंदु

• OCP 2026 में सैमसंग की रणनीति तेज़ मेमोरी, CXL क्षमता विस्तार और स्थायी SSD स्टोरेज को जोड़ती है।
• AMD के साथ सहयोग में बढ़ती AI मेमोरी जरूरतों के लिए CMM-D मेमोरी तकनीक का इस्तेमाल किया गया।
• एक अलग इलास्टिक पूलिंग प्रदर्शन में पहला टोकन तैयार होने का समय 38% तक कम और गुडपुट 3.3 गुना तक अधिक बताया गया।
• LPDDR5X-PIM मूल्यांकन में सैमसंग के Edge AI Accelerator पर इन्फरेंस प्रदर्शन तीन गुना तक बढ़ने के नतीजे शामिल हैं।
• PM1763 स्टोरेज, KV कैश अनुकूलन और SSD के भीतर गणना, डेटा स्थानांतरण की अलग-अलग बाधाओं को दूर करने के लक्ष्य रखते हैं।
• समिट में दी गई जानकारी से HBM5 की शिपिंग तारीख या व्यापक व्यावसायिक उपलब्धता की पुष्टि नहीं होती।