skhynix量產(chǎn)工具()

來(lái)源：內(nèi)容由導(dǎo)體行業(yè)觀(guān)察（ID：icbank）綜合自SK海力士，謝謝。

SK海力士今天宣布，該公司開(kāi)始大規(guī)模生產(chǎn) HBM3-擁有當(dāng)前行業(yè)最佳性能 DRAM。SK去年10月，海力士宣布成功開(kāi)發(fā)該行業(yè) HBM3 DRAM，七個(gè)月后宣布量產(chǎn)，有望進(jìn)一步鞏固高端公司 DRAM 市場(chǎng)領(lǐng)先地位。隨著人工智能、大數(shù)據(jù)等尖端技術(shù)的加速發(fā)展，世界主要科技企業(yè)正在探索快速處理快速增長(zhǎng)數(shù)據(jù)量的創(chuàng)新方法。相較于傳統(tǒng) DRAM，HBM 它在數(shù)據(jù)處理速度和性能方面具有顯著優(yōu)勢(shì)，有望得到業(yè)界的廣泛關(guān)注，并得到越來(lái)越多的應(yīng)用。SK海力士還說(shuō)，英偉達(dá)（NVIDIA）最近完成了對(duì) SK海力士 HBM3 樣品性能評(píng)估。SK海力士將向英偉達(dá)系統(tǒng)供應(yīng) HBM3.該系統(tǒng)預(yù)計(jì)將在今年第三季度開(kāi)始發(fā)貨。SK今年上半年，海力士也將按照英偉達(dá)的計(jì)劃增加 HBM3 產(chǎn)量。英偉達(dá)備受期待 H100 被認(rèn)為是世界上最大、性能最強(qiáng)的加速器。SK海力士的 HBM3 帶寬可達(dá) 819GB/s，有望提高加速計(jì)算的性能。這個(gè)帶寬相當(dāng)于每秒傳輸 163 部全高清（Full-HD）電影(每部電影約 5GB）。SK海力士總裁(事業(yè)總監(jiān))盧鐘元表示，與英偉達(dá)的密切合作使SK高端海力士 DRAM 市場(chǎng)獲得一流的競(jìng)爭(zhēng)力。我們的目標(biāo)是通過(guò)持續(xù)、開(kāi)放的合作，成為洞察和解決客戶(hù)需求的解決方案提供商（Solution Provider）。”

HBM 3的好戲才剛剛開(kāi)始

在某種程度上，計(jì)算系統(tǒng)中唯一真正重要的是其內(nèi)存的變化，這就是為什么計(jì)算機(jī)和我們一樣。世界上所有的計(jì)算能力，或數(shù)據(jù)的操作或轉(zhuǎn)換類(lèi)型，都不像創(chuàng)建新數(shù)據(jù)那么重要，然后將新數(shù)據(jù)存儲(chǔ)在內(nèi)存中，這樣我們就可以以某種方式高速使用它。世界上所有的計(jì)算能力，或數(shù)據(jù)的操作或轉(zhuǎn)換類(lèi)型，都不像創(chuàng)建新數(shù)據(jù)那么重要，然后將新數(shù)據(jù)存儲(chǔ)在內(nèi)存中，這樣我們就可以以某種方式高速使用它。

系統(tǒng)及其內(nèi)存的問(wèn)題是你不能擁有一個(gè)擁有一切的內(nèi)存子系統(tǒng)。

您可以將 3D XPoint 就像英特爾在它身上一樣，成為主內(nèi)存 Optane PMem DIMM 外觀(guān)中顯示的；PMEM 這種持久性很有用，但你最終會(huì)得到一個(gè)比閃存更貴、更普通的 DRAM 內(nèi)存存，所以它不能完全取代任何一個(gè)，但它可以用作內(nèi)存層結(jié)構(gòu)的另一層——并存儲(chǔ)在某些系統(tǒng)中。

使用普通的 DRAM，您可以為應(yīng)用程序和數(shù)據(jù)建立一個(gè)大的內(nèi)存空間，但它可能會(huì)變得昂貴，帶寬也不是很大。

使用普通的 DRAM，您可以為應(yīng)用程序和數(shù)據(jù)建立一個(gè)大的內(nèi)存空間，但它可能會(huì)變得昂貴，帶寬也不是很大。提高內(nèi)存速度 CPU 上控制器數(shù)量的增加有幫助，但延遲仍然相對(duì)較高（至少與 HBM 與堆疊內(nèi)存相比)，帶寬遠(yuǎn)低于 HBM 高。該行業(yè)確實(shí)知道如何大批量生產(chǎn) HBM，因此產(chǎn)量低，單位成本高。

DDR DIMM 它們的大規(guī)模生產(chǎn)意味著即使帶寬受到挑戰(zhàn)，它也是低成本的。DDR SDRAM 內(nèi)存由 JEDEC 于 1998 年指定，并于 2000 年廣泛商業(yè)化，首次推出時(shí)頻率低 100 MHz，最高頻率為 200 MHz，每個(gè)通道的帶寬在 1.6 GB/秒和 3.1 GB/秒之間。過(guò)去幾年DDR迭代，內(nèi)存時(shí)鐘速率，I/O 總線(xiàn)時(shí)鐘速率和內(nèi)存模塊的數(shù)據(jù)速率都在增加，容量和帶寬也在增加。DDR4 服務(wù)器仍然廣泛使用，高端模塊的內(nèi)存運(yùn)行頻率為 400 MHz，I/O 總線(xiàn)速率為 1.6 GHz，數(shù)據(jù)速率為 3.2 GT每個(gè)模塊的帶寬為/秒 25.6 GB/秒。DDR5 把帶寬翻倍 51.2 GB/秒，將每個(gè)記憶棒的最大容量翻倍至 512 GB。

我們的猜測(cè)是，對(duì)于許多設(shè)備來(lái)說(shuō)，這種容量很大，但帶寬不夠。因此，在可預(yù)見(jiàn)的未來(lái)，我們最終將在節(jié)點(diǎn)內(nèi)拆分內(nèi)存層次結(jié)構(gòu)，并接近計(jì)算引擎。或者，更準(zhǔn)確地說(shuō)，客戶(hù)必須擁有它 DDR5 內(nèi)存和 HBM3 選擇內(nèi)存設(shè)備，它們可以混合在系統(tǒng)和集群中的節(jié)點(diǎn)之間，其中一些可能是 Optane 或其他類(lèi)型 ReRAM 或 PCM 持久內(nèi)存在適當(dāng)?shù)那闆r。

在有人創(chuàng)建內(nèi)存處理單元和內(nèi)存管理程序之前，跨主要內(nèi)存類(lèi)型和速度的編程仍然是混合內(nèi)存系統(tǒng)的一個(gè)問(wèn)題，可以為計(jì)算引擎共享提供單級(jí)內(nèi)存空間。

或者，公司將使用一種內(nèi)存來(lái)緩存另一種內(nèi)存。快而瘦的內(nèi)存可以緩存肥而慢的內(nèi)存，反之亦然。因此，今天的許多混合物 CPU-GPU 系統(tǒng)中，GPU 內(nèi)存是完成大部分處理的地方，CPU 中的 DDR 內(nèi)存和 GPU 中的 HBM 內(nèi)存之間的一致性主要用于讓 DDR 內(nèi)存起著巨大的作用GPU 的 L4 緩存-是的，CPU 已降級(jí)為數(shù)據(jù)管家。相反，支持 Optane DIMM 的 Xeon SP 在其中一種模式(也是最容易編程的模式)中，3D XPoint 內(nèi)存被的內(nèi)存被視為慢速主內(nèi)存 DDR4 或 DDR5 DIMM 是一種超級(jí)Optane 快速緩存內(nèi)存。

就像去年一樣 7 月在介紹HBM3 今年可用的內(nèi)存將對(duì)系統(tǒng)意味著什么時(shí)候

我們認(rèn)為我們指出了這一點(diǎn) HBM 各種系統(tǒng)都會(huì)使用內(nèi)存，最終會(huì)變得更加普遍，所以更便宜。畢竟，我們并不總是使用核心內(nèi)存，許多工作負(fù)載受內(nèi)存帶寬的限制，而不是計(jì)算。這就是為什么我們相信會(huì)有更窄的原因 512 位總線(xiàn)和無(wú)插入器 HBM 版本和所有權(quán) 1,024 位總線(xiàn)和插入器的版本。

使用 HBM 內(nèi)存(以及英特爾和美光創(chuàng)建并用于其最強(qiáng)熔核加速器的混合內(nèi)存立方體堆疊內(nèi)存)，您可以堆疊 DRAM 并將其鏈接到非常接近計(jì)算機(jī)引擎的非常寬的總線(xiàn)，并將帶寬提高到許多因素，甚至直接連接到 CPU 的 DRAM 上面看到的帶寬高一個(gè)數(shù)量級(jí)。但是這么快 HBM 內(nèi)存很薄，價(jià)格也很貴。它本質(zhì)上更貴，但內(nèi)存子系統(tǒng)的價(jià)格/性能可能更好。

與 DDR 主存相比，HBM 我們不知道成本是多少，但我們不知道。 Rambus IP 核產(chǎn)品營(yíng)銷(xiāo)高級(jí)總監(jiān) Frank Ferro 知道與 GDDR 內(nèi)存的成本是多少？

“GDDR5 與 HBM2 加法器的價(jià)格差距約為 4 倍，”Ferro 告訴The Next Platform。原因不僅僅是 DRAM 芯片也在中介和 2.5D 制造成本。但是 HBM 好消息是你可以得到最高的帶寬，你可以得到非常好的功率和性能，你可以得到非常小的面積。你必須為這一切付出代價(jià)。但 HPC 和超大型社區(qū)沒(méi)有特別的成本限制。當(dāng)然，他們想要更低的功率，但對(duì)他們來(lái)說(shuō)，一切都與帶寬有關(guān)。

Nvidia 知道 HBM3 內(nèi)存的好處是上個(gè)月第一個(gè)宣布的

的“Hopper”H100 GPU 加速器

將其推向市場(chǎng)的公司。在 JEDEC 在 1 最后一個(gè)月推出 HBM3 規(guī)范之后，這很受歡迎。

HBM3 出臺(tái)規(guī)范的速度比 SK Hynix 去年 7 月亮在它的早期工作中暗示得更快，當(dāng)時(shí)它說(shuō)預(yù)計(jì)每個(gè)堆棧至少會(huì)有 5.2 Gb/秒信號(hào)傳輸和至少 665 GB/秒帶寬。

HBM3 規(guī)范要求從三星實(shí)現(xiàn)每針信號(hào)的速率 HBM2E 時(shí)使用的 3.2 Gb/秒翻倍至 6.4 Gb/秒，HBM2E 是 HBM2 擴(kuò)展形式將技術(shù)推向官方 JEDEC 除規(guī)范外，該規(guī)范還設(shè)置了信號(hào)的初始速率 2 Gb/秒。(有早期的 HBM2E 變體使用 2.5 Gb/秒信號(hào)，而 SK 海力士使用 3.6 Gb/秒信號(hào)試圖獲得 HBM2E 優(yōu)于三星。）

內(nèi)存通道的數(shù)量也從 HBM2 的 8 通道增加到 HBM3 的 16 一個(gè)通道的數(shù)量翻了一番，甚至支持架構(gòu) 32 假設(shè)偽通道 DRAM 在高端服務(wù)器主存儲(chǔ)器中，組之間可能會(huì)有一些交錯(cuò)。HBM2 和 HBM2E 變體可以堆疊 4、8 或 12 個(gè)芯片高的 DRAM，而 HBM3 允許擴(kuò)展到 16 個(gè)芯片高的 DRAM 堆疊。HBM3 的 DRAM 容量預(yù)計(jì)在 8 Gb 到 32 Gb 之間，使用 8 Gb 芯片的四層堆棧 4 GB 容量，使用 32 Gb 芯片的 16 層層堆棧產(chǎn)生每個(gè)堆棧 64 GB。據(jù) JEDEC 稱(chēng)，使用 HBM3 基于內(nèi)存的第一代設(shè)備預(yù)計(jì)將基于 16 Gb 芯片。內(nèi)存接口仍然是 1,024 位寬，單個(gè) HBM3 堆棧可驅(qū)動(dòng) 819 GB/秒帶寬。

所以，用六個(gè) HBM3 理論上，一個(gè)設(shè)備可以驅(qū)動(dòng) 4.8 TB/秒帶寬和 384 GB 的容量。我們想知道有這么多帶寬和容量 Hopper H100 GPU 加速器對(duì)成本和散熱有什么影響？.

由于計(jì)算的上梯隊(duì)對(duì)內(nèi)存帶寬不耐煩，Rambus 已經(jīng)超越了相對(duì)較新的 HBM3 規(guī)范最終可以在上圖中稱(chēng)為 HBM3E。具體來(lái)說(shuō)，Rambus 可以為已經(jīng)設(shè)計(jì)好了 HBM3 引腳驅(qū)動(dòng) 8.4 Gb/秒信號(hào)信號(hào)電路，為每個(gè)信號(hào) HBM3 堆棧提供 1,075 GB/秒(是的，1..05 TB/秒)帶寬。你可以得到六個(gè)堆棧中的六個(gè) 6.3 TB/秒內(nèi)存帶寬。可定制 HBM3 內(nèi)存控制器和定制 HBM3 堆棧 PHY 實(shí)現(xiàn)。(順便說(shuō)一句，Rambus 在 HBM2E 信號(hào)傳輸速率高達(dá) 4 Gb/秒。）

這樣的帶寬實(shí)際上可能會(huì)保留 Nvidia Hopper GPU 這樣的計(jì)算設(shè)備，或谷歌的未來(lái) TPU5 機(jī)器學(xué)習(xí)矩陣引擎，或者選擇你夢(mèng)想中的設(shè)備來(lái)提供足夠的數(shù)據(jù)。然而，我們對(duì)瓦數(shù)和成本感到不寒而栗。但同樣，如果帶寬是瓶頸，也許在那里投入更多的資金，冷卻液體是有意義的。

我們期待有人建造這樣的野獸，讓我們看到它的表現(xiàn)，分析它的經(jīng)濟(jì)性。

*免責(zé)聲明：本文由作者原創(chuàng)。本文的內(nèi)容是作者的個(gè)人觀(guān)點(diǎn)。半導(dǎo)體行業(yè)的觀(guān)察和重印只是為了傳達(dá)不同的觀(guān)點(diǎn)，這并不意味著半導(dǎo)體行業(yè)的觀(guān)察同意或支持這一觀(guān)點(diǎn)。如有異議，請(qǐng)聯(lián)系半導(dǎo)體行業(yè)進(jìn)行觀(guān)察。

今日是《半導(dǎo)體行業(yè)觀(guān)察》為大家分享的第3065內(nèi)容，歡迎關(guān)注。晶圓|集成電路|設(shè)備|汽車(chē)芯片|存儲(chǔ)|臺(tái)積電|AI｜封裝電腦知識(shí)