HBM儼然成為了當(dāng)前存儲(chǔ)行業(yè)競(jìng)爭(zhēng)中最為鮮美的一塊蛋糕。近日，臺(tái)積電宣布結(jié)合N12FFC+和N5制程技術(shù)，生產(chǎn)用于HBM4的基礎(chǔ)裸片，為HBM 4做好擴(kuò)產(chǎn)準(zhǔn)備，并且CoWoS先進(jìn)封裝產(chǎn)能多次擴(kuò)產(chǎn)，只為滿足行業(yè)高漲的HBM需求。三大存儲(chǔ)原廠也動(dòng)態(tài)不斷，此前SK海力士、三星、美光均表示近兩年HBM產(chǎn)能已售罄，近期，三星和SK海力士?jī)杉冶硎緸榱藵M足需求，他們將超過(guò)20%的DRAM產(chǎn)線轉(zhuǎn)換為HBM產(chǎn)線。隨著HBM3E和HBM4的持續(xù)推進(jìn)，帶動(dòng)行業(yè)生態(tài)發(fā)生變革，三大存儲(chǔ)原廠與臺(tái)積電比以往更加緊密的聯(lián)系在一起。

一、優(yōu)異性能把持下，HBM勢(shì)不可擋

業(yè)界有把HBM歸入先進(jìn)封裝行列的，但更多是把HBM納入新型存儲(chǔ)器中。HBM其全稱High Bandwidth Memory，根本而言，是指基于2.5/3D先進(jìn)封裝技術(shù)，把多塊DRAM Die像疊羅漢一樣堆疊起來(lái)的新型存儲(chǔ)器。至于行業(yè)將其歸入先進(jìn)封裝，則是因?yàn)槟壳皫缀跛械腍BM系統(tǒng)都高度綁定臺(tái)積電先進(jìn)封裝技術(shù)CoWos。

HBM通過(guò)2.5D CoWoS封裝和AI算力芯片結(jié)合，充分釋放算力性能。除了CoWoS先進(jìn)封裝技術(shù)外，業(yè)界目前還有許多強(qiáng)化HBM功能的在研先進(jìn)封裝技術(shù)，如臺(tái)積電的下一代晶圓系統(tǒng)平臺(tái)CoW-SoW、SK海力士的HBM以硅通孔技術(shù)（TSV：Through Silicon Via）、批量回流模制底部填充（MR-MUF：Mass Reflow-Molded Underfill）先進(jìn)封裝、三星的非導(dǎo)電薄膜熱壓縮TC-NCF（thermal compression with non-conductive film）等等。作為影響著HBM產(chǎn)業(yè)未來(lái)發(fā)展的封裝技術(shù)，下文還將會(huì)詳細(xì)介紹。

圖片來(lái)源：AMD

如上圖所示，HBM是由多個(gè)DRAM堆疊而成，主要利用TSV（硅通孔）和微凸塊（Micro bump）將裸片相連接，多層DRAM die再與最下層的Base die連接，然后通過(guò)凸塊（Bump）與硅中階層（interposer）互聯(lián)。同一平面內(nèi)，HBM與GPU、CPU或ASIC共同鋪設(shè)在硅中階層上，再通過(guò)CoWoS等2.5D先進(jìn)封裝工藝相互連接，硅中介層通過(guò)CuBump連接至封裝基板上，最后封裝基板再通過(guò)錫球與下方PCB基板相連。該產(chǎn)品巧妙的設(shè)計(jì)大大縮小了尺寸面積，容量擴(kuò)大的同時(shí)，實(shí)現(xiàn)了高帶寬、低延遲、低功耗的效果。

AI時(shí)代隨著計(jì)算需求的不斷提升，高端GPU、存儲(chǔ)器等需求供不應(yīng)求。當(dāng)前GPU補(bǔ)位CPU功能，并不斷強(qiáng)化自身算力。但是處理器的性能以每年大約55%速度快速提升，而內(nèi)存性能的提升速度則只有每年10%左右。目前傳統(tǒng)顯存GDDR5等也面臨著帶寬低、功耗高等瓶頸，GPU\CPU也算不過(guò)來(lái)了。

GPU顯存一般采用GDDR或者HBM兩種方案，但行業(yè)多數(shù)據(jù)顯示，HBM性能遠(yuǎn)超GDDR。此處來(lái)看看AMD關(guān)于HBM與DDR（Double Data Rate）內(nèi)存的參數(shù)對(duì)比，以業(yè)界最為火爆的GDDR5為例。

圖片來(lái)源：AMD

根據(jù)AMD數(shù)據(jù)，從顯存位寬來(lái)看，GDDR5為32-bit,HBM為其四倍，達(dá)到了1024-bit；從時(shí)鐘頻率來(lái)看，HBM為500MHz，遠(yuǎn)遠(yuǎn)小于GDDR5的1750MHz；從顯存帶寬來(lái)看，HBM的一個(gè)stack大于100GB/s,而GDDR5的一顆芯片為25GB/s。在數(shù)據(jù)傳輸速率上，HBM遠(yuǎn)高于GDDR5。而從空間利用角度來(lái)看，HBM由于與GPU封裝在一塊，從而大幅度減少了顯卡PCB的空間，而GDDR5芯片面積為HBM芯片三倍，這意味著HBM能夠在更小的空間內(nèi)，實(shí)現(xiàn)更大的容量。因此，HBM可以在實(shí)現(xiàn)高帶寬和高容量的同時(shí)節(jié)約芯片面積和功耗，被視為GPU存儲(chǔ)單元理想解決方案。

但是HBM對(duì)比GDDR5/DDR5等依舊存在一定劣勢(shì)。TrendForce集邦咨詢研究顯示，在相同制程及容量下，HBM顆粒尺寸較DDR5大35%~45%；良率（包含TSV封裝良率），則比起DDR5低約20%~30%；生產(chǎn)周期（包含TSV）較DDR5多1.5-2個(gè)月，整體從投片到產(chǎn)出與封裝完成需要兩個(gè)季度以上。從長(zhǎng)遠(yuǎn)發(fā)展角度看，在AI浪潮之下，業(yè)界大廠率先考慮搶奪HBM就變得十分合理了。

據(jù)TrendForce集邦咨詢最新研究，三大原廠開(kāi)始提高先進(jìn)制程的投片，繼存儲(chǔ)器合約價(jià)翻揚(yáng)后，公司資金投入開(kāi)始增加，產(chǎn)能提升將集中在今年下半年，預(yù)期1alpha nm（含）以上投片至年底將占DRAM總投片比重約40%。其中，HBM由于獲利表現(xiàn)佳，加上需求持續(xù)看增，故生產(chǎn)順序最優(yōu)先。但受限于良率僅約50~60%，且晶圓面積相較DRAM產(chǎn)品，放大逾60%，意即所占投片比重高。以各家TSV產(chǎn)能來(lái)看，至年底HBM將占先進(jìn)制程比重35%，其余則用以生產(chǎn)LPDDR5(X)與DDR5產(chǎn)品。

目前HBM已然成為AI服務(wù)器、數(shù)據(jù)中心、汽車駕駛等高性能計(jì)算領(lǐng)域的標(biāo)配，未來(lái)其適用市場(chǎng)還在不斷拓寬。據(jù)TrendForce集邦咨詢研究顯示，產(chǎn)能方面，2023~2024年HBM占DRAM總產(chǎn)能分別是2%及5%，至2025年占比預(yù)估將超過(guò)10%。產(chǎn)值方面，2024年起HBM之于DRAM總產(chǎn)值預(yù)估可逾20%，至2025年占比有機(jī)會(huì)逾三成。展望2025年，由主要AI解決方案供應(yīng)商的角度來(lái)看，HBM規(guī)格需求大幅轉(zhuǎn)向HBM3e，且將會(huì)有更多12hi的產(chǎn)品出現(xiàn)，帶動(dòng)單芯片搭載HBM的容量提升。2024年的HBM需求位元年成長(zhǎng)率近200%，2025年可望將再翻倍。

二、HBM3E引爆全場(chǎng)，HBM4正在趕來(lái)

自2013年SK海力士推出第一代HBM以來(lái)，在三大原廠的競(jìng)合下，至今已歷經(jīng)第二代（HBM2）、第三代（HBM2E）、第四代（HBM3）、第五代（HBM3E）產(chǎn)品。

今年HBM3e將是市場(chǎng)主流，集中在今年下半年出貨。另外據(jù)行業(yè)消息，第六代（HBM4）也正在研發(fā)中，變革較大，一改一代至五代的1024位內(nèi)存接口，集中采用2048位內(nèi)存接口，有望使傳輸速度再次翻倍。今天我們的關(guān)注焦點(diǎn)也將集中在HBM3E及HBM4上。

1）HBM3E霸榜今年

三大存儲(chǔ)芯片原廠美光、SK海力士和三星在2023年下半年陸續(xù)向英偉達(dá)（NVIDIA）送去了八層垂直堆疊的24GB HBM3E樣品以供驗(yàn)證。今年年初，美光和SK海力士的HBM3E都已通過(guò)英偉達(dá)的驗(yàn)證，并獲得了訂單。近期行業(yè)最新消息傳出，因臺(tái)積電在檢測(cè)中“采用了基于SK海力士HBM3E產(chǎn)品設(shè)定的檢測(cè)標(biāo)準(zhǔn)”，而三星在HBM中主要采用的是熱壓非導(dǎo)電薄膜TC-NCF先進(jìn)封裝技術(shù)，導(dǎo)致8層HBM3E仍待進(jìn)一步的檢驗(yàn)。三星對(duì)此暫無(wú)評(píng)價(jià)。

據(jù)TrendForce集邦咨詢研究，今年HBM3e將是市場(chǎng)主流，集中在今年下半年出貨。目前SK海力士（SK海力士）依舊是主要供應(yīng)商，與美光（Micron）均采用1beta nm制程，兩家業(yè)者現(xiàn)已正式出貨給英偉達(dá)（NVIDIA）；三星（Samsung）則采用1alpha nm制程，預(yù)期今年第二季完成驗(yàn)證，于年中開(kāi)始交付。

2023年8月，SK海力士宣布開(kāi)發(fā)完成HBM3E。今年3月，SK海力士宣布成功量產(chǎn)HBM3E，并在3月末開(kāi)始向客戶供貨。據(jù)悉，SK海力士的HBM3E在1024位接口上擁有9.2GT/s的數(shù)據(jù)傳輸速率，單個(gè)HBM3E內(nèi)存堆?？商峁?.18TB/s的理論峰值帶寬。SK海力士先進(jìn)HBM技術(shù)團(tuán)隊(duì)負(fù)責(zé)人Kim Kwi-wook在近日于首爾舉行的IEEE 2024國(guó)際存儲(chǔ)研討會(huì)上表示，以往HBM一直是每?jī)赡晖七M(jìn)一次，但從第五代產(chǎn)品HBM3E開(kāi)始，產(chǎn)品周期已縮短為一年。

美光在今年2月26日宣布已經(jīng)開(kāi)始量產(chǎn)HBM3E，將應(yīng)用于英偉達(dá)第二季度出貨的H200 Tensor Core GPU。美光消息顯示，已經(jīng)開(kāi)始量產(chǎn)的產(chǎn)品是24GB 8-Hi HBM3E，數(shù)據(jù)傳輸速度為每秒9.2GT、峰值存儲(chǔ)帶寬超越每秒1.2TB。與HBM3相比，HBM3E的數(shù)據(jù)傳輸數(shù)據(jù)和峰值存儲(chǔ)帶寬提供了44%。并且美光還表示，今年還會(huì)推出超大容量36 GB 12-Hi HBM3E堆棧。

近日，美光在投資者會(huì)議活動(dòng)上表示，2025年HBM存儲(chǔ)器供應(yīng)談判基本上已經(jīng)都完成。美光已與下游客戶基本敲定了2025年HBM訂單的規(guī)模和價(jià)格。美光預(yù)計(jì)HBM存儲(chǔ)器將在其截至2024年9月的當(dāng)年度財(cái)報(bào)中創(chuàng)造數(shù)億美元等級(jí)的營(yíng)收，而在2025財(cái)年當(dāng)中，相關(guān)業(yè)務(wù)的營(yíng)收更將成長(zhǎng)到數(shù)十億美元。

三星方面，2023年10月，三星宣布推出代號(hào)為Shinebolt的新一代HBM3E，在今年2月27日，其在其官網(wǎng)宣布開(kāi)發(fā)出了業(yè)界首款36GB HBM3E 12H DRAM，據(jù)悉，三星HBM3E 12H DRAM高達(dá)1280GB/s帶寬，數(shù)據(jù)傳輸速度為每秒9.8GT，領(lǐng)先于SK海力士的9GHz和美光的9.2GHz。加上36GB，較前代八層堆疊提高50%。根據(jù)外媒報(bào)導(dǎo)，三星已經(jīng)與處理器大廠AMD簽訂價(jià)值30億美元的新協(xié)議，將供應(yīng)HBM3E 12H DRAM，預(yù)計(jì)會(huì)用在下半年即將推出的AMD Instinct MI300系列AI芯片的升級(jí)版本Instinct MI350上。

結(jié)合上述三家原廠HBM3E產(chǎn)品參數(shù)看，HBM的變革方向依舊是芯片密度、帶寬、層高、容量等方面的提升。目前NVIDIA的GH200 Grace Hopper Superchip是世界上第一款配備HBM3e內(nèi)存的芯片，與當(dāng)前一代產(chǎn)品相比，內(nèi)存容量高出3.5倍，帶寬高出3倍。NVIDIA還聲稱，HBM3e內(nèi)存將使下一代GH200運(yùn)行AI模型的速度比當(dāng)前模型快3.5倍。

HBM方面，從NVIDIA及AMD近期主力GPU產(chǎn)品進(jìn)程及搭載HBM規(guī)格規(guī)劃變化來(lái)看，TrendForce集邦咨詢認(rèn)為2024年后將有三大趨勢(shì)。

其一，「HBM3進(jìn)階到HBM3e」，預(yù)期NVIDIA將于今年下半年開(kāi)始擴(kuò)大出貨搭載HBM3e的H200，取代H100成為主流，隨后GB200及B100等亦將采用HBM3e。AMD則規(guī)劃年底前推出MI350新品，期間可能嘗試先推MI32x等過(guò)渡型產(chǎn)品，與H200相抗衡，均采HBM3e。

其二，「HBM搭載容量持續(xù)擴(kuò)增」，為了提升AI服務(wù)器整體運(yùn)算效能及系統(tǒng)頻寬，將由目前市場(chǎng)主要采用的NVIDIA H100（80GB），至2024年底后將提升往192~288GB容量發(fā)展；AMD亦從原MI300A僅搭載128GB，GPU新品搭載HBM容量亦將達(dá)288GB。

其三，「搭載HBM3e的GPU產(chǎn)品線，將從8hi往12hi發(fā)展」，NVIDIA的B100、GB200主要搭載8hi HBM3e，達(dá)192GB，2025年則將推出B200，搭載12hi HBM3e，達(dá)288GB；AMD將于今年底推出的MI350或2025年推出的MI375系列，預(yù)計(jì)均會(huì)搭載12hi HBM3e，達(dá)288G。

相較于普通存儲(chǔ)芯片，HBM芯片價(jià)格相對(duì)較高，且有繼續(xù)上升趨勢(shì)。TrendForce集邦咨詢表示，HBM3e的TSV良率目前僅約40~60%，仍有待提升，加上并非三大原廠都已經(jīng)通過(guò)HBM3e的客戶驗(yàn)證，故HBM買方也愿意接受漲價(jià)，以鎖定質(zhì)量穩(wěn)定的貨源。并且未來(lái)HBM每Gb單價(jià)可能因DRAM供應(yīng)商的可靠度，以及供應(yīng)能力產(chǎn)生價(jià)差，對(duì)于供應(yīng)商而言，未來(lái)平均銷售單價(jià)將會(huì)因此出現(xiàn)差異，并進(jìn)一步影響獲利。

三、HBM4將給行業(yè)帶來(lái)最新變革

HBM4可看做是HBM技術(shù)一個(gè)新的分水嶺，一方面是HBM領(lǐng)域先進(jìn)封裝技術(shù)獲得長(zhǎng)足發(fā)展，更為重要的是產(chǎn)業(yè)鏈出現(xiàn)三大方面的改變。其一，主要內(nèi)存制造商正計(jì)劃對(duì)高帶寬內(nèi)存技術(shù)進(jìn)行更實(shí)質(zhì)性的改變，一改往常的1024位接口，從更寬的2048位內(nèi)存接口開(kāi)始。其二，行業(yè)生態(tài)改變，三大存儲(chǔ)原廠SK海力士、三星、美光與臺(tái)積電展開(kāi)高度緊密合作。畢竟在此之前，三家原廠的芯片基本基于本公司自己的制程工藝開(kāi)展芯片生產(chǎn)。其三，HBM芯片的定制化趨勢(shì)更為明顯。

首先先看看幾家大廠HBM4的發(fā)展計(jì)劃以及相關(guān)的先進(jìn)封裝技術(shù)有哪些。

1）幾家大廠HBM4進(jìn)度幾何？

2024年4月19日，SK海力士宣布，公司就下一代HBM產(chǎn)品生產(chǎn)和加強(qiáng)整合HBM與邏輯層的先進(jìn)封裝技術(shù)，將與臺(tái)積電公司密切合作，雙方近期簽署了諒解備忘錄（MOU）。5月2日，SK海力士在韓國(guó)舉行的記者招待會(huì)上表示，其HBM4量產(chǎn)時(shí)間從2026年提至2025年。具體來(lái)說(shuō)，SK海力士計(jì)劃在2025年下半年推出采用12層DRAM堆疊的首批HBM4產(chǎn)品，而16層堆疊HBM稍晚于2026年推出。因?yàn)楫?dāng)前距離量產(chǎn)時(shí)間還較早，還沒(méi)有相關(guān)產(chǎn)品參數(shù)出來(lái)。

SK海力士在HBM方面一直處于領(lǐng)先地位，由其主導(dǎo)并采用的HBM以硅通孔技術(shù)（TSV：Through Silicon Via）、批量回流模制底部填充（MR-MUF：Mass Reflow-Molded Underfill）先進(jìn)封裝技術(shù)在行業(yè)享有盛名。目前隨著HBM芯片堆疊層數(shù)的增加，MR-MUF技術(shù)容易翹曲、導(dǎo)致晶圓末端彎曲、空洞現(xiàn)象（即保護(hù)材料在某些區(qū)域分布不均勻）的問(wèn)題引起行業(yè)高度關(guān)注。SK海力士方表示，正在推進(jìn)TSV和MR-MUF的技術(shù)發(fā)展。與HBM開(kāi)發(fā)初期相比，他們成功地減少了翹曲現(xiàn)象，目前正在開(kāi)發(fā)克服這一問(wèn)題的技術(shù)。下一步，抉擇會(huì)聚焦在減少空隙。

此外，SK海力士還致力于芯粒（Chiplet）及混合鍵合（Hybrid bonding）等下一代先進(jìn)封裝技術(shù)的開(kāi)發(fā)，以支持半導(dǎo)體存儲(chǔ)器和邏輯芯片之間的異構(gòu)集成，同時(shí)促進(jìn)新型半導(dǎo)體的發(fā)展。當(dāng)中，Hybrid bonding也是被看作是HBM封裝的又一個(gè)新選擇。但根據(jù)之前的計(jì)劃不一樣，SK海力士打算在下一代的HBM 4中持續(xù)采用尖端封裝技術(shù)MR-MUF。作為替代方案而出現(xiàn)的混合鍵合技術(shù)預(yù)計(jì)由于HBM標(biāo)準(zhǔn)的放寬而緩慢引入。

三星方面則計(jì)劃通過(guò)針對(duì)高溫環(huán)境優(yōu)化的NCF組裝技術(shù)和尖端工藝技術(shù)，將16H技術(shù)融入下一代HBM4中。據(jù)三星的規(guī)劃，HBM 4將在2025年生產(chǎn)樣品。另外據(jù)外媒報(bào)道，三星在早前的一個(gè)會(huì)議上表示，正在考慮在HBM 4中使用混合鍵合或NCF。其認(rèn)為，混合鍵合更具優(yōu)勢(shì)，因?yàn)樗鼈兛梢跃o湊地添加更多堆疊，而無(wú)需使用填充凸塊進(jìn)行連接的硅通孔(TSV)。使用相同的技術(shù)，HBM上的核心芯片DRAM也可以變得更厚。

這里值得關(guān)注的便是三星在HBM封裝上采用的TC-NCF非導(dǎo)電薄膜熱壓縮先進(jìn)封裝技術(shù)。這是一種與SK海力士MR-MUF略有不同的技術(shù)。在每次堆疊芯片時(shí)，都會(huì)在各層之間放置一層不導(dǎo)電的粘合膜。該薄膜是一種聚合物材料，用于使芯片彼此絕緣并保護(hù)連接點(diǎn)免受撞擊。隨著發(fā)展，三星逐漸減少了NCF材料的厚度，將12層第五代HBM3E的厚度降至7微米(μm)。該公司認(rèn)為這種方法的優(yōu)點(diǎn)是可以最大限度地減少隨著層數(shù)增加和芯片厚度減小而可能發(fā)生的翹曲，使其更適合構(gòu)建更高的堆棧。

美光是這場(chǎng)HBM戰(zhàn)局中的半路殺出者，畢竟它一入局，便將目光投向了HBM3。如下圖所示，美光曬出了其HBM3E和HBM4產(chǎn)品路線圖。方案路線圖顯示，其HBM4預(yù)計(jì)在2026年推出，而到2028年則由HBM4E接棒。

圖片來(lái)源：美光

關(guān)于未來(lái)的布局，美光披露了暫名為HBMnext的下一代HBM內(nèi)存，業(yè)界猜測(cè)這有可能便是其HBM 4。美光預(yù)計(jì)HBMNext將提供36 GB和64 GB容量，這意味著多種配置，例如12-Hi 24 Gb堆棧(36 GB)或16-Hi 32 Gb堆棧(64 GB)。至于性能，美光宣稱每個(gè)堆棧的帶寬為1.5 TB/s–2+TB/s，這意味著數(shù)據(jù)傳輸速率超過(guò)11.5 GT/s/pin。

2）產(chǎn)業(yè)鏈三大改變引發(fā)行業(yè)熱議

HBM4時(shí)代，產(chǎn)業(yè)鏈出現(xiàn)三大方面的改變近期引起行業(yè)熱議。

（一）內(nèi)存接口的重大變革：或?qū)拿慷褩?024位增加到每堆棧2048位

據(jù)行業(yè)多方消息，組織者正在考慮再次加寬，第六代HBM4接口寬度將從每堆棧1024位增加到每堆棧2048位。自2015年以來(lái)，所有HBM堆棧都采用1024位接口。當(dāng)前的內(nèi)存接口被設(shè)計(jì)為寬但較慢的內(nèi)存技術(shù)，在HBM4到來(lái)之前，這種以相對(duì)適中的時(shí)鐘速度運(yùn)行的超寬接口還行之有效，但隨著時(shí)鐘速度的提高，高度并行內(nèi)存面臨著與GDDR和其他高度串行內(nèi)存技術(shù)相同的信號(hào)完整性和能效問(wèn)題的風(fēng)險(xiǎn)。

據(jù)悉，出于多種技術(shù)原因，組織者打算在不增加HBM內(nèi)存堆棧占用空間的情況下實(shí)現(xiàn)這一目標(biāo)，從而實(shí)質(zhì)上使下一代HBM內(nèi)存的互連密度加倍。最終結(jié)果將是一種具有比當(dāng)今HBM更寬的內(nèi)存總線的內(nèi)存技術(shù)，為內(nèi)存和設(shè)備供應(yīng)商提供了進(jìn)一步提高帶寬而無(wú)需進(jìn)一步提高時(shí)鐘速度的空間，這將使HBM4在多個(gè)層面上實(shí)現(xiàn)重大技術(shù)飛躍。

采用2048位內(nèi)存接口，理論上可以使傳輸速度再次翻倍。例如，英偉達(dá)的旗艦Hopper H100 GPU，搭配的六顆HBM3達(dá)到6144-bit位寬。如果內(nèi)存接口翻倍到2048位，英偉達(dá)理論上可以將芯片數(shù)量減半到三個(gè)，并獲得相同的性能。

總體而言，所有這一切反過(guò)來(lái)都需要芯片制造商、內(nèi)存制造商和芯片封裝公司之間更加密切的合作，以使一切順利進(jìn)行。臺(tái)積電設(shè)計(jì)基礎(chǔ)設(shè)施管理主管Dan Kochpatcharin在阿姆斯特丹舉行的臺(tái)積電OIP 2023會(huì)議上發(fā)表講話時(shí)表示：“因?yàn)樗麄儧](méi)有將速度加倍，而是使用HBM4將[接口]引腳加倍。這就是為什么我們正在推動(dòng)確保我們與所有三個(gè)合作伙伴合作，[使用我們先進(jìn)的封裝方法]驗(yàn)證他們的HBM4，并確保RDL或中介層或兩者之間的任何內(nèi)容都可以支持[HBM4]的布局和速度。因此，我們與三星、SK海力士和美光攜手合作。”

（二）臺(tái)積電與三大原廠密切合作，未來(lái)特殊工藝產(chǎn)能擴(kuò)產(chǎn)，或需建造新的晶圓廠

如上文所說(shuō)，自HBM4開(kāi)始，三大存儲(chǔ)原廠SK海力士、三星、美光與臺(tái)積電更加緊密的聯(lián)系在一起。臺(tái)積電設(shè)計(jì)與技術(shù)平臺(tái)高級(jí)總監(jiān)表示，正在與主要HBM存儲(chǔ)合作伙伴（美光、三星、SK海力士）合作，在先進(jìn)節(jié)點(diǎn)上達(dá)成HBM4的全堆棧集成。

近期，臺(tái)積電在2024年歐洲技術(shù)研討會(huì)演講中表示，HBM4將使用邏輯工藝構(gòu)建，計(jì)劃采用其N12FFC+和N5制程完成這項(xiàng)任務(wù)。另外，CoWoS先進(jìn)封裝技術(shù)還在不斷升級(jí)，專注于將晶圓級(jí)處理器與HBM4內(nèi)存集成最新封裝技術(shù)CoW-SoW也即將推出。

在2024年歐洲技術(shù)研討會(huì)演講中，臺(tái)積電提供了將為HBM4制造的基礎(chǔ)芯片的一些新細(xì)節(jié)。據(jù)悉，臺(tái)積電表示，該芯片將使用邏輯工藝構(gòu)建，計(jì)劃采用N12FFC+和N5兩種制造工藝。據(jù)悉，N12FFC+具有成本效益的基礎(chǔ)芯片可以達(dá)到HBM的性能，而N5基礎(chǔ)芯片可以在HBM4速度下以低得多的功耗提供更多邏輯。

公開(kāi)資料顯示，臺(tái)積電采用N12FFC+制造工藝（12nm FinFet Compact Plus，屬于12nm制程，但其根源于臺(tái)積電經(jīng)過(guò)充分驗(yàn)證的16nm FinFET生產(chǎn)節(jié)點(diǎn)）制造的基礎(chǔ)芯片將用于在硅片上安裝HBM4內(nèi)存堆棧片上系統(tǒng)(SoC)旁邊的中介層。臺(tái)積電認(rèn)為，他們的12FFC+工藝非常適合實(shí)現(xiàn)HBM4性能，使內(nèi)存供應(yīng)商能夠構(gòu)建12-Hi(48 GB)和16-Hi堆棧(64 GB)，每堆棧帶寬超過(guò)2 TB/秒。

為了適配未來(lái)HBM4的產(chǎn)能，臺(tái)積電表示計(jì)劃到2027年將其上述提到的特種技術(shù)產(chǎn)能擴(kuò)大50%。該公司在歐洲技術(shù)研討會(huì)上透露本周，臺(tái)積電預(yù)計(jì)不僅需要轉(zhuǎn)換現(xiàn)有產(chǎn)能以滿足特殊工藝的需求，甚至還需要為此目的建造新的（綠地）晶圓廠空間。這一需求的主要驅(qū)動(dòng)力之一將是臺(tái)積電的下一個(gè)專用節(jié)點(diǎn)：N4e，一個(gè)4納米級(jí)超低功耗生產(chǎn)節(jié)點(diǎn)。

另外，提及HBM，必不可少便是臺(tái)積電的CoWoS先進(jìn)封裝技術(shù)。

CoWoS封裝技術(shù)主要分為CoW和oS兩段，其中，CoW（Chip-on-Wafer）指的是芯片堆疊，主要整合各種Logic IC（如CPU、GPU、AISC等）及HBM存儲(chǔ)器等。WoS（Wafer-on-Substrate）則是將芯片堆疊在基板上，主要將上述CoW以凸塊（Solder Bump）等接合，封裝在基板上，最后再整合到PCBA，成為服務(wù)器主機(jī)板的主要運(yùn)算單元，與其他零部件如網(wǎng)絡(luò)、儲(chǔ)存、電源供應(yīng)單元（PSU）及其他I/O等組成完整的AI服務(wù)器系統(tǒng)。目前，CoWoS有2.5D和3D封裝版本，以適配企業(yè)可以根據(jù)需求不同選擇不同價(jià)格的制程的組合。

臺(tái)積電高級(jí)總監(jiān)表示，目前正在針對(duì)HBM4優(yōu)化CoWoS-L和CoWoS-R技術(shù)。CoWoS-L和CoWoS-R都使用超過(guò)八層，以實(shí)現(xiàn)HBM4的路由超過(guò)2000個(gè)互連，并具有[適當(dāng)?shù)腯信號(hào)完整性。N12FFC+上的HBM4基礎(chǔ)芯片將有助于使用TSMC的CoWoS-L或CoWoS-R先進(jìn)封裝技術(shù)構(gòu)建系統(tǒng)級(jí)封裝(SiP)，該技術(shù)可提供高達(dá)8倍標(biāo)線尺寸的中介層—足夠的空間容納多達(dá)12個(gè)HBM4內(nèi)存堆棧。根據(jù)臺(tái)積電的數(shù)據(jù)，目前HBM4可以在14mA電流下實(shí)現(xiàn)6GT/s的數(shù)據(jù)傳輸速率。據(jù)臺(tái)積電表示，該公司目前正與Cadence、Synopsys和Ansys等EDA合作伙伴合作，驗(yàn)證HBM4通道信號(hào)完整性、IR/EM和熱精度。

除此之外，臺(tái)積電還在布局最新封裝技術(shù)CoW-SoW。在近期的北美技術(shù)研討會(huì)上，臺(tái)積電推出了下一代晶圓系統(tǒng)平臺(tái)——CoW-SoW——該平臺(tái)將實(shí)現(xiàn)與晶圓級(jí)設(shè)計(jì)的3D集成。該技術(shù)建立在臺(tái)積電2020年推出的InFO_SoW晶圓級(jí)系統(tǒng)集成技術(shù)的基礎(chǔ)上。到目前為止，只有特斯拉在其Dojo超級(jí)計(jì)算機(jī)中采用了這項(xiàng)技術(shù)，臺(tái)積電表示該計(jì)算機(jī)現(xiàn)已投入生產(chǎn)。

在即將推出的CoW-SoW平臺(tái)中，臺(tái)積電將在其晶圓系統(tǒng)平臺(tái)中合并兩種封裝方法——InFO_SoW和集成芯片系統(tǒng)(SoIC)。通過(guò)使用晶圓上芯片(CoW)技術(shù)，該方法將能夠?qū)⒋鎯?chǔ)器或邏輯直接堆疊在晶圓上系統(tǒng)之上。據(jù)了解，臺(tái)積電的CoW-SoW專注于將晶圓級(jí)處理器與HBM4內(nèi)存集成。這些下一代內(nèi)存堆棧將采用2048位接口，這使得將HBM4直接集成在邏輯芯片頂部成為可能。同時(shí)，在晶圓級(jí)處理器上堆疊額外的邏輯以優(yōu)化成本也可能是有意義的。新的CoW_SoW技術(shù)預(yù)計(jì)將在2027年實(shí)現(xiàn)大規(guī)模生產(chǎn)，但實(shí)際產(chǎn)品何時(shí)上市還有待觀察。

然而，行業(yè)消息顯示，InFO_SoW技術(shù)也有著一定的局限性。例如，使用這種方法制造的晶圓級(jí)處理器完全依賴于片上存儲(chǔ)器，這可能無(wú)法滿足未來(lái)人工智能的需求（但目前來(lái)說(shuō)很好）。CoW-SoW將解決這個(gè)問(wèn)題，因?yàn)樗鼘⒃试S將HBM4放置在此類晶圓上。此外，InFO_SoW晶圓采用單節(jié)點(diǎn)加工，該節(jié)點(diǎn)不支持3D堆疊，而CoW-SoW產(chǎn)品將支持3D堆疊。

（三）談?wù)凥BM4以后的專業(yè)化、定制化趨勢(shì)

在談及HBM4時(shí)，臺(tái)積電以及SK海力士、三星、美光均提及專業(yè)定制化趨勢(shì)。據(jù)悉，目前三大原廠目前與英偉達(dá)、AMD、微軟簽訂的HBM供應(yīng)協(xié)議早已開(kāi)啟了定制條款。

SK海力士認(rèn)為，市場(chǎng)將更傾向于專業(yè)化(Specialized)和定制化(Customized)產(chǎn)品，以滿足客戶需求。他強(qiáng)調(diào)，對(duì)于新一代HBM，卓越的性能是基本條件，同時(shí)，還須具備滿足不同客戶的特定需求、超越傳統(tǒng)存儲(chǔ)器性能的優(yōu)勢(shì)。

三星則表示，業(yè)界越來(lái)越認(rèn)識(shí)到，處理器和內(nèi)存公司各自優(yōu)化其產(chǎn)品的孤立努力不足以釋放AGI時(shí)代所需的創(chuàng)新。因此，“定制HBM”成為潮流，這也代表了實(shí)現(xiàn)處理器和內(nèi)存之間協(xié)同優(yōu)化以加速這一趨勢(shì)的第一步。為此，三星利用其在內(nèi)存、代工、系統(tǒng)LSI和先進(jìn)封裝方面的綜合能力。

在剛剛結(jié)束的美光科技交流會(huì)上，美光透露出一條重磅消息，在HBM產(chǎn)能不足的背景下，業(yè)內(nèi)已經(jīng)越來(lái)越傾向于定制化的HBM產(chǎn)品，主要是因?yàn)橄掠慰蛻粼桨l(fā)個(gè)性化的需求。為了解決客戶對(duì)于性能、功能、尺寸、形態(tài)、功效等方面的差異化需求，市場(chǎng)將更傾向于打造專業(yè)化(Specialized)和定制化(Customized)HBM產(chǎn)品。

此前，行業(yè)針對(duì)HBM大規(guī)模擴(kuò)產(chǎn)的行為產(chǎn)生未來(lái)是否會(huì)過(guò)剩擔(dān)憂。行業(yè)人士表示，專業(yè)化和定制化可以有效解決這類問(wèn)題。由于定制化的存儲(chǔ)產(chǎn)品與客戶需求高度耦合，未來(lái)存儲(chǔ)廠商和客戶會(huì)有更深的綁定關(guān)系。這一改變可以增加HBM下游供給的確定性，使得存儲(chǔ)廠商在做產(chǎn)能規(guī)劃的時(shí)候更有計(jì)劃性。