美伊戰爭打響,恐懼與貪婪與產業無關,剛好靜下心來回答很多人對SanDisk 跟 SK Hynix 聯手推 HBF 的疑問,從這波記憶體缺貨開始(去年9月),就不斷有人想要了解HBF未來的走向,我一次把我的理解跟大家說明。 這半年記憶體從「景氣循環」直接變成「戰略物資」,你只要跟任何一間做伺服器、做 AI 模組、做系統整合的公司聊,就會知道現在市場不是在問「要不要買」,是在問「你拿不拿得到」。也因為這樣,任何看起來像是要打破記憶體牆的新名詞,都會被放大檢視。問題是,HBF 不是來取代 HBM 的,它其實是在承認一件事:HBM 解的是頻寬,但它永遠不可能用一個合理的成本,去承接接下來推理時代那種爆炸式的資料量。你想像一下,HBM 就像超跑的油門反應,快到不可思議,可是它的後車廂就是小;SSD 像貨櫃車,能載,但你要它跟超跑一起跑,超跑就只能在那邊空轉。HBF 的定位,說穿了就是想在這兩者中間硬擠出一層,讓 GPU 不要因為資料搬不動而閒著,讓那些塞不進 HBM 的權重、上下文,不必每次都繞遠路去找 SSD。 新聞講「準備推出統一格式」,市場就容易腦補成「要量產了」。我反而想提醒大家,真正的難題不是 SanDisk 疊不疊得起 NAND,而是它能不能被 Nvidia 這種等級的「系統國王」放進參考設計。你看這個產業的節奏就知道了,任何要進 AI 伺服器核心架構的東西,從概念、規格、到整套生態的驗證,沒有三年起跳幾乎不可能。尤其 HBF 不是插在主機板上就好,它想要的位置很貪心,是靠近 GPU、靠近 interposer、甚至靠近 CoWoS 的那個世界。那個世界現在是誰說了算?TSMC 的產能說了算,封裝良率說了算,還有最現實的一件事:你多放一個新記憶體層進去,面積變大、散熱更難、成本更高,客戶到底願不願意為那個「中間層」買單。 而 HBF 最致命、也最容易被忽略的,是 NAND 的天性。NAND 不是 DRAM,它天生就怕熱、怕寫、怕長期在高溫高壓環境裡被操。HBM 在那個工作條件下是合理的,因為 DRAM 的特性允許它在高頻高功耗下長期運轉;但 NAND 你讓它一直待在高熱區域,它的 retention 會掉、錯誤率會上升、壽命會衰退,最後系統就得用更強的 ECC、更保守的寫入策略、更偏向讀多寫少的使用模型去救它。也就是說,HBF 如果要活下來,它的角色很可能不是「Flash 版 HBM」這麼浪漫,而是「準持久型的高速資料池」:讀很多、寫很少,讓 KV cache 這類資料以特定方式被管理,甚至以類 pSLC 的方式犧牲容量換壽命。這一套做下去,成本就會上去,而成本一上去,市場自然會問:那我為什麼不把更多事情交給更成熟的 SSD offload 或 CXL 記憶體池化? 所以我一直強調一個順序:HBF 真正放量之前,產業一定會先把更容易落地、且不用重做封裝設計的路徑跑完。你會先看到 HBM 繼續往更大容量、更高堆疊走,因為這條路 Nvidia 跟 Hynix 已經跑得很熟;你會先看到 NVMe SSD 叢集跟軟體層把 KV cache 外掛做得更完整,因為這條路成本最低、導入最快;你也會先看到 CXL 的 pool 化在資料中心慢慢成形,因為它解的是資源調度效率,而不是硬塞新硬體進 GPU package。當這些路徑跑到某個臨界點,大家才會回頭問:是不是還需要一個介於 HBM 與 SSD 之間的新階層?那時候 HBF 才會有它真正的舞台。 那麼,這件事會不會加劇缺貨?我偏向會,尤其是在過渡期。因為只要 HBF 被定位成「AI 專用高階 NAND」,它就會像 HBM 之於 DRAM 一樣,把最好的晶圓、最好的產能、最好的封裝資源往 AI 方向吸走。市場會開始出現更明顯的分層:一邊是消費性 NAND,價格依然循環;另一邊是 AI 等級 NAND,規格客製、供貨鎖定、議價權上移。這也是為什麼我覺得那種「NAND 永遠是 commodity」的論述,在新的 AI 基礎設施架構下會越來越站不住腳。不是NAND本身變神了,而是它被迫走向「被系統設計綁定」的路徑,一旦綁定進 GPU 叢集,你就不再用傳統的供需循環看它,而是用「誰掌握生態、誰掌握標準、誰拿得到產能」去看它。 最後回到這次合作最核心的意義:SanDisk 需要的不是技術背書,而是生態通行證;SK Hynix 提供的也不只是產能,而是它跟 Nvidia、雲端大客戶、以及先進封裝供應鏈之間的既有關係。兩邊一起喊 OCP 標準化,本質上就是在搶下一個位置:讓未來資料中心的記憶體金字塔從兩層變三層、甚至變多層,而那個新樓層由誰定義。三星選擇自己做、自己定,這很三星;美光現在全力押 HBM4,短期不想分心也合理。但不管誰最後勝出,方向其實很一致:AI 進入推理、代理與長上下文時代後,資料量會逼整個記憶體架構全面重寫。HBF 只是其中一塊拼圖,它如果成功,世界會多一個「高毛利、深度整合、產能被鎖定」的新戰場;它如果暫時不成,市場也不會回到過去,因為記憶體牆已經被證明不是理論題,而是每一筆 capex、每一台伺服器、每一張 GPU 都在真實付出的成本。 HBM 讓 GPU 會思考,但推理時代真正決定成本的,是資料放在哪裡、怎麼搬、誰能穩定供應,而 HBF 正是在這個問題上,嘗試把「儲存」變成「基礎設施的一部分」。