最新觀點

當 AI 開始吞噬記憶體世界 前陣子黃仁勳接受訪問時說，AI 計算需求在短短半年內「substantially」上升。這句話聽起來像宣傳，但你去看底層供應鏈，就會發現他不是在誇張。SK Hynix 預測 AI 記憶體市場未來五年年增三成，三星跟著與 OpenAI 簽合作備忘錄，據傳 OpenAI 的採購量一年要吃掉全球 DRAM 產能的四成。 這種規模，幾乎已經不是「新應用」了，而是「新物種」：AI 正在重塑整個記憶體與儲存產業。 AI 的算力不是憑空來的。背後是一座層層堆疊的金字塔，頂層是 GPU/XPU 的 HBM，往下是伺服器主記憶體的 DRAM，再下去是 SSD、HDD，最後延伸到資料中心裡成百上千台的 Storage Server。每一層都在被重新定義。 CPU 那一層最傳統，但也最穩定。DRAM 雖然聽起來沒什麼話題性，但 AI 帶來的卸載策略正在讓它回到舞台中央。當 GPU 的記憶體塞不下更多上下文、KV Cache 要釋放時，資料會先丟回 DRAM，再視情況存進 SSD。DRAM 不再只是輔助，而是 VRAM 的延伸：頻寬、延遲、穩定度都被拉高到比以往更關鍵的層級。 再往上看 GPU。過去我們把 HBM 當作高端配件，但現在它幾乎變成了 AI 晶片的靈魂。Nvidia 的每一代架構都在堆頻寬，HBM 從 2 到 3 到 3E，帶寬、容量、堆疊層數一路飆升。SK Hynix、三星、Micron 三強在這裡拼的是「能不能撐得起模型的胃口」。只是要記得，這塊市場的主角不會只有 HBM，因為 AI 不止一種。像邊緣端、推論型應用，成本更在意，會改用 GDDR7／8；整體來看，AI 正把不同層級的記憶體都往更快、更廣推進。 有趣的是，當我們討論 AI 的記憶體戰爭時，很多人忘了「儲存」其實才是那個更長尾、也更賺錢的戰場。訓練用的模型、參數、資料集，全都放在 SSD 和分散式儲存系統裡。這些不是短暫載入的檔案，而是動輒幾十TB、甚至PB 等級的長期資料。SSD 的延遲要夠低，才能撐起這樣的訓練節奏。 而在推理階段，還有一個容易被忽略的角色，檢查點（checkpoint）。AI 模型訓練常常中斷，如果不定期把狀態寫進非揮發性儲存（通常是 SSD），一次故障就可能要重來幾週。這讓 SSD 不只是快閃儲存，而是 AI 系統裡的「記憶延續」。 卸載（offloading）則是整個架構裡最新的革命。以前要讓 VRAM 的資料動態轉移到 DRAM 或 SSD，要自己寫程式；現在像 Nvidia 的 Dynamo 等工具，已經能自動判斷哪些資料要留在高速層、哪些可以暫存或搬移。這讓 AI 系統能突破單一顯卡記憶體的限制，變成真正的「分層式大腦」。未來誰能把這層做得好，可能就決定一間 AI 公司模型的效能上限。 但最龐大的，還是那最後一層——儲存 AI 生成的結果。文字、圖片、影片、音訊，每一項都是資料洪流。現在一個生成式影片模型動輒輸出上百GB內容，這些檔案要永久保存，靠的不是GPU機櫃，而是整個 Storage Cluster。這裡 SSD 和 HDD 分工明確：熱資料存在 SSD，冷資料交給 HDD。你可能以為 HDD 已經被時代淘汰，但事實上，Seagate 自家統計，全球資料中心裡有七成以上的容量仍是硬碟。AI 讓這個比例不但沒下降，反而更穩定，因為生成資料爆炸、但讀取頻率很低。AI 越強，HDD 越忙。 所以，如果有人再說「SSD 會全面取代 HDD」、「AI 只會嘉惠 HBM」、「AI Server 會吃掉通用 Server」——其實都只看到局部。真正的現象是：AI 正在讓整個記憶體與儲存體系變成一個動態循環的有機體。HBM 是神經，DRAM 是血流，SSD 是短期記憶，HDD 是長期記憶。每一層都在同步進化。 當外資分析師開始上調 HBM 需求預期時，別忘了，Phison CEO 已警告 NAND 可能進入十年長期短缺；而 Dell、Supermicro、WDC、Seagate 的營收指引都開始反映這波「AI 儲存紅利」。AI 不是只改變算力，它正在重寫資料被記住的方式。 而我認為，這場記憶體革命，才剛開始。