這幾天跟外資朋友吃飯,討論到目前最旺的記憶體與storage AI 受惠股,這一輪 Sandisk 與鎧俠(Kioxia Holdings)的漲幅,比美光、海力士這些 DRAM 純度更高的公司還強,經理人對storage的共識度也更高。大家目前看法感覺AI 正式從「訓練時代」跨進「推論時代」,而推論storage需求可能會更強。 過去兩年市場的焦點都在訓練:HBM 要疊幾層、頻寬多高、算力誰最猛。訓練的世界是乾淨的、可排程的、可預測的,一次性把大型資料集掃過去就結束了。但推論完全不是這個邏輯。推論是由全球數十億人的行為隨機觸發,流量亂、I/O 更亂,而且每一次互動都會 loop、都會去讀模型、讀資料庫、讀 KV、寫 log。推論不是算力的比拼,而是 IOPS 的遊戲。 AI 的瓶頸正在從「前台」的 GPU,轉向「後台」的記憶體與儲存階層。你即使給模型一顆最強的 GPU,只要後面的 storage 撐不住,它還是會被餓死。 更關鍵的是,生成式 AI 現在進入多模態與長情境的階段,不再只是一串文字,而是大量影片、圖像、3D 場景、整個 codebase。這些內容本質上,就是 token 的指數級膨脹。訓練時代是線性成長,推論時代是指數爆炸。而這個爆炸,直接打在 storage 身上。 你開始會看到雲端業者除了之前的HDD 繼續用,但新建的開始會改用大容量 QLC SSD;看到原本被當成景氣循環股的 NAND,突然變成新的結構性成長主軸;看到專為推論而生的晶片,不再執著 HBM,而是改用 GDDR7 這種成本更合理、容量更大、頻寬又夠用的方案。整個產業的語言,正在從「比算力」變成「比 TCO」。 推論時代的記憶體,不再是單層結構,而是完整的階層化架構:最前面靠 HBM 撐頻寬,中間要靠新型態的高頻寬快閃記憶體(HBF)容納巨大模型,底層再用 eSSD 撐海量資料湖。這不是單一產品的景氣循環,而是一整套 architecture 的重建。真正被重估的,是「整個存儲鏈」的價值。 而且這不只發生在資料中心。邊緣 AI、AI PC、AI 手機、AI 眼鏡正在成為下一波裝置循環,它們需要更快的啟動碼、更穩的韌體、更高的隨機讀取能力,NOR Flash 因為 XiP 的特性,再次被推上檯面。底層的變化其實比大家想得更深。 Sandisk 與鎧俠(Kioxia Holdings)的股價會領先,可能是因為市場解讀,AI 的需求不只是「把 DRAM 推到極致」,而是讓整個記憶體與儲存階層,在推論時代的壓力下全面升級。真正會長期受惠的,是能解決「大量資料長期存放+高 IOPS 實時調用」這個核心問題的廠商。 我自己看未來兩年的 AI 基礎設施,很難再用過去那種「誰的記憶體 ASP 最快漲」的短線角度去理解。推論是長期、連續、黏著度高的需求,它會重新塑造 NAND、NOR、SSD 甚至新型態快閃記憶體的角色。訓練造就了上一波 AI 全明星;推論,才是真正把 storage 推上舞台的那一波。 這個時代的敘事,已經不是「HBM 又缺了沒?」而是:推論的資料流量,將會把誰推向下一個成長曲線?這一題,才正要開始,記憶體與storage的黃金週期看來還有許多故事。