SRAM 最近因為 輝達(NVIDIA)董事長黃仁勳於 2025 年底傳出以約 200 億美元(約 6,300 億台幣)併購或大規模收購 AI 新創公司 Groq 的技術團隊,讓其核心架構所依賴的 SRAM(靜態隨機存取記憶體) 成為市場焦點。 Groq 的 LPU(語言處理器)之所以能在推論速度上碾壓傳統 GPU,關鍵就在於它捨棄了主流的高頻寬記憶體(HBM),改採極速的 SRAM 作為主要的存取架構。 SRAM 為什麼變重要? 1. 速度與延遲的降維打擊 • SRAM: 延遲僅為奈秒(ns)級別,頻寬可達 80 TB/s(如 Groq 晶片)。 • HBM3e: 延遲為百倍以上的毫秒級別,頻寬約為1-5 TB/s。 • 結論: 在 AI 推論(Inference)階段,SRAM 能提供極致的反應速度,這也是黃仁勳看中 Groq 架構的主因。 2. 「SRAM 縮減牆」的技術瓶頸 目前的技術難點在於,當製程從 5 奈米微縮到 3 奈米時,邏輯電路可以縮小 40%,但 SRAM 的體積幾乎不再縮小。 • 台積電技術力: 台積電在 2 奈米節點引入新的單元設計,雖然縮小困難,但其密度仍領先 Intel 18A 約 1.1~1.2 倍。 • 3D Stacking(3D 堆疊): 這是目前的突破點(如 AMD 的 3D VCache)。愛普 (AP Memory) 等台廠也在研發將 SRAM 與邏輯晶片直接垂直堆疊,解決空間不足的問題。 SRAM 市場主要分為 「嵌入式(Embedded SRAM)」 與 「獨立式(Standalone SRAM)」 兩大類。 1. 嵌入式 SRAM(邏輯晶片內建) 這是目前 AI 晶片(如 Groq、NVIDIA GPU、Apple A 系列)最核心的技術戰場,SRAM 直接整合在處理器內部。 2. 獨立式/利基型 SRAM(單獨封裝) 這類產品多用於工業、車用、通訊設備或低功耗 AI 終端。 未來 AI 導入 LPU 架構後的 SRAM 需求預估 若 LPU(Groq 技術路徑)成為推論市場的主流,SRAM 的需求將呈現「幾何倍數」成長。我們可以從以下數據進行預算: 1. 單顆晶片的「SRAM 密度」提升 • 傳統 GPU 模式: 一顆 NVIDIA H100 內部的 SRAM(快取)大約僅有 50MB - 80MB,主要用來暫存指令。 • LPU 模式: 為了存放模型權重,單顆 Groq 晶片需要配置 230MB 的 SRAM。 • 結論: 為了達到 LPU 的效能,單顆 AI 晶片的 SRAM 物理需求量是現在的 3 到 5 倍。 2. 「晶片組(Cluster)」的乘數效應 由於 SRAM 容量小,存放一個 Llama 3 (70B) 模型: • 使用 GPU (HBM): 僅需 1 到 2 顆 H200 晶片即可放下整個模型。 • 使用 LPU (SRAM): 由於 SRAM 密度低,需要將約 500 到 600 顆 LPU 晶片串聯才能放下同一個模型。 • 結論: 為了解決 SRAM 空間不足的問題,系統端必須採購「更多數量的晶片」。這對提供 SRAM IP 與代工的廠商來說,是數量(Volume)與單價(ASP)的雙重爆發。 3. 市場規模(TAM)量化想像 根據產業分析師的初步推估: • 目前(2024/2025): 全球獨立 SRAM 市場約 20 億美元。 • 未來(2027+): 若 AI 推論伺服器有 20% 轉採「類 LPU 架構」,則衍生出的嵌入式 SRAM 產值與相關封裝(SoIC)商機,預計將突破 100 億至 150 億美元,成為記憶體市場中成長最快的子板塊。
中性
出處 ·同學會