← 所有文章

AI 推論的儲存分層:哪些 SSD 能減少 GPU 等待並留下利潤

AI 推論中的 SSD 價值,取決於它能否用較低的整體成本交付所需資料。容量增加只是起點;若搬運太慢、命中率太低,或尾端延遲讓 GPU 等待,較便宜的儲存仍可能使服務更昂貴。

推論系統同時管理模型權重、使用者資料與中間計算結果。這些資料的存取頻率、重用機會與延遲要求不同,因而需要分層。把部分資料移到 SSD,可能節省較昂貴的記憶體或重算成本,也可能增加傳輸、快取管理與恢復的代價。下文 Kioxia 的公開技術材料,正好把向量搜尋與 KV cache 拆成不同需求。

研究這個問題,才能從「AI 會買更多儲存」走到具體的產品與利潤判斷。控制器、韌體、NAND 原廠與系統整合商能留下多少收益,要看誰能穩定減少 GPU 等待,以及競爭者能否提供同樣改善。群聯的營運數字則用來檢查這條技術路徑是否真的進入收入與現金。

SSD 靠近 GPU,不等於取代 HBM

Kioxia 在 2026 年 9 月 15 日的技術訪談中,把兩種需求分得很清楚:GP 系列瞄準向量資料庫搜尋的小區塊隨機讀取;CM 系列則處理 KV cache,重視連續讀取與反覆寫入的可靠性。GP 系列預計年底前提供特定客戶評估樣品。這是公司的產品方向與時程,不是已經放量的收入。

兩者不能用同一張 IOPS 排名表判斷。向量搜尋要解決的是大量分散資料的存取;KV cache 保存的是模型先前算出的 attention keys 與 values,不是把完整答案存起來。若能重用,就有機會省下重複計算;但資料搬運本身也花時間。正在參與運算的熱資料,仍須放在符合延遲與頻寬需求的層級,不能因為 SSD 每 GB 便宜,就全部往下搬。

我的判斷標準很直接:重用資料省下的運算成本,是否大於搬運、儲存與等待成本?命中率低、資料很快過期,或恢復快取比重新計算還慢,容量再大也沒有經濟價值。應用的上下文長度、請求重複程度與服務延遲要求,才決定可服務市場,不能把所有推論支出都算進 SSD 的需求。

效能溢價,最後由誰收走?

Kioxia 在 2026 年 3 月 17 日的策略訪談已描述另一條路:以 XL-FLASH 搭配新控制器追求高 IOPS,同時另走高密度、低單位成本的產品路線。這份較早的材料值得回看,因為它說明供給反應不是只有擴產,還包括把不同工作負載拆成不同產品。

我的推論是,利潤有機會往控制器、韌體與系統整合移動,但 NAND 原廠並不會因此退到背景。原廠可以把特殊快閃記憶體與自家控制器一起最佳化;獨立控制器廠則必須證明,它能跨不同 NAND 世代,穩定交付客戶需要的效能。

要看的是混合讀寫、長時間負載下的尾端延遲與耐用度,展示時的峰值參考價值有限。平均速度夠快,偶發停頓卻讓 GPU 等待,客戶未必買單。認證與韌體調校可能形成黏著度;反過來,若介面標準化後替換容易,效能改善最後就可能變成買方的降價工具。

所以「SSD 含量增加」只是收入入口。能否留下毛利,要看替代方案需要付出多少代價。

群聯的營收很強,但還不能跳過產品組合

回到台股,群聯是值得拆帳的例子。2026 年 9 月 9 日公布的八月營運資料顯示,月營收達新台幣 282.76 億元,年增 377%;公司另披露控制器總出貨月增 10%,PCIe SSD 控制器出貨月增 77%,並將成長連結到 AI 與企業儲存需求。

數字足以提高研究優先序,卻還不足以把整段成長歸給 AI 推論。營收與出貨採用不同比較期間,不能相除推算 ASP;PCIe 控制器也不是全部用在資料中心。公告沒有把 AI 相關產品的收入與毛利單獨拆開。

接下來一至四季,我會先追高階產品占比與毛利額,再看新增研發費用,以及庫存、應收帳款吃掉多少現金。假如成長主要來自搭售 NAND 的金額增加,營收會放大,備貨資金也可能一起放大;只有毛利與現金回收跟上,營收成長才會轉成利潤。這是需要驗證的財務傳導,不是目前已確認的成長原因。

也不能把 Kioxia 的技術路線當成群聯拿到訂單的證據。前者證明客戶問題值得解,後者仍要靠自己的產品、認證與出貨回答。

我會等的,是效能優勢變成現金

這個方向最強的反證,是軟體進步得比儲存需求更快,這比「AI 不成長」更值得擔心。若壓縮、快取管理或模型架構讓每次請求需要搬運的資料減少,工作量上升未必帶來同比例的 SSD 採購。另一種情況是高階 SSD 成功普及,卻因多家供應商追上而快速降價;產業成功,不代表供應商能維持超額利潤。

因此,我會把客戶驗證後的重複採購、產品毛利與現金回收放在一起看。若只有樣品與規格升級,先保持研究;若量產收入增加、毛利改善,營運資金卻沒有失控,才是盈利斜率真的改變。若持續以低價換量,就要收回定價權的假設。