存算一體晶片 · Compute-in-Memory · 存內計算 · 近存計算 · MaskROM
什麼是存算一體晶片?原理、三條技術路線與適用場景
燔石半導體技術團隊 · 釋出

存算一體晶片(Compute-in-Memory)讓乘加運算直接在儲存陣列內完成,模型權重不需要離開儲存單元。它針對的是大模型推理中最大的開銷:把權重從記憶體搬到計算單元。按權重存放的位置,主流路線分為 MaskROM 光罩存算一體、SRAM 存內計算和近存計算三種。
它解決的是搬運問題,不是算力問題
大模型推理的每一個 token,都要把模型的全部權重讀一遍。以一個 0.8B 參數、INT8 精度的模型為例,生成一個 token 至少要從儲存讀出約 0.8 GB 資料。傳統架構下這些資料要經過匯流排進入計算單元,算完再把結果寫回。計算本身只佔很小一部分能耗,絕大部分電和時間花在了「搬」上。
這就是所謂的記憶體牆。在資料中心可以用 HBM 和更高的功耗預算硬扛,端側裝置沒有這個條件:頻寬是幾十 GB/s 量級,功耗預算是幾瓦。只要權重還需要搬運,端側就跑不動像樣的大模型。
存算一體的思路是反過來:既然搬運是瓶頸,就不搬。讓權重住在儲存陣列裡,把乘加電路做進陣列旁邊或陣列內部,激活流過去、結果流出來,權重原地不動。
三條路線:權重放在哪裡
MaskROM 光罩存算一體:權重在投片的光罩環節被物理鑄入矽晶片的通孔陣列。它是隻讀的,執行時沒有任何外部權重搬運,功耗和單次推理的邊際成本最低。代價是模型固化,換模型意味著換光罩。適合模型穩定、出貨量明確的裝置,例如隨身翻譯終端和離線語音助手。
SRAM 存內計算(SRAM CIM):乘加發生在 SRAM 陣列內,權重上電時載入,可以更新。它保留了「運算不出儲存單元」的優勢,同時允許現場換模型,適合中等規模模型和需要迭代的產品。
近存計算(Near-Memory Compute):權重駐留在高頻寬外存裡,計算單元貼著儲存放,用片上流式排程把搬運成本壓到最低。它不是嚴格意義的「存內」,但對參數量大、模型還在快速演進的重載場景最實際。
怎麼選:先回答「模型多久變一次」
選路線的第一個問題不是算力,而是模型的更新頻率。模型一年內不會變、出貨幾十萬顆,MaskROM 的成本和功耗優勢無人能及;模型每季度迭代,近存計算或 SRAM CIM 更穩妥。
第二個問題是參數量。單瓦級功耗預算對應的是 1B 以內的模型;要在端側跑 30B 級別的模型,需要近存路線配合幾十瓦的整機功耗。
燔石半導體第一代晶片正好對應三條路線:逐火 Forge 走 MaskROM,面向 Qwen 3.5 0.8B 的單瓦級終端;鎮嶽 Trident 走近存計算,最高支援 Qwen 3.5 35B;千目 Argus 走 SRAM 存內計算,面向 120 FPS 的即時視覺推理。上述均為設計目標口徑。
常見誤解
「存算一體需要先進製程」:不需要。它的收益來自架構,而不是電晶體密度。燔石基於成熟的 SMIC 28nm 供應鏈,這也是成本與供貨可控的原因。
「存算一體只能跑小模型」:MaskROM 路線確實偏向固定的小中型模型,但近存路線可以承載幾十 B 參數量。真正的限制是功耗預算,不是架構。
「精度會損失」:存算一體的數字實現(區別於早期的模擬存內計算)在陣列內做的是精確的整數乘加,精度由量化方案決定,與在 GPU 上做 INT8 推理是同一件事。



