跳到正文

MaskROM · 光罩存算一體 · 存算一體 · 權重固化 · ROM 存內計算

MaskROM 光罩存算一體:把權重鑄進矽晶片意味著什麼

燔石半導體技術團隊 · 釋出

MaskROM 光罩存算一體把模型權重在投片時通過光罩圖形鑄入矽晶片的通孔陣列,權重成為晶片結構的一部分。執行時權重不需要讀出和搬運,乘加在陣列內就地完成,因此功耗與單次推理邊際成本在所有路線中最低;代價是模型固化,更換模型需要更換光罩。

權重成為矽晶片的一部分

普通晶片的儲存單元在出廠時是空的,權重要在上電後從外部載入。MaskROM 不同:每一個權重的取值在設計階段就被轉換成通孔有無、連線的通斷,畫進光罩版,隨投片一起做進矽晶片。晶片出廠時,模型已經在裡面了。

因為權重就是電路結構,它沒有「讀出」這個動作。激活訊號流過陣列時,乘加在通孔陣列旁的電路里就地完成,輸出的是結果,而不是權重。這就是「鑄進一塊晶片」的字面意思。

為什麼功耗與成本最低

大模型解碼階段的能耗大頭是權重搬運,MaskROM 把這一項直接歸零。同時它不需要 DRAM 或 HBM,整機 BOM 少了一顆昂貴的儲存晶片,也少了對應的功耗和麵積。

MaskROM 單元本身極小,不需要像 SRAM 那樣用六個電晶體儲存一位。同樣的矽晶片面積可以放下更多權重,這也是它能在成熟製程上承載完整語言模型的原因。

光罩是一次性投入,之後每顆晶片的成本只與矽晶片面積和封裝有關。出貨量越大,分攤到每顆的光罩成本越低。

限制:模型固化

權重鑄進矽晶片,就不能再改。換模型意味著重新出光罩、重新投片。所以 MaskROM 路線的前提是模型已經定型,並且經過充分的現場驗證。

一個常見的工程做法是把穩定不變的主體(例如語言模型的主幹)放進 MaskROM,把需要調整的部分(例如少量適配層或提示詞)放在可寫儲存裡。具體劃分需要結合模型結構做專案評估。

適合的產品形態

隨身翻譯終端、智慧語音備忘錄硬體、離線車載語音助手:這些產品的共同點是模型任務清晰、出貨量大、對功耗極其敏感、不需要聯網。燔石的逐火 Forge 就是為這類裝置定義的:MaskROM 路線,核心適配 Qwen 3.5 0.8B,設計目標為單瓦級整機功耗與 17,000 token/s 的解碼速度。

如果你的模型還沒有定型,建議先用 FPGA 評估板和推理 IP 把它跑起來,把模型凍結之後再走 MaskROM 投片。

把問題帶到你的專案裡

發來目標模型、效能與功耗目標,我們回覆適配路線與評估方案。

申請樣機