跳到正文

減少搬運,讓推理留在裝置裡。

燔石圍繞模型權重的儲存與計算位置,形成 MaskROM、SRAM CIM 和近存計算三條技術路線。

探針臺上的晶圓
圖 1 · 探針臺上的 300 mm 晶圓

把整個大模型,
鑄進一塊晶片。

GPU、NPU 把大部分時間和電,花在記憶體與計算單元之間反覆搬運權重。燔石反其道而行:讓權重住在儲存陣列裡,資料在原地完成計算。

矽晶片之內 / ARCHITECTURE STUDY03 / 03

讓權重成為矽晶片的結構。

MaskROM · 結構剖面

每 token 外部權重搬運

0MB

執行時保留

就地計算 · 無外部權重搬運

0.8B · INT8 估算,非整機功耗
圖 2 · 權重的位置決定了功耗去了哪裡結構示意 · 非實際版圖
  1. 存算分離

    權重每個 token 都要搬一遍

    傳統 NPU / GPU 裡,儲存和計算是兩塊矽。生成每一個 token,全部權重都要經過匯流排走一遍:頻寬就是上限,能耗大多花在路上。

  2. 存算一體

    把權重放進儲存陣列

    燔石把乘加電路做進儲存陣列旁邊:權重住在陣列裡,激活流過去,結果流出來。匯流排上不再有權重。

  3. MaskROM

    投片時鑄進矽晶片,執行時不再搬運

    光罩存算一體在投片環節把權重物理寫入通孔陣列。晶片出廠時模型已經在裡面,功耗與單次推理的邊際成本降到最低。

同一個目標,
三條路線。

都是讓權重少搬或不搬。區別在於權重放在哪裡、模型還能不能改。第一個要回答的問題是:你的模型多久變一次。

MaskROM光罩存算一體MaskROM Compute-in-Memory
權重放在哪
光罩層,投片時鑄入
執行時搬運
零搬運
模型更新
固化,不可更新
適合
模型穩定、出貨量大、追求最低功耗與邊際成本
逐火 Forge
SRAM CIM存內計算SRAM Compute-in-Memory
權重放在哪
SRAM 陣列內
執行時搬運
陣列內就地乘加
模型更新
上電載入,可更新
適合
中等規模模型、需要現場換模型的裝置
千目 Argus
NMC近存計算Near-Memory Compute
權重放在哪
高頻寬外存
執行時搬運
片上流式排程
模型更新
持續迭代
適合
模型還在快速演進、參數量大的重載場景
鎮嶽 Trident
17,000token/s

端側解碼速度

Forge 設計目標 · Qwen 3.5 0.8B

單瓦級

整機功耗

Forge 端側輕量級

100%

資料不出裝置

本地推理,無需聯網

≈ ¥0

單次推理邊際成本

晶片一次買斷之後

選擇適合專案的技術路線

發來目標模型、效能與功耗目標、更新頻率,我們回覆適配路線與評估方案。

申請樣機