跳到正文

哪些模型,可以鑄進燔石的晶片?

客戶問得最多的是最新的 Qwen。Qwen3.6 與 Qwen3.8 沿用 Qwen3.5 的混合架構,燔石現有推理核心可以直接對映:同一家族的新模型,是在現有核心上做一次新的晶片構建,而不是重新設計。

FS-Attention 混合注意力推理核心示意圖
圖 1 · 混合注意力推理核心(示意)

模型家族與適配路徑

列出的是架構層面的適配關係。具體參數規模、上下文長度與效能目標,需要結合專案做可行性評估。

  • Qwen3.5

    架構

    混合注意力:Gated DeltaNet 線性注意力層 + 門控全注意力層

    燔石適配路徑

    逐火 Forge(0.8B)· 鎮嶽 Trident(最高 35B)· FS-Linear + FS-Attention

    狀態

    第一代晶片核心適配

  • Qwen3.6 / Qwen3.8

    架構

    沿用 Qwen3.5 的混合架構

    燔石適配路徑

    FS-Linear + FS-Attention · 定製構建

    狀態

    現有核心直接對映,按專案評估

  • Qwen3

    架構

    全注意力(GQA)

    燔石適配路徑

    FS-Attention

    狀態

    IP 授權支援

  • SmolLM2

    架構

    小型全注意力語言模型

    燔石適配路徑

    FS-Attention

    狀態

    IP 授權支援

  • SmolVLM · SegFormer

    架構

    視覺-語言理解與語義分割

    燔石適配路徑

    千目 Argus · FS-Fusion

    狀態

    第一代晶片核心適配

  • MoE 稀疏模型

    架構

    動態激活的稀疏專家

    燔石適配路徑

    FS-MoE

    狀態

    按專案評估

  • DeltaNet 類線性注意力

    架構

    固定大小狀態,流式處理

    燔石適配路徑

    FS-Linear

    狀態

    IP 授權支援

頁面參數為當前產品定義與設計目標。最終規格、測試條件、供貨狀態與交付版本以雙方確認的專案資料為準。

Qwen 的混合架構,
為什麼適合做進晶片

從 Qwen3.5 開始,Qwen 模型按四層一組堆疊:三層 Gated DeltaNet 線性注意力,接一層門控全注意力。Qwen3.5、Qwen3.6 與 Qwen3.8 的 27B 模型都是同樣的 16 ×(3 + 1)佈局。

線性注意力層在 token 之間傳遞的是固定大小的狀態,而不是隨上下文增長的 KV 快取,所以四層裡只有一層的快取會隨上下文變長。對片上儲存和頻寬都很緊的端側晶片來說,這往往決定了模型放不放得進去。

燔石的 FS-Linear 核心負責 Gated DeltaNet 層,FS-Attention 核心負責門控全注意力層。Qwen3.5、3.6、3.8 的層結構不變,同一套核心就能對映這三代模型。

新模型釋出以後

取決於權重放在哪裡。

MaskROM

換光罩層

重新制作承載權重的光罩層;架構相同時,核心設計、SDK 與主機側整合都沿用。

SRAM CIM

重新載入

上電重新載入權重即可。

NMC

更新外存

直接更新外存裡的權重,模型可以持續迭代。

做一次可行性評估,
需要這些資訊

  • 公司與你的角色
  • 目標模型與參數規模
  • 上下文長度(典型 / 最長)
  • 呼叫方式(單次、多輪、智慧體)
  • 吞吐與延遲目標
  • 功耗預算與產品形態
  • 預計出貨量與專案節奏

常見問題

燔石支援 Qwen3.6、Qwen3.8 這些新模型嗎?

支援。Qwen3.6 與 Qwen3.8 沿用 Qwen3.5 的混合架構:Gated DeltaNet 線性注意力層與門控全注意力層交替排列。燔石的 FS-Linear 與 FS-Attention 核心本來就覆蓋這兩類層,所以同一家族的新模型是在現有核心上做一次新的晶片構建,不需要重新設計架構。具體參數規模、上下文長度與效能目標按專案做可行性評估。

新模型釋出以後,已經鑄進晶片的模型怎麼辦?

MaskROM 路線換模型,需要重新制作承載權重的光罩層;只要新模型與原模型同一架構,核心架構、SDK 與主機側整合都可以沿用。SRAM 存內計算路線上電重新載入權重即可;近存計算路線直接更新外存裡的權重。

燔石的晶片支援哪些模型?

逐火 Forge 核心適配 Qwen 3.5 0.8B;鎮嶽 Trident 最高支援 Qwen 3.5 35B;千目 Argus 適配 SmolVLM、SegFormer 等視覺與多模態模型。推理核心 IP 覆蓋 Qwen3 / 3.5(0.6B 至 9B)、SmolLM2、MoE 稀疏模型與 DeltaNet 類線性注意力架構。

從你的模型開始

發來目標模型、上下文長度、呼叫方式與功耗目標,我們回覆適配路線與評估方案。

評估你的模型