跳到正文

FS-MoE

稀疏混合專家
推理 IP

為端側動態激活稀疏大模型設計,在有限頻寬下承載大參數量模型。

FS-MoE 稀疏混合專家推理 IP示意圖
圖 1 · FS-MoE 稀疏混合專家推理 IP

資料流

為端側動態激活稀疏大模型設計,在有限頻寬下承載大參數量模型。

路由router專家 1專家 2專家 3專家 4合併只讀被選中的權重
圖 2 · FS-MoE 資料流示意

原生支援

端側承載跨越式大參數量級模型

部署載體

ASIC 投片與 FPGA 原型部署,可結合專案進行介面與系統適配。

授權包含

推理核心 IP、FPGA 評估板、模型對映與介面適配、專案設計匯入支援。

IP 支援範圍、介面、資源佔用、效能目標和授權方式需要結合目標器件與模型進行專案評估。

諮詢 FS-MoE 授權

告訴我們目標器件、模型與介面,我們回覆 IP 支援範圍與評估計劃。

諮詢 IP 授權