
資料流
為端側動態激活稀疏大模型設計,在有限頻寬下承載大參數量模型。
原生支援
端側承載跨越式大參數量級模型
部署載體
ASIC 投片與 FPGA 原型部署,可結合專案進行介面與系統適配。
授權包含
推理核心 IP、FPGA 評估板、模型對映與介面適配、專案設計匯入支援。
IP 支援範圍、介面、資源佔用、效能目標和授權方式需要結合目標器件與模型進行專案評估。
延伸閱讀
大模型 FPGA 原型驗證:從推理 IP 授權到投片的路徑在投片之前用 FPGA 把大模型推理核心跑起來,能提前驗證模型對映、介面與系統鏈路。本文說明推理 IP 授權的內容、FPGA 評估板在專案中的位置,以及從評估到 ASIC 的典型節奏。
什麼是存算一體晶片?原理、三條技術路線與適用場景存算一體晶片把乘加運算放進儲存陣列,權重不再在記憶體與計算單元之間搬運。本文解釋它解決的問題、MaskROM / SRAM CIM / 近存計算三條路線的區別,以及各自適合的端側場景。
端側推理晶片怎麼選:從模型、功耗到更新方式的七個問題為裝置選端側推理晶片時,真正決定成敗的不是峰值算力,而是模型是否放得下、功耗是否撐得住、模型能不能更新。本文給出七個必須先回答的問題和一張選型清單。
諮詢 FS-MoE 授權
告訴我們目標器件、模型與介面,我們回覆 IP 支援範圍與評估計劃。
