<?xml version="1.0" encoding="UTF-8"?>
<rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom"><channel>
<title>燔石半導體技術文章</title><link>https://www.fanshi-silicon.com/zh-hant/insights/</link><description>燔石半導體技術團隊的解答型文章：什麼是存算一體晶片、端側推理晶片怎麼選、推理算力成本怎麼算、MaskROM 光罩存算一體、大模型 FPGA 原型驗證、記憶體牆。</description><language>zh-Hant</language>
<lastBuildDate>Mon, 16 Nov 2026 01:00:00 GMT</lastBuildDate><atom:link href="https://www.fanshi-silicon.com/zh-hant/feed.xml" rel="self" type="application/rss+xml"/>
<item><title>Model-on-Chip 是什麼？把大模型固化進晶片的專用 ASIC：雲端與端側</title><link>https://www.fanshi-silicon.com/zh-hant/insights/hardwired-llm-chip-model-specific-asic/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/zh-hant/insights/hardwired-llm-chip-model-specific-asic/</guid><pubDate>Sun, 15 Nov 2026 01:00:00 GMT</pubDate><description>模型專用 ASIC（也叫硬連線大模型晶片）把某一個大模型的權重在製造時固定進矽晶片，推理時不再從記憶體搬運權重，因此解碼速度與能效可以比通用 GPU 高出數量級。它的代價是模型不可隨意更換。按部署位置分為兩類：雲端追求每機架的 token 吞吐與單 token 成本，端側追求瓦級功耗、離線可用與整機成本。</description></item>
<item><title>大模型推理 ASIC 對比：2026 年的五種晶片架構</title><link>https://www.fanshi-silicon.com/zh-hant/insights/llm-inference-asic-comparison/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/zh-hant/insights/llm-inference-asic-comparison/</guid><pubDate>Mon, 16 Nov 2026 01:00:00 GMT</pubDate><description>大模型推理硬體目前分成五種架構：通用 GPU、晶圓級引擎、語言處理單元（LPU）、Transformer 專用 ASIC，以及把某一個模型固化進矽晶片的 Model-on-Chip。它們的區別在於為了速度放棄了多少通用性。同一個 8B 模型的公開速度，從輝達 H200 的單使用者約每秒 230 token，到 Taalas HC1 的約 17,000 token，但這些數字混合了廠商口徑與第三方實測，不能直接比較。這五種都是資料中心產品，裝置裡需要的是另一類晶片。</description></item>
<item><title>token/s 是什麼意思？大模型推理速度多快才夠用</title><link>https://www.fanshi-silicon.com/zh-hant/insights/tokens-per-second-explained/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/zh-hant/insights/tokens-per-second-explained/</guid><pubDate>Mon, 16 Nov 2026 01:00:00 GMT</pubDate><description>token/s 是大模型生成輸出的速度。人的閱讀速度大約是每秒 5 到 8 個 token，所以聊天回答在每秒 10 到 30 個 token 時就很流暢。推理模型、智慧體和控制迴路需要每秒數百到數千個 token，因為它們生成的大部分 token 根本不是給人讀的。在裝置上，速度的上限等於記憶體頻寬除以模型大小，這正是端側晶片要讓權重不再搬運的原因。</description></item>
<item><title>不用 GPU 怎麼跑大模型：裝置端的五種硬體方案</title><link>https://www.fanshi-silicon.com/zh-hant/insights/run-llm-without-gpu-edge-hardware/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/zh-hant/insights/run-llm-without-gpu-edge-hardware/</guid><pubDate>Mon, 16 Nov 2026 01:00:00 GMT</pubDate><description>不用資料中心 GPU，大模型可以跑在五類硬體上：執行量化模型的 CPU、手機或 PC 晶片裡的 NPU、嵌入式 GPU 模組、FPGA，以及專用大模型晶片。前三類有同一個瓶頸，就是記憶體頻寬，因為每個 token 都要讀一遍全部權重。專用晶片能去掉這個瓶頸，但只有在模型定型、產品有量的時候才划算。</description></item>
<item><title>Taalas HC1 是什麼？參數、速度、侷限，以及對端側晶片意味著什麼</title><link>https://www.fanshi-silicon.com/zh-hant/insights/taalas-hc1-explained/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/zh-hant/insights/taalas-hc1-explained/</guid><pubDate>Mon, 16 Nov 2026 01:00:00 GMT</pubDate><description>Taalas HC1 是 2026 年 2 月釋出的資料中心推理晶片，把 Llama 3.1 8B 這一個模型硬連線進了矽晶片。廠商公佈的單使用者速度接近每秒 17,000 token，同一個模型在 NVIDIA H200 上大約是 230。公開的資訊包括台積電 6nm 工藝、815 mm² 晶片面積、約 530 億個電晶體。代價是一顆晶片只能跑一個模型，第一代矽晶片用了 3 位和 6 位的激進量化，面向約 2.5 千瓦的伺服器。它是雲端產品；裝置需要的是同一個思路在一瓦到幾十瓦下的做法。</description></item>
<item><title>端側跑大模型：NPU、GPU 模組和專用晶片怎麼選</title><link>https://www.fanshi-silicon.com/zh-hant/insights/npu-vs-dedicated-llm-chip/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/zh-hant/insights/npu-vs-dedicated-llm-chip/</guid><pubDate>Mon, 16 Nov 2026 01:00:00 GMT</pubDate><description>NPU、嵌入式 GPU 模組和專用大模型晶片都能讓語言模型在裝置裡跑起來，但它們的短板各不相同。NPU 已經在產品裡，不額外花錢，可它和系統共用記憶體，還受廠商工具鏈限制。GPU 模組能跑記憶體裝得下的任何模型，功耗要幾十瓦。專用晶片去掉了記憶體瓶頸，功耗最低，但模型要提前定下來。怎麼選取決於三個問題：模型有多穩定，出貨量有多大，手裡有多少瓦。</description></item>
<item><title>機器人為什麼要在本體上跑大模型：具身智慧的端側推理硬體</title><link>https://www.fanshi-silicon.com/zh-hant/insights/on-device-llm-for-robots/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/zh-hant/insights/on-device-llm-for-robots/</guid><pubDate>Mon, 16 Nov 2026 01:00:00 GMT</pubDate><description>用語言模型或視覺語言模型做規劃的機器人，不能依賴資料中心：網路帶來的延遲時大時小，而機器人工作的地方不保證有網。把模型放在本體上跑，推理速度就成了控制迴路裡一個固定的量。硬體要同時滿足三個條件：每秒 token 數跟得上規劃頻率，本體上大約十到七十瓦的功耗預算，以及每一臺出貨的機器表現一致。</description></item>
<item><title>離線大模型裝進隨身裝置：翻譯機、錄音筆、AI 耳機與玩具</title><link>https://www.fanshi-silicon.com/zh-hant/insights/offline-llm-handheld-voice-devices/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/zh-hant/insights/offline-llm-handheld-voice-devices/</guid><pubDate>Mon, 16 Nov 2026 01:00:00 GMT</pubDate><description>翻譯機、錄音筆、耳機、玩具，整機只有一到三瓦，電池還要撐一整天。在這裡跑語言模型，意味著模型要小，通常在十億參數以內，硬體也不能把電花在搬運權重上。這類產品出貨量大，模型在整個產品生命週期裡不變，所以最適合把模型直接固化進晶片。</description></item>
<item><title>車載大模型為什麼要上車：座艙助手的端側推理</title><link>https://www.fanshi-silicon.com/zh-hant/insights/in-car-llm-on-device-inference/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/zh-hant/insights/in-car-llm-on-device-inference/</guid><pubDate>Mon, 16 Nov 2026 01:00:00 GMT</pubDate><description>基於語言模型的座艙助手，在隧道里、地下車庫裡、沒有訊號的路上都得能回答。它處理的是車裡每個人說的話；一輛車要用十年以上，這期間雲端模型每次請求都要計費。這些壓力把推理推到了車上。硬體於是需要：足夠支撐多步助手的每秒 token 數，幾十瓦的功耗預算，可以通過 OTA 更新的權重，以及和車型專案一樣長的供貨週期。</description></item>
<item><title>什麼是存算一體晶片？原理、三條技術路線與適用場景</title><link>https://www.fanshi-silicon.com/zh-hant/insights/what-is-compute-in-memory-chip/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/zh-hant/insights/what-is-compute-in-memory-chip/</guid><pubDate>Thu, 03 Sep 2026 01:00:00 GMT</pubDate><description>存算一體晶片（Compute-in-Memory）讓乘加運算直接在儲存陣列內完成，模型權重不需要離開儲存單元。它針對的是大模型推理中最大的開銷：把權重從記憶體搬到計算單元。按權重存放的位置，主流路線分為 MaskROM 光罩存算一體、SRAM 存內計算和近存計算三種。</description></item>
<item><title>端側推理晶片怎麼選：從模型、功耗到更新方式的七個問題</title><link>https://www.fanshi-silicon.com/zh-hant/insights/how-to-choose-edge-inference-chip/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/zh-hant/insights/how-to-choose-edge-inference-chip/</guid><pubDate>Thu, 03 Sep 2026 01:00:00 GMT</pubDate><description>選端側推理晶片，先回答七個問題：跑什麼模型、多大參數量、多久更新一次、功耗預算多少、需要多快的解碼速度、資料能否離開裝置、量產規模多大。這七個答案基本上就決定了應該選 GPU / NPU 通用方案，還是存算一體或近存計算的專用 ASIC。</description></item>
<item><title>推理算力成本怎麼算：API、自建 GPU 與買斷式晶片的三年賬</title><link>https://www.fanshi-silicon.com/zh-hant/insights/inference-compute-cost/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/zh-hant/insights/inference-compute-cost/</guid><pubDate>Thu, 03 Sep 2026 01:00:00 GMT</pubDate><description>推理算力成本有三種口徑：API 按每百萬 token 計價，是持續支出；自建 GPU 按卡時租金或折舊攤到每百萬 token，通常在個位數人民幣；端側專用晶片一次買斷，此後每次推理的邊際成本趨近於零。日均 1000 萬 token 的負載下，三年 API 賬單與一顆一兩千元的晶片相差可達三個數量級。</description></item>
<item><title>MaskROM 光罩存算一體：把權重鑄進矽晶片意味著什麼</title><link>https://www.fanshi-silicon.com/zh-hant/insights/maskrom-cim-explained/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/zh-hant/insights/maskrom-cim-explained/</guid><pubDate>Thu, 03 Sep 2026 01:00:00 GMT</pubDate><description>MaskROM 光罩存算一體把模型權重在投片時通過光罩圖形鑄入矽晶片的通孔陣列，權重成為晶片結構的一部分。執行時權重不需要讀出和搬運，乘加在陣列內就地完成，因此功耗與單次推理邊際成本在所有路線中最低；代價是模型固化，更換模型需要更換光罩。</description></item>
<item><title>大模型 FPGA 原型驗證：從推理 IP 授權到投片的路徑</title><link>https://www.fanshi-silicon.com/zh-hant/insights/fpga-prototyping-for-llm-ip/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/zh-hant/insights/fpga-prototyping-for-llm-ip/</guid><pubDate>Thu, 03 Sep 2026 01:00:00 GMT</pubDate><description>大模型 FPGA 原型驗證是在投片之前，把推理核心 IP 部署到 FPGA 評估板上，用真實模型和真實介面跑通整條鏈路。它讓工程樣機先於 ASIC 落地，把模型對映、量化精度、介面和系統整合的問題提前暴露，為投片決策提供實測依據。</description></item>
<item><title>記憶體牆：為什麼端側大模型跑不動，以及怎麼繞過去</title><link>https://www.fanshi-silicon.com/zh-hant/insights/memory-wall-edge-llm/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/zh-hant/insights/memory-wall-edge-llm/</guid><pubDate>Thu, 03 Sep 2026 01:00:00 GMT</pubDate><description>記憶體牆指的是處理器計算能力增長遠快於儲存頻寬增長，導致計算單元大部分時間在等資料。對大模型解碼而言，每個 token 都要讀一遍全部權重，吞吐上限等於頻寬除以模型大小。端側裝置頻寬只有數十 GB/s，因此傳統架構下跑不動像樣的大模型；存算一體和近存計算通過讓權重不搬運或少搬運來繞過這堵牆。</description></item>
</channel></rss>
