<?xml version="1.0" encoding="UTF-8"?>
<rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom"><channel>
<title>燔石半导体技术文章</title><link>https://www.fanshi-silicon.com/insights/</link><description>燔石半导体技术团队的解答型文章：什么是存算一体芯片、端侧推理芯片怎么选、推理算力成本怎么算、MaskROM 掩膜存算一体、大模型 FPGA 原型验证、内存墙。</description><language>zh-CN</language>
<lastBuildDate>Mon, 16 Nov 2026 01:00:00 GMT</lastBuildDate><atom:link href="https://www.fanshi-silicon.com/feed.xml" rel="self" type="application/rss+xml"/>
<item><title>Model-on-Chip 是什么？把大模型固化进芯片的专用 ASIC：云端与端侧</title><link>https://www.fanshi-silicon.com/insights/hardwired-llm-chip-model-specific-asic/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/insights/hardwired-llm-chip-model-specific-asic/</guid><pubDate>Sun, 15 Nov 2026 01:00:00 GMT</pubDate><description>模型专用 ASIC（也叫硬连线大模型芯片）把某一个大模型的权重在制造时固定进硅片，推理时不再从内存搬运权重，因此解码速度与能效可以比通用 GPU 高出数量级。它的代价是模型不可随意更换。按部署位置分为两类：云端追求每机架的 token 吞吐与单 token 成本，端侧追求瓦级功耗、离线可用与整机成本。</description></item>
<item><title>大模型推理 ASIC 对比：2026 年的五种芯片架构</title><link>https://www.fanshi-silicon.com/insights/llm-inference-asic-comparison/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/insights/llm-inference-asic-comparison/</guid><pubDate>Mon, 16 Nov 2026 01:00:00 GMT</pubDate><description>大模型推理硬件目前分成五种架构：通用 GPU、晶圆级引擎、语言处理单元（LPU）、Transformer 专用 ASIC，以及把某一个模型固化进硅片的 Model-on-Chip。它们的区别在于为了速度放弃了多少通用性。同一个 8B 模型的公开速度，从英伟达 H200 的单用户约每秒 230 token，到 Taalas HC1 的约 17,000 token，但这些数字混合了厂商口径与第三方实测，不能直接比较。这五种都是数据中心产品，设备里需要的是另一类芯片。</description></item>
<item><title>token/s 是什么意思？大模型推理速度多快才够用</title><link>https://www.fanshi-silicon.com/insights/tokens-per-second-explained/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/insights/tokens-per-second-explained/</guid><pubDate>Mon, 16 Nov 2026 01:00:00 GMT</pubDate><description>token/s 是大模型生成输出的速度。人的阅读速度大约是每秒 5 到 8 个 token，所以聊天回答在每秒 10 到 30 个 token 时就很流畅。推理模型、智能体和控制回路需要每秒数百到数千个 token，因为它们生成的大部分 token 根本不是给人读的。在设备上，速度的上限等于内存带宽除以模型大小，这正是端侧芯片要让权重不再搬运的原因。</description></item>
<item><title>不用 GPU 怎么跑大模型：设备端的五种硬件方案</title><link>https://www.fanshi-silicon.com/insights/run-llm-without-gpu-edge-hardware/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/insights/run-llm-without-gpu-edge-hardware/</guid><pubDate>Mon, 16 Nov 2026 01:00:00 GMT</pubDate><description>不用数据中心 GPU，大模型可以跑在五类硬件上：运行量化模型的 CPU、手机或 PC 芯片里的 NPU、嵌入式 GPU 模组、FPGA，以及专用大模型芯片。前三类有同一个瓶颈，就是内存带宽，因为每个 token 都要读一遍全部权重。专用芯片能去掉这个瓶颈，但只有在模型定型、产品有量的时候才划算。</description></item>
<item><title>Taalas HC1 是什么？参数、速度、局限，以及对端侧芯片意味着什么</title><link>https://www.fanshi-silicon.com/insights/taalas-hc1-explained/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/insights/taalas-hc1-explained/</guid><pubDate>Mon, 16 Nov 2026 01:00:00 GMT</pubDate><description>Taalas HC1 是 2026 年 2 月发布的数据中心推理芯片，把 Llama 3.1 8B 这一个模型硬连线进了硅片。厂商公布的单用户速度接近每秒 17,000 token，同一个模型在 NVIDIA H200 上大约是 230。公开的信息包括台积电 6nm 工艺、815 mm² 芯片面积、约 530 亿个晶体管。代价是一颗芯片只能跑一个模型，第一代硅片用了 3 位和 6 位的激进量化，面向约 2.5 千瓦的服务器。它是云端产品；设备需要的是同一个思路在一瓦到几十瓦下的做法。</description></item>
<item><title>端侧跑大模型：NPU、GPU 模组和专用芯片怎么选</title><link>https://www.fanshi-silicon.com/insights/npu-vs-dedicated-llm-chip/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/insights/npu-vs-dedicated-llm-chip/</guid><pubDate>Mon, 16 Nov 2026 01:00:00 GMT</pubDate><description>NPU、嵌入式 GPU 模组和专用大模型芯片都能让语言模型在设备里跑起来，但它们的短板各不相同。NPU 已经在产品里，不额外花钱，可它和系统共用内存，还受厂商工具链限制。GPU 模组能跑内存装得下的任何模型，功耗要几十瓦。专用芯片去掉了内存瓶颈，功耗最低，但模型要提前定下来。怎么选取决于三个问题：模型有多稳定，出货量有多大，手里有多少瓦。</description></item>
<item><title>机器人为什么要在本体上跑大模型：具身智能的端侧推理硬件</title><link>https://www.fanshi-silicon.com/insights/on-device-llm-for-robots/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/insights/on-device-llm-for-robots/</guid><pubDate>Mon, 16 Nov 2026 01:00:00 GMT</pubDate><description>用语言模型或视觉语言模型做规划的机器人，不能依赖数据中心：网络带来的延迟时大时小，而机器人工作的地方不保证有网。把模型放在本体上跑，推理速度就成了控制回路里一个固定的量。硬件要同时满足三个条件：每秒 token 数跟得上规划频率，本体上大约十到七十瓦的功耗预算，以及每一台出货的机器表现一致。</description></item>
<item><title>离线大模型装进随身设备：翻译机、录音笔、AI 耳机与玩具</title><link>https://www.fanshi-silicon.com/insights/offline-llm-handheld-voice-devices/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/insights/offline-llm-handheld-voice-devices/</guid><pubDate>Mon, 16 Nov 2026 01:00:00 GMT</pubDate><description>翻译机、录音笔、耳机、玩具，整机只有一到三瓦，电池还要撑一整天。在这里跑语言模型，意味着模型要小，通常在十亿参数以内，硬件也不能把电花在搬运权重上。这类产品出货量大，模型在整个产品生命周期里不变，所以最适合把模型直接固化进芯片。</description></item>
<item><title>车载大模型为什么要上车：座舱助手的端侧推理</title><link>https://www.fanshi-silicon.com/insights/in-car-llm-on-device-inference/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/insights/in-car-llm-on-device-inference/</guid><pubDate>Mon, 16 Nov 2026 01:00:00 GMT</pubDate><description>基于语言模型的座舱助手，在隧道里、地下车库里、没有信号的路上都得能回答。它处理的是车里每个人说的话；一辆车要用十年以上，这期间云端模型每次请求都要计费。这些压力把推理推到了车上。硬件于是需要：足够支撑多步助手的每秒 token 数，几十瓦的功耗预算，可以通过 OTA 更新的权重，以及和车型项目一样长的供货周期。</description></item>
<item><title>什么是存算一体芯片？原理、三条技术路线与适用场景</title><link>https://www.fanshi-silicon.com/insights/what-is-compute-in-memory-chip/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/insights/what-is-compute-in-memory-chip/</guid><pubDate>Thu, 03 Sep 2026 01:00:00 GMT</pubDate><description>存算一体芯片（Compute-in-Memory）让乘加运算直接在存储阵列内完成，模型权重不需要离开存储单元。它针对的是大模型推理中最大的开销：把权重从内存搬到计算单元。按权重存放的位置，主流路线分为 MaskROM 掩膜存算一体、SRAM 存内计算和近存计算三种。</description></item>
<item><title>端侧推理芯片怎么选：从模型、功耗到更新方式的七个问题</title><link>https://www.fanshi-silicon.com/insights/how-to-choose-edge-inference-chip/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/insights/how-to-choose-edge-inference-chip/</guid><pubDate>Thu, 03 Sep 2026 01:00:00 GMT</pubDate><description>选端侧推理芯片，先回答七个问题：跑什么模型、多大参数量、多久更新一次、功耗预算多少、需要多快的解码速度、数据能否离开设备、量产规模多大。这七个答案基本上就决定了应该选 GPU / NPU 通用方案，还是存算一体或近存计算的专用 ASIC。</description></item>
<item><title>推理算力成本怎么算：API、自建 GPU 与买断式芯片的三年账</title><link>https://www.fanshi-silicon.com/insights/inference-compute-cost/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/insights/inference-compute-cost/</guid><pubDate>Thu, 03 Sep 2026 01:00:00 GMT</pubDate><description>推理算力成本有三种口径：API 按每百万 token 计价，是持续支出；自建 GPU 按卡时租金或折旧摊到每百万 token，通常在个位数人民币；端侧专用芯片一次买断，此后每次推理的边际成本趋近于零。日均 1000 万 token 的负载下，三年 API 账单与一颗一两千元的芯片相差可达三个数量级。</description></item>
<item><title>MaskROM 掩膜存算一体：把权重铸进硅片意味着什么</title><link>https://www.fanshi-silicon.com/insights/maskrom-cim-explained/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/insights/maskrom-cim-explained/</guid><pubDate>Thu, 03 Sep 2026 01:00:00 GMT</pubDate><description>MaskROM 掩膜存算一体把模型权重在流片时通过掩膜图形铸入硅片的通孔阵列，权重成为芯片结构的一部分。运行时权重不需要读出和搬运，乘加在阵列内就地完成，因此功耗与单次推理边际成本在所有路线中最低；代价是模型固化，更换模型需要更换掩膜。</description></item>
<item><title>大模型 FPGA 原型验证：从推理 IP 授权到流片的路径</title><link>https://www.fanshi-silicon.com/insights/fpga-prototyping-for-llm-ip/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/insights/fpga-prototyping-for-llm-ip/</guid><pubDate>Thu, 03 Sep 2026 01:00:00 GMT</pubDate><description>大模型 FPGA 原型验证是在流片之前，把推理内核 IP 部署到 FPGA 评估板上，用真实模型和真实接口跑通整条链路。它让工程样机先于 ASIC 落地，把模型映射、量化精度、接口和系统集成的问题提前暴露，为流片决策提供实测依据。</description></item>
<item><title>内存墙：为什么端侧大模型跑不动，以及怎么绕过去</title><link>https://www.fanshi-silicon.com/insights/memory-wall-edge-llm/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/insights/memory-wall-edge-llm/</guid><pubDate>Thu, 03 Sep 2026 01:00:00 GMT</pubDate><description>内存墙指的是处理器计算能力增长远快于存储带宽增长，导致计算单元大部分时间在等数据。对大模型解码而言，每个 token 都要读一遍全部权重，吞吐上限等于带宽除以模型大小。端侧设备带宽只有数十 GB/s，因此传统架构下跑不动像样的大模型；存算一体和近存计算通过让权重不搬运或少搬运来绕过这堵墙。</description></item>
</channel></rss>
