跳到正文

Taalas HC1 · Taalas HC1 参数 · 模型固化芯片 · Model-on-Chip · 大模型推理 ASIC

Taalas HC1 是什么?参数、速度、局限,以及对端侧芯片意味着什么

燔石半导体技术团队 · 发布

Taalas HC1 是 2026 年 2 月发布的数据中心推理芯片,把 Llama 3.1 8B 这一个模型硬连线进了硅片。厂商公布的单用户速度接近每秒 17,000 token,同一个模型在 NVIDIA H200 上大约是 230。公开的信息包括台积电 6nm 工艺、815 mm² 芯片面积、约 530 亿个晶体管。代价是一颗芯片只能跑一个模型,第一代硅片用了 3 位和 6 位的激进量化,面向约 2.5 千瓦的服务器。它是云端产品;设备需要的是同一个思路在一瓦到几十瓦下的做法。

HC1 是什么

HC1 是 Taalas 的第一款芯片,2026 年 2 月发布。它不是把模型加载进内存、再交给通用硬件去跑,而是把 Llama 3.1 8B 这一个模型直接做进了芯片。这种做法叫模型固化芯片,英文是 model-on-chip 或 hardwired LLM。

燔石半导体与 Taalas 没有任何关联。这一页整理的是已经公开的信息,来源列在文末。之所以写它,是因为 HC1 是这条技术路线目前最清楚的公开参照。

公开的参数

项目公开数字来源口径
模型Llama 3.1 8B,硬连线Taalas,见 CNX Software 与 heise 报道
速度单用户接近每秒 17,000 token厂商公布
工艺台积电 6nmCNX Software、heise
芯片面积815 mm²CNX Software、heise
晶体管数约 530 亿CNX Software、heise
精度第一代硅片采用 3 位与 6 位参数Taalas,见 heise 报道
灵活性支持 LoRA 适配器,上下文长度可配置CNX Software
部署形态约 2.5 千瓦的服务器CNX Software
同一模型在 NVIDIA H200 上单用户约每秒 230 tokenNvidia 基准,heise 引用
同一模型在 Cerebras 上约每秒 1,900 tokenArtificial Analysis,heise 引用
同一模型在 Groq 上约每秒 600 tokenArtificial Analysis,heise 引用

以上为 2026 年内公开的数字。HC1 的速度是厂商口径;Cerebras 与 Groq 的数字来自第三方评测。

速度从哪里来

每生成一个 token,都要用到模型的全部权重。在 GPU 上,权重放在内存里,每个 token 都要取一遍,所以上限是内存把权重送过来的速度。HC1 把「取」这一步去掉了:权重本身就是电路的一部分,没有东西需要搬。

这也是小模型提升特别大的原因。8B 的模型在今天的硬件上并不缺算力,缺的是数据搬运的速度。搬运没有了,同样的运算就能快上几十倍。

局限

  • 一颗芯片一个模型。换模型就要换芯片。适配器和上下文长度可以配置,基础权重不能改。
  • 量化。按厂商自己的说法,第一代硅片用的是 3 位和 6 位参数,相对 GPU 基准会损失一部分回答质量。
  • 厂商口径。最受关注的速度数字来自厂商,用它做决定之前要看有没有第三方实测。
  • 它是数据中心的器件。约 2.5 千瓦的服务器装不进任何一件产品。

对设备意味着什么

HC1 证明了一件事:把权重固定在原地,这条路在大规模上走得通。但它没有解决设备里的问题。翻译机、车载模块、机器人能给的是一瓦到几十瓦,不是几千瓦,物料成本也装不下一颗这么大的先进工艺芯片。

端侧芯片用的是同一个原理,约束不同:模型更小,工艺更成熟,权重有三种放法。MaskROM 存算一体在制造时固定权重,SRAM 存算一体在上电时加载,近存计算把权重放在片外存储里,可以更新。

燔石在 SMIC 28nm 上做的就是这一类芯片。官网公布的数字都是设计目标,不是实测:逐火 Forge 的目标是在单瓦级设备上以 17,000 token/s 运行 Qwen 3.5 0.8B,镇岳 Trident 的目标是在 70W 系统功耗内以 15,000 token/s 运行最大 Qwen 3.5 35B 的模型。

常见问题

Taalas HC1 是什么?

一款 2026 年 2 月发布的数据中心推理芯片,把 Llama 3.1 8B 模型硬连线进了硅片。厂商公布的单用户速度接近每秒 17,000 token。

Taalas HC1 比 GPU 快多少?

Taalas 公布的数字是 Llama 3.1 8B 单用户接近每秒 17,000 token。媒体报道引用的同一模型在 NVIDIA H200 上的数字约为每秒 230 token。HC1 的数字是厂商口径。

Taalas HC1 能跑别的模型吗?

不能。基础模型固定在芯片里。据报道它支持 LoRA 适配器和可配置的上下文长度,但换基础模型需要换芯片。

Taalas HC1 能用在端侧设备里吗?

不能。它面向约 2.5 千瓦的服务器。设备用的是基于存算一体或近存计算的端侧推理芯片,目标功耗是一瓦到几十瓦。

燔石和 Taalas 有关系吗?

没有。燔石半导体与 Taalas 没有任何关联或合作。Taalas 做数据中心加速器,燔石做端侧设备的芯片和 IP。

参考来源

  1. heise online:AI inference cast in silicon: Taalas announces HC1 chip
  2. CNX Software:Taalas HC1 hardwired Llama-3.1 8B AI accelerator delivers up to 17,000 tokens/s

把问题带到你的项目里

发来目标模型、性能与功耗目标,我们回复适配路线与评估方案。

申请样机