Taalas HC1 · Taalas HC1 參數 · 模型固化晶片 · Model-on-Chip · 大模型推理 ASIC
Taalas HC1 是什麼?參數、速度、侷限,以及對端側晶片意味著什麼
燔石半導體技術團隊 · 釋出

Taalas HC1 是 2026 年 2 月釋出的資料中心推理晶片,把 Llama 3.1 8B 這一個模型硬連線進了矽晶片。廠商公佈的單使用者速度接近每秒 17,000 token,同一個模型在 NVIDIA H200 上大約是 230。公開的資訊包括台積電 6nm 工藝、815 mm² 晶片面積、約 530 億個電晶體。代價是一顆晶片只能跑一個模型,第一代矽晶片用了 3 位和 6 位的激進量化,面向約 2.5 千瓦的伺服器。它是雲端產品;裝置需要的是同一個思路在一瓦到幾十瓦下的做法。
HC1 是什麼
HC1 是 Taalas 的第一款晶片,2026 年 2 月釋出。它不是把模型載入進記憶體、再交給通用硬體去跑,而是把 Llama 3.1 8B 這一個模型直接做進了晶片。這種做法叫模型固化晶片,英文是 model-on-chip 或 hardwired LLM。
燔石半導體與 Taalas 沒有任何關聯。這一頁整理的是已經公開的資訊,來源列在文末。之所以寫它,是因為 HC1 是這條技術路線目前最清楚的公開參照。
公開的參數
| 專案 | 公開數字 | 來源口徑 |
|---|---|---|
| 模型 | Llama 3.1 8B,硬連線 | Taalas,見 CNX Software 與 heise 報道 |
| 速度 | 單使用者接近每秒 17,000 token | 廠商公佈 |
| 工藝 | 台積電 6nm | CNX Software、heise |
| 晶片面積 | 815 mm² | CNX Software、heise |
| 電晶體數 | 約 530 億 | CNX Software、heise |
| 精度 | 第一代矽晶片採用 3 位與 6 位參數 | Taalas,見 heise 報道 |
| 靈活性 | 支援 LoRA 介面卡,上下文長度可配置 | CNX Software |
| 部署形態 | 約 2.5 千瓦的伺服器 | CNX Software |
| 同一模型在 NVIDIA H200 上 | 單使用者約每秒 230 token | Nvidia 基準,heise 引用 |
| 同一模型在 Cerebras 上 | 約每秒 1,900 token | Artificial Analysis,heise 引用 |
| 同一模型在 Groq 上 | 約每秒 600 token | Artificial Analysis,heise 引用 |
以上為 2026 年內公開的數字。HC1 的速度是廠商口徑;Cerebras 與 Groq 的數字來自第三方評測。
速度從哪裡來
每生成一個 token,都要用到模型的全部權重。在 GPU 上,權重放在記憶體裡,每個 token 都要取一遍,所以上限是記憶體把權重送過來的速度。HC1 把「取」這一步去掉了:權重本身就是電路的一部分,沒有東西需要搬。
這也是小模型提升特別大的原因。8B 的模型在今天的硬體上並不缺算力,缺的是資料搬運的速度。搬運沒有了,同樣的運算就能快上幾十倍。
侷限
- 一顆晶片一個模型。換模型就要換晶片。介面卡和上下文長度可以配置,基礎權重不能改。
- 量化。按廠商自己的說法,第一代矽晶片用的是 3 位和 6 位參數,相對 GPU 基準會損失一部分回答質量。
- 廠商口徑。最受關注的速度數字來自廠商,用它做決定之前要看有沒有第三方實測。
- 它是資料中心的器件。約 2.5 千瓦的伺服器裝不進任何一件產品。
對裝置意味著什麼
HC1 證明了一件事:把權重固定在原地,這條路在大規模上走得通。但它沒有解決裝置裡的問題。翻譯機、車載模組、機器人能給的是一瓦到幾十瓦,不是幾千瓦,物料成本也裝不下一顆這麼大的先進工藝晶片。
端側晶片用的是同一個原理,約束不同:模型更小,工藝更成熟,權重有三种放法。MaskROM 存算一體在製造時固定權重,SRAM 存算一體在上電時載入,近存計算把權重放在片外儲存裡,可以更新。
燔石在 SMIC 28nm 上做的就是這一類晶片。官網公佈的數字都是設計目標,不是實測:逐火 Forge 的目標是在單瓦級裝置上以 17,000 token/s 執行 Qwen 3.5 0.8B,鎮嶽 Trident 的目標是在 70W 系統功耗內以 15,000 token/s 執行最大 Qwen 3.5 35B 的模型。
常見問題
Taalas HC1 是什麼?
一款 2026 年 2 月釋出的資料中心推理晶片,把 Llama 3.1 8B 模型硬連線進了矽晶片。廠商公佈的單使用者速度接近每秒 17,000 token。
Taalas HC1 比 GPU 快多少?
Taalas 公佈的數字是 Llama 3.1 8B 單使用者接近每秒 17,000 token。媒體報道引用的同一模型在 NVIDIA H200 上的數字約為每秒 230 token。HC1 的數字是廠商口徑。
Taalas HC1 能跑別的模型嗎?
不能。基礎模型固定在晶片裡。據報道它支援 LoRA 介面卡和可配置的上下文長度,但換基礎模型需要換晶片。
Taalas HC1 能用在端側裝置裡嗎?
不能。它面向約 2.5 千瓦的伺服器。裝置用的是基於存算一體或近存計算的端側推理晶片,目標功耗是一瓦到幾十瓦。
燔石和 Taalas 有關係嗎?
沒有。燔石半導體與 Taalas 沒有任何關聯或合作。Taalas 做資料中心加速器,燔石做端側裝置的晶片和 IP。



