Aller au contenu

Taalas HC1 · caractéristiques Taalas HC1 · Llama 3.1 8B câblé · model-on-chip · ASIC d'inférence LLM

Taalas HC1 expliqué : caractéristiques, vitesse, limites et conséquences pour les appareils

Équipe d'ingénierie Fanshi Semiconductor · Publié le

Le Taalas HC1 est une puce d'inférence pour centre de données, annoncée en février 2026, qui câble un seul modèle, Llama 3.1 8B, dans le silicium. L'entreprise annonce près de 17 000 tokens par seconde par utilisateur, contre environ 230 sur un NVIDIA H200 pour le même modèle. Les détails publiés comprennent le TSMC 6 nm, une puce de 815 mm² et environ 53 milliards de transistors. Les contreparties : un modèle par puce, une quantification agressive sur 3 et 6 bits dans le premier silicium, et des serveurs d'environ 2,5 kW. C'est un produit cloud ; les appareils ont besoin de la même idée entre un watt et quelques dizaines de watts.

Ce qu'est le HC1

Le HC1 est la première puce de Taalas, annoncée en février 2026. Au lieu de charger un modèle en mémoire et de l'exécuter sur du matériel généraliste, elle intègre un modèle, Llama 3.1 8B, dans la puce elle-même. Cette approche s'appelle model-on-chip, ou LLM câblé.

Fanshi Semiconductor n'a aucun lien avec Taalas. Cette page résume ce qui a été publié, avec les sources en fin d'article, parce que le HC1 est la référence publique la plus nette pour cette approche.

Chiffres publiés

ÉlémentChiffre publiéSource
ModèleLlama 3.1 8B, câbléTaalas, selon CNX Software et heise
VitessePrès de 17 000 tokens/s par utilisateurChiffre du fabricant
ProcédéTSMC 6 nmCNX Software, heise
Surface de puce815 mm²CNX Software, heise
TransistorsEnviron 53 milliardsCNX Software, heise
PrécisionParamètres sur 3 et 6 bits dans le premier siliciumTaalas, selon heise
FlexibilitéAdaptateurs LoRA et taille de contexte configurableCNX Software
DéploiementServeurs d'environ 2,5 kWCNX Software
Même modèle sur NVIDIA H200Environ 230 tokens/s par utilisateurRéférence Nvidia, citée par heise
Même modèle chez CerebrasEnviron 1 900 tokens/sArtificial Analysis, cité par heise
Même modèle chez GroqEnviron 600 tokens/sArtificial Analysis, cité par heise

Chiffres tels que publiés en 2026. La vitesse du HC1 est un chiffre du fabricant ; ceux de Cerebras et de Groq viennent d'un comparateur indépendant.

D'où vient la vitesse

Générer un token demande tous les poids du modèle. Sur un GPU, les poids sont en mémoire et doivent être récupérés pour chaque token ; la limite est donc la vitesse à laquelle la mémoire les fournit. Le HC1 supprime cette récupération : les poids font partie du circuit, il n'y a rien à déplacer.

C'est pourquoi le gain est si grand pour un petit modèle. Un modèle 8B n'est pas limité par le calcul sur le matériel actuel, mais par le déplacement des données. Sans ce déplacement, la même arithmétique s'exécute des dizaines de fois plus vite.

Les limites

  • Un modèle par puce. Un autre modèle suppose une autre puce. Les adaptateurs et la taille de contexte se configurent, pas les poids de base.
  • Quantification. De l'aveu même de l'entreprise, le premier silicium utilise des paramètres sur 3 et 6 bits, ce qui coûte un peu de qualité face à une référence GPU.
  • Chiffres du fabricant. La vitesse mise en avant est annoncée par l'entreprise. Vérifiez s'il existe des mesures indépendantes avant de vous y fier.
  • C'est un composant de centre de données. Des serveurs d'environ 2,5 kW n'entrent dans aucun produit.

Ce que cela change pour les appareils

Le HC1 montre que fixer les poids sur place fonctionne à grande échelle. Il ne résout pas le problème des appareils : un traducteur, un module automobile ou un robot dispose d'un watt à quelques dizaines de watts, pas de kilowatts, et d'une nomenclature incapable d'absorber une puce de cette taille sur un procédé de pointe.

Les puces embarquées appliquent le même principe sous d'autres contraintes : des modèles plus petits, des procédés matures et trois façons de conserver les poids. Le calcul en mémoire MaskROM les fige à la fabrication, le calcul en mémoire SRAM les charge à la mise sous tension, et le calcul proche de la mémoire les garde en mémoire externe, où ils peuvent être mis à jour.

Fanshi construit des puces de ce type en SMIC 28 nm. Ses chiffres publiés sont des objectifs de conception, pas des mesures : Forge vise 17 000 token/s sur Qwen 3.5 0.8B dans un appareil de la classe du watt, et Trident vise 15 000 token/s sur des modèles allant jusqu'à Qwen 3.5 35B dans un budget système de 70 W.

Questions fréquentes

Qu'est-ce que le Taalas HC1 ?

Une puce d'inférence pour centre de données, annoncée en février 2026, dont le silicium contient le modèle Llama 3.1 8B câblé. L'entreprise annonce près de 17 000 tokens par seconde par utilisateur.

Quelle est la vitesse du Taalas HC1 par rapport à un GPU ?

Taalas annonce près de 17 000 tokens par seconde par utilisateur sur Llama 3.1 8B. La presse cite environ 230 tokens par seconde par utilisateur pour le même modèle sur un NVIDIA H200. Le chiffre du HC1 vient du fabricant.

Le Taalas HC1 peut-il exécuter d'autres modèles ?

Non. Le modèle de base est figé dans la puce. Selon la presse, il prend en charge des adaptateurs LoRA et une taille de contexte configurable, mais un autre modèle de base demande une autre puce.

Le Taalas HC1 peut-il servir dans un appareil embarqué ?

Non. Il est conçu pour des serveurs d'environ 2,5 kW. Les appareils utilisent des puces d'inférence embarquées à calcul en mémoire ou proche de la mémoire, qui visent un watt à quelques dizaines de watts.

Fanshi a-t-elle un lien avec Taalas ?

Non. Fanshi Semiconductor n'a ni affiliation ni partenariat avec Taalas. Taalas construit des accélérateurs pour centres de données, Fanshi des puces et de l'IP pour les appareils.

Sources

  1. heise online : AI inference cast in silicon: Taalas announces HC1 chip
  2. CNX Software : Taalas HC1 hardwired Llama-3.1 8B AI accelerator delivers up to 17,000 tokens/s

Appliquez la question à votre projet

Envoyez le modèle cible et les objectifs de performance et de consommation. Nous répondons avec une voie et un plan d'évaluation.

Demander un kit d'évaluation