Aller au contenu

Déplacer moins. Garder l'inférence sur l'appareil.

Fanshi organise sa technologie autour de l'endroit où les poids du modèle sont stockés et calculés : calcul en mémoire MaskROM, calcul en mémoire SRAM et calcul proche mémoire.

Une plaquette de 300 mm sur une station sous pointes
Fig. 1 · Une plaquette de 300 mm sur une station sous pointes

Graver le modèle entier
dans une seule puce.

Les GPU et les NPU passent l'essentiel de leur temps et de leur énergie à transporter les poids entre la mémoire et le calcul. Fanshi fait l'inverse : les poids résident dans la matrice mémoire, et le calcul se fait là où ils se trouvent.

Dans le silicium / ARCHITECTURE STUDY03 / 03

Faire des poids une partie du silicium.

MaskROM · vue en coupe

Transfert externe de poids par token

0MB

Ce qui reste à l'exécution

Calcul sur place · aucun transfert externe de poids

0.8B · estimation INT8, hors consommation du système
Fig. 2 · L'emplacement des poids décide d'où part l'énergieSchéma · pas un layout réel
  1. Mémoire séparée

    Chaque token déplace tous les poids

    Dans un NPU ou un GPU classique, la mémoire et le calcul sont deux morceaux de silicium distincts. Pour chaque token généré, tous les poids traversent le bus : la bande passante fixe le plafond, et l'essentiel de l'énergie se perd en chemin.

  2. Calcul en mémoire

    Mettre les poids dans la matrice mémoire

    Fanshi intègre les circuits de multiplication-accumulation dans la matrice mémoire elle-même. Les poids restent dans la matrice, les activations entrent, les résultats sortent. Plus aucun poids sur le bus.

  3. MaskROM

    Gravé au tape-out, jamais déplacé à l'exécution

    Le calcul en mémoire sur ROM à masque inscrit physiquement les poids dans la matrice de vias lors du tape-out. La puce sort de l'usine avec le modèle déjà à l'intérieur : la consommation et le coût marginal par inférence tombent au minimum.

Un seul objectif,
trois voies.

Toutes trois déplacent moins les poids, voire plus du tout. Elles diffèrent par l'endroit où résident les poids et par la possibilité de modifier encore le modèle. La première question à trancher : à quelle fréquence votre modèle change-t-il ?

MaskROMGravé dans le masqueCalcul en mémoire MaskROM
Où résident les poids
Couches de masque, gravées au tape-out
Transferts à l'exécution
Aucun
Mise à jour du modèle
Figé au tape-out
Idéal pour
Modèles stables, gros volumes, consommation et coût marginal les plus bas
Forge
SRAM CIMCalculer dans la SRAMCalcul en mémoire SRAM
Où résident les poids
Dans la matrice SRAM
Transferts à l'exécution
MAC dans la matrice
Mise à jour du modèle
Chargé au démarrage, modifiable
Idéal pour
Modèles de taille moyenne, appareils qui changent de modèle sur le terrain
Argus
NMCCalculer près de la mémoireCalcul proche mémoire
Où résident les poids
Mémoire externe à large bande passante
Transferts à l'exécution
Flux orchestré sur la puce
Mise à jour du modèle
Itération continue
Idéal pour
Grands modèles en évolution rapide, nœuds à forte charge
Trident
17,000token/s

Vitesse de décodage sur l'appareil

Objectif de conception Forge · Qwen 3.5 0.8B

~1 W

Consommation du système

Forge, catégorie embarquée légère

100%

Des données restent sur l'appareil

Inférence locale, sans réseau

≈ $0

Coût marginal par inférence

Après l'achat unique de la puce

Choisir la voie adaptée à votre projet

Envoyez le modèle cible, les objectifs de performance et de consommation, et la fréquence de changement du modèle. Nous répondons avec une voie et un plan d'évaluation.

Demander un kit d'évaluation