Aller au contenu

Quels modèles peut-on graver dans le silicium Fanshi ?

Nos clients nous interrogent surtout sur les dernières versions de Qwen. Qwen3.6 et Qwen3.8 conservent la disposition hybride de Qwen3.5, que les cœurs d'inférence Fanshi mappent déjà : un modèle plus récent de la même famille est une nouvelle puce construite sur les cœurs existants, et non une nouvelle architecture.

Cœur d'inférence à attention hybride FS-Attention, illustration
Fig. 1 · Cœur d'inférence à attention hybride (illustration)

Familles de modèles et correspondances

Il s'agit d'une adéquation au niveau de l'architecture. Le nombre de paramètres, la longueur de contexte et les objectifs de performance sont évalués par projet.

  • Qwen3.5

    Architecture

    Hybride : couches d'attention linéaire Gated DeltaNet + couches d'attention complète à portes

    Voie Fanshi

    Forge (0.8B) · Trident (jusqu'à 35B) · FS-Linear + FS-Attention

    Statut

    Modèle de référence des puces de première génération

  • Qwen3.6 / Qwen3.8

    Architecture

    Même disposition hybride que Qwen3.5

    Voie Fanshi

    FS-Linear + FS-Attention · puce sur mesure

    Statut

    Se mappe sur les cœurs existants ; évalué par projet

  • Qwen3

    Architecture

    Attention complète (GQA)

    Voie Fanshi

    FS-Attention

    Statut

    Pris en charge par licence IP

  • SmolLM2

    Architecture

    Modèles de langage compacts à attention complète

    Voie Fanshi

    FS-Attention

    Statut

    Pris en charge par licence IP

  • SmolVLM · SegFormer

    Architecture

    Compréhension vision-langage et segmentation sémantique

    Voie Fanshi

    Argus · FS-Fusion

    Statut

    Modèles de référence des puces de première génération

  • Modèles MoE parcimonieux

    Architecture

    Experts parcimonieux à activation dynamique

    Voie Fanshi

    FS-MoE

    Statut

    Évalué par projet

  • Attention linéaire de type DeltaNet

    Architecture

    État récurrent de taille fixe, traitement en flux

    Voie Fanshi

    FS-Linear

    Statut

    Pris en charge par licence IP

Les chiffres de cette page correspondent aux définitions de produit et aux objectifs de conception actuels. Les spécifications finales, les conditions de test, la disponibilité et les versions livrées sont confirmées dans les documents de projet validés par les deux parties.

Pourquoi la disposition hybride de Qwen convient au silicium

À partir de Qwen3.5, les modèles Qwen empilent leurs couches par groupes de quatre : trois couches d'attention linéaire Gated DeltaNet suivies d'une couche d'attention complète à portes. Les modèles 27B de Qwen3.5, Qwen3.6 et Qwen3.8 utilisent tous la même disposition 16 × (3 + 1).

Une couche d'attention linéaire transporte d'un token à l'autre un état de taille fixe au lieu d'un cache KV qui grossit : une seule couche sur quatre conserve un cache qui croît avec le contexte. Sur une puce embarquée, où la mémoire sur puce et la bande passante sont les ressources rares, c'est souvent ce qui sépare un modèle qui tient d'un modèle qui ne tient pas.

Le cœur FS-Linear de Fanshi traite les couches Gated DeltaNet et FS-Attention traite les couches d'attention complète à portes. La disposition n'ayant pas changé entre Qwen3.5, 3.6 et 3.8, les mêmes cœurs mappent les trois générations.

Quand un modèle plus récent sort

Ce qui change dépend de l'endroit où résident les poids.

MaskROM

Nouveaux masques de poids

Refaire les couches de masque qui portent les poids. À architecture identique, la conception des cœurs, le SDK et l'intégration côté hôte sont repris.

SRAM CIM

Recharger

Charger les nouveaux poids au démarrage.

NMC

Mettre la mémoire à jour

Mettre à jour les poids en mémoire externe ; le modèle peut continuer d'évoluer.

Ce dont nous avons besoin pour une étude de faisabilité

  • Entreprise et votre rôle
  • Modèle(s) cible(s) et nombre de paramètres
  • Longueur de contexte (typique / maximale)
  • Mode d'utilisation (requête unique, multi-tours, agentique)
  • Objectifs de débit et de latence
  • Budget énergétique et format
  • Volume attendu et calendrier

Questions sur les modèles

Prenez-vous en charge Qwen3.6, Qwen3.8 et les autres nouveaux modèles ?

Oui. Qwen3.6 et Qwen3.8 conservent la disposition hybride de Qwen3.5 : des couches d'attention linéaire Gated DeltaNet intercalées avec des couches d'attention complète à portes. Les cœurs FS-Linear et FS-Attention de Fanshi couvrent déjà ces deux types de couches : un modèle plus récent de la même famille est donc une nouvelle puce construite sur les cœurs existants, pas une nouvelle architecture. Le nombre de paramètres, la longueur de contexte et les objectifs de performance sont évalués par projet.

Que se passe-t-il quand un modèle plus récent sort après la fabrication de la puce ?

Sur la voie MaskROM, passer à un nouveau modèle impose de refaire les couches de masque qui portent les poids. Si le nouveau modèle partage la même architecture, la conception des cœurs, le SDK et l'intégration côté hôte sont repris tels quels. En SRAM à calcul en mémoire, on recharge les poids au démarrage ; en calcul proche mémoire, on met à jour les poids en mémoire externe.

Quels modèles les puces Fanshi prennent-elles en charge ?

Forge cible Qwen 3.5 0.8B ; Trident prend en charge jusqu'à Qwen 3.5 35B ; Argus exécute SmolVLM, SegFormer et des modèles de vision et multimodaux similaires. La famille d'IP couvre Qwen3 / 3.5 (0.6B à 9B), SmolLM2, les modèles MoE parcimonieux et l'attention linéaire de type DeltaNet. La liste complète figure sur la page des modèles pris en charge.

Partir de votre modèle

Envoyez le modèle cible, la longueur de contexte, le mode d'utilisation et l'objectif de consommation. Nous répondons avec une voie et un plan d'évaluation.

Évaluer votre modèle