Questions sur les puces, l'IP et l'évaluation.
Rassemblées à partir des questions que nos clients posent le plus souvent, pour que les équipes jugent vite de l'adéquation.
Que propose Fanshi Semiconductor ?
Des puces ASIC pour l'inférence LLM embarquée (Forge, Trident et Argus), des puces sur mesure conçues autour du modèle du client, des cartes d'évaluation FPGA, et des IP de cœurs d'inférence (FS-Fusion, FS-Attention, FS-MoE et FS-Linear) déployables dans l'ASIC ou le FPGA du client.
Qu'est-ce qu'une puce d'inférence embarquée, et en quoi diffère-t-elle de l'inférence sur GPU dans le cloud ?
Une puce d'inférence embarquée exécute le modèle sur l'appareil lui-même, sans aller-retour réseau ni centre de données. Par rapport aux GPU cloud : pas de facture au token, pas de latence réseau, aucune donnée qui quitte l'appareil. En contrepartie, la taille du modèle et la stratégie de mise à jour se décident à la conception.
Quelle est la différence entre calcul en mémoire et calcul proche mémoire ?
Le calcul en mémoire effectue la multiplication-accumulation dans la matrice mémoire : les poids ne quittent jamais les cellules de stockage. Le calcul proche mémoire place les unités de calcul juste à côté d'une mémoire à large bande passante et orchestre un flux sur la puce pour réduire les transferts au minimum. Le premier offre la consommation et le coût marginal les plus bas ; le second convient aux modèles qui évoluent encore.
Quand le calcul en mémoire MaskROM est-il pertinent ?
Pour les appareils embarqués dont le modèle est stable, le volume de livraison clair, et qui exigent une faible consommation et un faible coût marginal par inférence, comme les traducteurs de poche et les assistants vocaux hors ligne. Les poids sont gravés dans le silicium à l'étape du masque : aucun transfert externe de poids à l'exécution.
Peut-on mettre le modèle à jour une fois gravé dans la puce ?
Pas sur la voie MaskROM : les poids sont figés au tape-out, un nouveau modèle signifie de nouveaux masques. La voie SRAM à calcul en mémoire charge les poids au démarrage et peut être mise à jour. La voie proche mémoire garde les poids en mémoire externe et permet une itération continue. C'est pourquoi la première question est toujours : à quelle fréquence votre modèle change-t-il ?
Quels modèles les puces Fanshi prennent-elles en charge ?
Forge cible Qwen 3.5 0.8B ; Trident prend en charge jusqu'à Qwen 3.5 35B ; Argus exécute SmolVLM, SegFormer et des modèles de vision et multimodaux similaires. La famille d'IP couvre Qwen3 / 3.5 (0.6B à 9B), SmolLM2, les modèles MoE parcimonieux et l'attention linéaire de type DeltaNet. La liste complète figure sur la page des modèles pris en charge.
Prenez-vous en charge Qwen3.6, Qwen3.8 et les autres nouveaux modèles ?
Oui. Qwen3.6 et Qwen3.8 conservent la disposition hybride de Qwen3.5 : des couches d'attention linéaire Gated DeltaNet intercalées avec des couches d'attention complète à portes. Les cœurs FS-Linear et FS-Attention de Fanshi couvrent déjà ces deux types de couches : un modèle plus récent de la même famille est donc une nouvelle puce construite sur les cœurs existants, pas une nouvelle architecture. Le nombre de paramètres, la longueur de contexte et les objectifs de performance sont évalués par projet.
Que se passe-t-il quand un modèle plus récent sort après la fabrication de la puce ?
Sur la voie MaskROM, passer à un nouveau modèle impose de refaire les couches de masque qui portent les poids. Si le nouveau modèle partage la même architecture, la conception des cœurs, le SDK et l'intégration côté hôte sont repris tels quels. En SRAM à calcul en mémoire, on recharge les poids au démarrage ; en calcul proche mémoire, on met à jour les poids en mémoire externe.
Comment sont définis des chiffres comme 17 000 token/s ?
Ce sont des objectifs de conception de débit de décodage pour le modèle de référence indiqué pour chaque produit. Le modèle exact, la précision, la taille de lot et la plateforme de test sont confirmés par projet.
Comment l'inférence sur l'appareil protège-t-elle les données ?
L'inférence s'exécute entièrement sur l'appareil : ni l'entrée brute ni la sortie du modèle n'ont à être téléversées, et l'appareil peut fonctionner totalement hors ligne. Pour les déploiements isolés du réseau, classifiés ou sensibles en matière de vie privée, c'est une garantie d'architecture et non une promesse de politique.
Combien une puce fait-elle économiser par rapport à des appels d'API ?
La puce s'achète une fois, après quoi le coût marginal de chaque inférence est proche de zéro, alors qu'une API facture chaque token. Le calculateur de coûts de la page d'accueil estime le total sur trois ans à partir de votre volume quotidien de tokens et de votre modèle actuel ; les chiffres réels dépendent de l'usage et du devis.
L'IP d'inférence peut-elle tourner sur un FPGA ?
Oui. FS-Fusion, FS-Attention, FS-MoE et FS-Linear visent à la fois le tape-out ASIC et le prototypage FPGA, avec une carte d'évaluation pour une validation précoce : un échantillon d'ingénierie peut exister avant le silicium.
Que comprend une licence IP ?
L'IP du cœur d'inférence, une carte d'évaluation FPGA, le mappage du modèle et l'adaptation des interfaces, ainsi que le support d'intégration au projet. La couverture, l'occupation de ressources, les objectifs de performance et les conditions de licence sont évalués selon le composant et le modèle cibles.
Comment demander un échantillon ou un kit d'évaluation ?
Écrivez à info@fanshi-silicon.com en indiquant le modèle cible, l'objectif de performance, le budget énergétique, les interfaces et le calendrier du projet. Nous confirmons la voie et répondons avec un plan.
Que contient le kit d'évaluation ?
Des échantillons d'ingénierie en boîtier sur une carte d'évaluation, la connectivité vers l'hôte, le SDK et les pilotes, la documentation d'intégration, et le support direct de l'équipe d'ingénierie Fanshi.
Peut-on signer un NDA avant de discuter des détails techniques ?
Oui. Les spécifications détaillées, les données d'évaluation et les plans de développement sont partagés une fois un NDA mutuel en place.
Travaillez-vous avec des clients hors de Chine ?
Oui. Fanshi travaille avec des équipes du monde entier, en anglais ou en chinois. Nous sommes basés à Hefei, en Chine (heure normale de Chine, UTC+8).
Quel procédé et quelle chaîne d'approvisionnement Fanshi utilise-t-elle ?
Une chaîne d'approvisionnement SMIC 28 nm mature. Les gains du calcul en mémoire et du calcul proche mémoire viennent de l'architecture et non des nœuds de pointe, ce qui rend les coûts et l'approvisionnement prévisibles.
Quel est le lien entre Fanshi et Taalas ?
Aucun : ni affiliation ni partenariat. Fanshi travaille dans la même grande direction, graver les modèles dans le silicium, et développe sa technologie de façon indépendante sur une chaîne d'approvisionnement 28 nm.
Qu'est-ce que le mur de la mémoire, et pourquoi décide-t-il du sort des LLM embarqués ?
Chaque token généré exige de lire tous les poids du modèle depuis la mémoire vers les unités de calcul : la bande passante et l'énergie servent surtout à déplacer des données plutôt qu'à calculer. Les appareils embarqués n'ont qu'une petite fraction de la bande passante et du budget énergétique d'un centre de données ; tant que les poids doivent se déplacer, les grands modèles ne peuvent pas tourner en périphérie. Le calcul en mémoire et le calcul proche mémoire existent pour contourner ce mur.
Les chiffres de ce site sont-ils des spécifications de livraison définitives ?
Non. Ils décrivent l'orientation actuelle des produits et les objectifs de conception. Les spécifications finales, les conditions de test, les versions livrées et les conditions commerciales sont confirmées dans les documents de projet.
À quels secteurs les puces Fanshi sont-elles destinées ?
Traduction de poche et matériel vocal, voix embarquée hors ligne en voiture, robots incarnés, serveurs edge industriels, terminaux sécurisés et réseaux isolés, inspection par drone, détection de défauts sur ligne de production et fusion multi-capteurs.
Où Fanshi est-elle basée, et comment la contacter ?
Hefei Fanshi Semiconductor Technology Co., Ltd. est basée à Hefei, dans l'Anhui, en Chine. Pour les affaires, les licences IP et le recrutement, écrivez à info@fanshi-silicon.com.
Pour aller plus loin
Qu'est-ce qu'une puce IA à calcul en mémoire ? Trois voies expliquéesUne puce IA à calcul en mémoire effectue la multiplication-accumulation dans la matrice mémoire : les poids ne bougent plus. Ce qui distingue MaskROM, SRAM CIM et calcul proche mémoire.
Comment choisir une puce d'inférence LLM embarquée : 7 questionsChoisir une puce d'inférence LLM embarquée dépend de l'adéquation au modèle, du budget énergétique et du mode de mise à jour, pas des TOPS de crête. Sept questions et une liste de contrôle.
Coût d'inférence LLM : API, GPU cloud ou puce embarquée sur 3 ansComptez le coût d'inférence LLM sur trois ans : une API au token, un GPU cloud à l'heure, ou une puce embarquée achetée une fois. Méthode, exemple chiffré et retour sur investissement.
Une autre question sur votre projet ?
Envoyez le modèle cible et les objectifs de performance et de consommation. Nous répondons avec une voie et un plan d'évaluation.
