Aller au contenu

prototypage FPGA pour accélérateurs LLM · IP d'inférence LLM · licence d'IP de semi-conducteurs · LLM sur FPGA · tape-out ASIC

Prototypage FPGA pour accélérateurs LLM : de la licence IP au tape-out

Équipe d'ingénierie Fanshi Semiconductor · Publié le

Le prototypage FPGA pour LLM consiste à déployer une IP de cœur d'inférence sur une carte d'évaluation FPGA avant le tape-out, et à faire tourner toute la chaîne avec un vrai modèle et de vraies interfaces. Il met un échantillon d'ingénierie entre vos mains avant que l'ASIC n'existe, révèle tôt les problèmes de mappage du modèle, de précision de quantification, d'interfaces et d'intégration, et donne à la décision de tape-out des éléments mesurés.

Pourquoi commencer sur FPGA

Un tape-out ASIC est lent et coûteux ; une erreur coûte des mois et une somme importante. Un FPGA peut exécuter le même cœur d'inférence en quelques jours et le valider avec un vrai modèle, de vraies interfaces et de vraies données. Le mappage du modèle est-il correct ? Combien de précision coûte la quantification ? La bande passante des interfaces suffit-elle ? Comment le logiciel système se raccorde-t-il ?

Pour les équipes produit, la carte d'évaluation FPGA est le premier échantillon d'ingénierie. Elle peut servir aux tests utilisateurs, aux démonstrations clients et à la collecte de données sur le terrain pendant que l'ASIC est encore en conception.

Ce que comprend une licence d'IP d'inférence

Fanshi propose quatre familles de cœurs d'inférence : FS-Fusion pour la fusion multimodale, FS-Attention pour l'attention hybride, FS-MoE pour les mélanges d'experts parcimonieux, et FS-Linear pour l'attention linéaire et les nouvelles architectures. Les mêmes cœurs peuvent aller dans l'ASIC du client ou sur un FPGA.

Une licence couvre en général l'IP du cœur d'inférence, une carte d'évaluation FPGA, le mappage du modèle et l'adaptation des interfaces, ainsi que le support d'intégration. La couverture IP, l'occupation de ressources, les objectifs de performance et les conditions de licence sont évalués par projet selon le composant et le modèle cibles.

Un déroulement type

Première étape : confirmer le modèle cible, l'objectif de performance, le budget énergétique et les interfaces, et décider de la voie adaptée. Deuxième étape : déployer le cœur d'inférence sur la carte d'évaluation FPGA, faire tourner le modèle, mesurer la précision et le débit. Troisième étape : construire l'intégration système et la validation sur le terrain autour de ces résultats pour produire un échantillon d'ingénierie. Quatrième étape : une fois le modèle figé, choisir la voie ASIC, soit en intégrant l'IP sous licence à votre propre puce, soit en adoptant un ASIC Fanshi.

Le point de décision clé est le gel du modèle. Avant, tout s'itère sur FPGA ; après, le projet passe aux masques et au tape-out.

À quelles équipes la licence IP convient

La licence IP convient aux équipes qui ont déjà leur propre SoC, ou en prévoient un, et veulent y ajouter l'inférence LLM ; aux équipes dont le modèle évolue encore et qui ont d'abord besoin d'un échantillon d'ingénierie ; et aux équipes qui veulent livrer de petites séries directement sur FPGA. Si le modèle est déjà figé et le volume élevé, un ASIC Fanshi prêt à l'emploi est généralement la voie la plus simple.

Appliquez la question à votre projet

Envoyez le modèle cible et les objectifs de performance et de consommation. Nous répondons avec une voie et un plan d'évaluation.

Demander un kit d'évaluation