Aller au contenu

FS-MoE

IP d'inférence à mélange d'experts parcimonieux

Conçue pour les modèles parcimonieux à activation dynamique : un grand nombre de paramètres dans un budget de bande passante embarqué.

FS-MoE, IP d'inférence à mélange d'experts parcimonieux, illustration
Fig. 1 · FS-MoE IP d'inférence à mélange d'experts parcimonieux

Flux de données

Conçue pour les modèles parcimonieux à activation dynamique : un grand nombre de paramètres dans un budget de bande passante embarqué.

RouteurgatingExpert 1Expert 2Expert 3Expert 4FusionSeuls les poidssélectionnés sont lus
Fig. 2 · Flux de données de FS-MoE (schéma)

Prise en charge native

Grands modèles parcimonieux dans un budget embarqué

Déploiement

Tape-out ASIC et prototypage FPGA, avec adaptation des interfaces et du système selon le projet.

La licence comprend

IP du cœur d'inférence, carte d'évaluation FPGA, mappage du modèle et adaptation des interfaces, support d'intégration.

La couverture IP, les interfaces, l'occupation de ressources, les objectifs de performance et les conditions de licence sont évalués selon le composant et le modèle cibles.

Se renseigner sur FS-MoE

Indiquez-nous le composant cible, le modèle et les interfaces. Nous répondons avec la couverture IP et un plan d'évaluation.

Se renseigner sur les licences IP