Zum Inhalt springen

FS-MoE

Inferenz-IP für Sparse Mixture-of-Experts

Für dynamisch aktivierte Sparse-Modelle: große Parameterzahlen innerhalb eines Edge-Bandbreitenbudgets.

FS-MoE, Inferenz-IP für Sparse Mixture-of-Experts, Illustration
Abb. 1 · FS-MoE Inferenz-IP für Sparse Mixture-of-Experts

Datenfluss

Für dynamisch aktivierte Sparse-Modelle: große Parameterzahlen innerhalb eines Edge-Bandbreitenbudgets.

RoutergatingExperte 1Experte 2Experte 3Experte 4ZusammenführenNur gewählteGewichte werden gelesen
Abb. 2 · Datenfluss von FS-MoE (Schema)

Native Unterstützung

Große Sparse-Modelle im Edge-Budget

Einsatz

ASIC-Tape-out und FPGA-Prototyping, mit Anpassung von Schnittstellen und System je Projekt.

Die Lizenz umfasst

Inferenzkern-IP, FPGA-Evaluierungsboard, Modell-Mapping und Schnittstellenanpassung, Design-in-Unterstützung.

IP-Abdeckung, Schnittstellen, Ressourcenbedarf, Leistungsziele und Lizenzbedingungen werden anhand des Zielbausteins und des Modells geprüft.

Anfrage zu FS-MoE

Nennen Sie uns Zielbaustein, Modell und Schnittstellen. Wir antworten mit der IP-Abdeckung und einem Evaluierungsplan.

IP-Lizenzen anfragen