本文へスキップ

FS-MoE

スパースMoE推論IP

動的に活性化するスパースモデル向け。エッジの帯域予算の中で、大きなパラメータ数を扱います。

FS-MoE スパースMoE推論IPのイメージ図
図1 · FS-MoE スパースMoE推論IP

データフロー

動的に活性化するスパースモデル向け。エッジの帯域予算の中で、大きなパラメータ数を扱います。

ルーターgatingエキスパート 1エキスパート 2エキスパート 3エキスパート 4統合選ばれた重みだけを読み出す
図2 · FS-MoE のデータフロー(模式図)

ネイティブ対応

エッジの予算で大規模スパースモデルを実行

実装形態

ASICのテープアウトとFPGAプロトタイピング。インターフェースとシステムへの適合は案件ごとに行います。

ライセンスに含まれるもの

推論コアIP、FPGA評価ボード、モデルマッピングとインターフェース適合、設計組み込み支援。

IPの対応範囲、インターフェース、リソース使用量、性能目標、ライセンス条件は、対象デバイスとモデルに照らして評価します。

FS-MoE について問い合わせる

対象デバイス、モデル、インターフェースをお知らせください。IPの対応範囲と評価計画をご返信します。

IPライセンスについて問い合わせる