本文へスキップ

FS-Attention

ハイブリッド・アテンション推論IP

ハイブリッド・アテンションを用いる言語モデルにネイティブ対応。Qwen3.5ファミリーのゲート付きフルアテンション層を含みます。

FS-Attention ハイブリッド・アテンション推論IPのイメージ図
図1 · FS-Attention ハイブリッド・アテンション推論IP

データフロー

ハイブリッド・アテンションを用いる言語モデルにネイティブ対応。Qwen3.5ファミリーのゲート付きフルアテンション層を含みます。

tokenグローバル注意softmaxスライド窓localKVキャッシュon-chip次のトークンQwen3 / 3.5 · SmolLM2
図2 · FS-Attention のデータフロー(模式図)

ネイティブ対応

Qwen3 / 3.5(0.6B から 9B)と SmolLM2

実装形態

ASICのテープアウトとFPGAプロトタイピング。インターフェースとシステムへの適合は案件ごとに行います。

ライセンスに含まれるもの

推論コアIP、FPGA評価ボード、モデルマッピングとインターフェース適合、設計組み込み支援。

IPの対応範囲、インターフェース、リソース使用量、性能目標、ライセンス条件は、対象デバイスとモデルに照らして評価します。

FS-Attention について問い合わせる

対象デバイス、モデル、インターフェースをお知らせください。IPの対応範囲と評価計画をご返信します。

IPライセンスについて問い合わせる