本文へスキップ

LLMアクセラレータのFPGAプロトタイピング · LLM推論IP · 半導体IPライセンス · FPGA LLM · ASICテープアウト

LLMアクセラレータのFPGAプロトタイピング:IPライセンスからテープアウトまで

Fanshi Semiconductor エンジニアリングチーム · 公開

LLMのFPGAプロトタイピングとは、テープアウトの前に推論コアIPをFPGA評価ボードに実装し、実際のモデルと実際のインターフェースで経路全体を動かすことです。ASICが存在する前にエンジニアリングサンプルを手にでき、モデルマッピング、量子化精度、インターフェース、インテグレーションの問題を早期に洗い出し、テープアウトの判断を実測にもとづいて下せます。

なぜFPGAから始めるのか

ASICのテープアウトは時間も費用もかかり、1つのミスで数か月と多額の費用を失います。FPGAなら同じ推論コアを数日で動かし、実際のモデル、実際のインターフェース、実際のデータで検証できます。モデルマッピングは正しいか。量子化でどれだけ精度が落ちるか。インターフェースの帯域は足りるか。システムソフトウェアはどうつながるか。

プロダクトチームにとって、FPGA評価ボードは最初のエンジニアリングサンプルです。ASICの設計が続いているあいだに、ユーザーテスト、顧客へのデモ、現場でのデータ収集に使えます。

推論IPライセンスに含まれるもの

Fanshiは4つの推論コアファミリーを提供しています。マルチモーダル融合の FS-Fusion、ハイブリッド・アテンションの FS-Attention、スパースMoEの FS-MoE、線形アテンションと新アーキテクチャ向けの FS-Linear です。同じコアを、お客様自身のASICにもFPGAにも実装できます。

ライセンスには通常、推論コアIP、FPGA評価ボード、モデルマッピングとインターフェース適合、設計組み込み支援が含まれます。IPの対応範囲、リソース使用量、性能目標、ライセンス条件は、対象デバイスとモデルに照らして案件ごとに評価します。

典型的な流れ

ステップ1:対象モデル、性能目標、電力予算、インターフェースを確認し、どのルートが合うかを決めます。ステップ2:推論コアをFPGA評価ボードに実装し、モデルを動かして精度とスループットを測定します。ステップ3:その結果をもとにシステム統合と現場検証を進め、エンジニアリングサンプルを作ります。ステップ4:モデルが確定したらASICの方針を選びます。ライセンスしたIPを自社チップに統合するか、FanshiのASICを採用するかです。

重要な判断点はモデルの確定です。それまではすべてFPGA上で改良を重ね、確定後にマスクとテープアウトへ進みます。

IPライセンスが向いているチーム

IPライセンスが向いているのは、自社SoCをすでに持っているか計画していて、LLM推論を加えたいチーム、モデルがまだ進化していて、まずエンジニアリングサンプルが必要なチーム、そして少量生産の製品をFPGAのまま出荷したいチームです。モデルがすでに確定していて数量が多い場合は、既製のFanshi ASICを使うほうがたいてい簡単です。

この疑問を、あなたのプロジェクトで

対象モデルと、性能・消費電力の目標をお送りください。適したルートと評価計画をご返信します。

評価キットを申し込む