MaskROM コンピュート・イン・メモリ · ハードワイヤードLLM · シリコンに焼き込むモデル · ROMベースCIM · シリコン上の重み
MaskROM コンピュート・イン・メモリ:重みをシリコンに焼き込むとは
Fanshi Semiconductor エンジニアリングチーム · 公開

MaskROM コンピュート・イン・メモリは、テープアウトで使うマスクパターンによって、モデルの重みをシリコンのビアアレイに焼き込みます。重みはチップの構造の一部になります。実行時には読み出しも移動も不要で、積和演算はアレイの中でその場で行われるため、あらゆるルートの中で消費電力と推論1回あたりの限界コストが最も低くなります。代償はモデルが固定されることで、変更には新しいマスクが必要です。
重みがシリコンの一部になる
通常のチップでは、メモリセルは空の状態で出荷され、重みは電源投入時に外部からロードされます。MaskROMは違います。設計の段階で、すべての重みの値がビアや接続の有無に変換され、フォトマスクに描かれ、ほかの回路と一緒にシリコンへ作り込まれます。チップが工場を出るとき、モデルはすでに中にあります。
重みが回路構造そのものなので、読み出しの工程がありません。活性化がアレイを流れるあいだに、ビアアレイの隣の回路でその場で積和演算が完了し、出てくるのは重みではなく結果です。これが、モデルをチップに焼き込むという言葉の文字どおりの意味です。
消費電力とコストが最も低い理由
LLMのデコードで最も大きなエネルギーコストは重みの移動であり、MaskROMはそれを完全になくします。DRAMもHBMも不要なので、高価なメモリチップを部品表から外せ、その消費電力と基板面積も不要になります。
MaskROMのセルは非常に小さく、SRAMのように1ビットあたり6個のトランジスタを必要としません。同じシリコン面積にはるかに多くの重みを収められるため、成熟したプロセスでも言語モデルをまるごと搭載できます。
マスクは一度きりの費用です。その後は、チップ1個あたりのコストはダイ面積とパッケージだけになります。数量が多いほど、1個あたりのマスク費用は小さくなります。
限界:モデルは固定
重みを一度シリコンに焼き込むと、変更はできません。別のモデルにするには新しいマスクと新しいテープアウトが必要です。そのためMaskROMルートは、モデルが確定し、現場で十分に検証されていることを前提とします。
実務でよく使われる方法は、言語モデルのバックボーンのように安定した大部分をMaskROMに置き、少数のアダプタ層やプロンプトのように調整が必要な部分を書き換え可能なメモリに残すやり方です。具体的な分け方は、モデルの構造に照らして案件ごとに評価します。
向いている製品
携帯型翻訳機、音声メモ機器、車載オフライン音声アシスタントには共通点があります。モデルの役割が明確で、数量が多く、消費電力に極めて敏感で、ネットワーク接続を必要としません。Fanshiの Forge は、まさにこうした機器のために定義されています。Qwen 3.5 0.8B を中核モデルとするMaskROMルートで、設計目標は1ワット未満クラスのシステム電力と 17,000 token/s のデコード速度です。
モデルがまだ確定していない場合は、まず推論IPを使ってFPGA評価ボード上で動かし、モデルが固まってからMaskROMのテープアウトに進みます。



