<?xml version="1.0" encoding="UTF-8"?>
<rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom"><channel>
<title>Fanshi Semiconductor の技術記事</title><link>https://www.fanshi-silicon.com/ja/insights/</link><description>Fanshiエンジニアリングチームによる解説記事。コンピュート・イン・メモリチップ、エッジLLM推論チップの選び方、推論コスト、MaskROM、FPGAプロトタイピング、メモリの壁、Qwenのハイブリッド・アテンション。</description><language>ja</language>
<lastBuildDate>Mon, 16 Nov 2026 01:00:00 GMT</lastBuildDate><atom:link href="https://www.fanshi-silicon.com/ja/feed.xml" rel="self" type="application/rss+xml"/>
<item><title>モデルオンチップとは：LLM を固定配線した ASIC、クラウドとエッジの違い</title><link>https://www.fanshi-silicon.com/ja/insights/hardwired-llm-chip-model-specific-asic/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/ja/insights/hardwired-llm-chip-model-specific-asic/</guid><pubDate>Mon, 16 Nov 2026 01:00:00 GMT</pubDate><description>モデル専用 ASIC は、ハードワイヤード LLM チップとも呼ばれ、ひとつの大規模言語モデルの重みを製造時にシリコンへ固定します。推論のたびに重みをメモリから運ぶ必要がなくなるため、デコード速度と電力効率は汎用 GPU より桁違いに高くなり得ます。その代わり、モデルを自由に入れ替えることはできません。種類は二つあります。クラウド向けはラックあたりのトークン毎秒とトークン単価を追い、エッジ向けはワット級の消費電力、オフライン動作、機器コストを追います。</description></item>
<item><title>LLM 推論 ASIC 比較：2026 年の 5 つのチップアーキテクチャ</title><link>https://www.fanshi-silicon.com/ja/insights/llm-inference-asic-comparison/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/ja/insights/llm-inference-asic-comparison/</guid><pubDate>Mon, 16 Nov 2026 01:00:00 GMT</pubDate><description>LLM 推論向けハードウェアは現在、5 つのアーキテクチャに分けられます。汎用 GPU、ウェハースケールエンジン、言語処理ユニット、トランスフォーマー専用 ASIC、そしてひとつのモデルをシリコンに固定するモデルオンチップです。違いは、速度のためにどれだけ柔軟性を手放すかにあります。同じ 8B モデルについて公表されている速度は、NVIDIA H200 のユーザーあたり毎秒約 230 トークンから、固定配線の Taalas HC1 の約 17,000 トークンまで幅があります。ただし、これらはメーカー公表値と独立した測定が混ざっており、そのまま比べることはできません。5 つはいずれもデータセンター向けの製品で、機器には別のクラスのチップが必要です。</description></item>
<item><title>トークン毎秒（tokens/s）とは：LLM はどのくらい速ければよいか</title><link>https://www.fanshi-silicon.com/ja/insights/tokens-per-second-explained/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/ja/insights/tokens-per-second-explained/</guid><pubDate>Mon, 16 Nov 2026 01:00:00 GMT</pubDate><description>トークン毎秒は、言語モデルが出力を生成する速さです。人が読む速さはおよそ毎秒 5〜7 トークンなので、チャットの回答は毎秒 10〜30 トークンあれば滑らかに感じられます。推論モデル、エージェント、制御ループには数百から数千が必要です。生成されるトークンの大半を人が読まないからです。機器上では、メモリ帯域をモデルサイズで割った値が上限になります。エッジチップが重みをそもそも動かさないようにするのはこのためです。</description></item>
<item><title>GPU なしで LLM を動かす方法：機器向け 5 つのハードウェア</title><link>https://www.fanshi-silicon.com/ja/insights/run-llm-without-gpu-edge-hardware/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/ja/insights/run-llm-without-gpu-edge-hardware/</guid><pubDate>Mon, 16 Nov 2026 01:00:00 GMT</pubDate><description>言語モデルは、データセンター向け GPU がなくても 5 種類のハードウェアで動きます。量子化モデルを載せた CPU、スマートフォンや PC 用チップ内の NPU、組み込み GPU モジュール、FPGA、そして専用 LLM チップです。最初の三つはメモリ帯域という同じボトルネックを抱えています。トークンごとに全重みを読む必要があるためです。専用チップはこのボトルネックを取り除きますが、見合うのはモデルが固まっていて、製品が量産出荷される場合に限られます。</description></item>
<item><title>Taalas HC1 とは：仕様、速度、制約、そして機器向けチップにとっての意味</title><link>https://www.fanshi-silicon.com/ja/insights/taalas-hc1-explained/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/ja/insights/taalas-hc1-explained/</guid><pubDate>Mon, 16 Nov 2026 01:00:00 GMT</pubDate><description>Taalas HC1 は 2026 年 2 月に発表されたデータセンター向け推論チップで、Llama 3.1 8B というひとつのモデルをシリコンに固定配線しています。同社はユーザーあたり毎秒 17,000 トークン近くと発表しており、同じモデルの NVIDIA H200 での値は毎秒約 230 トークンです。公開されている内容には TSMC 6 nm、ダイ面積 815 mm²、約 530 億トランジスタが含まれます。代償は、1 チップ 1 モデルであること、最初のシリコンが 3 ビットと 6 ビットの強い量子化を使うこと、約 2.5 kW のサーバー向けであることです。これはクラウド製品であり、機器には同じ発想を 1 ワットから数十ワットで実現するものが必要です。</description></item>
<item><title>NPU・GPU モジュール・専用チップ：オンデバイス LLM にはどれを選ぶか</title><link>https://www.fanshi-silicon.com/ja/insights/npu-vs-dedicated-llm-chip/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/ja/insights/npu-vs-dedicated-llm-chip/</guid><pubDate>Mon, 16 Nov 2026 01:00:00 GMT</pubDate><description>NPU、組み込み GPU モジュール、専用 LLM チップはいずれも機器の中で言語モデルを動かせますが、弱点はそれぞれ違います。NPU はすでに製品に入っていて追加コストがかかりませんが、システムメモリを共有し、ベンダーのツールチェーンに依存します。GPU モジュールはメモリに収まる任意のモデルを動かせますが、数十ワットを消費します。専用チップはメモリのボトルネックをなくし消費電力も最小ですが、モデルをあらかじめ決める必要があります。選択は三つの問いで決まります。モデルはどれだけ固まっているか、何台出荷するか、何ワット使えるか。</description></item>
<item><title>ロボットのオンデバイス LLM：エンボディド AI にローカル推論ハードウェアが必要な理由</title><link>https://www.fanshi-silicon.com/ja/insights/on-device-llm-for-robots/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/ja/insights/on-device-llm-for-robots/</guid><pubDate>Mon, 16 Nov 2026 01:00:00 GMT</pubDate><description>言語モデルや視覚言語モデルで計画を立てるロボットは、データセンターに頼れません。通信による遅延は刻々と変わり、ロボットが働く場所では接続が保証されないからです。モデルを本体で動かせば、推論速度は制御ループの中の決まった量になります。そのときハードウェアは三つの条件を同時に満たす必要があります。計画の頻度に見合うトークン毎秒、本体でおよそ 10〜70 ワットの電力予算、出荷するすべての個体で同じ挙動です。</description></item>
<item><title>コンピュート・イン・メモリAIチップとは？ 3つの技術ルートを解説</title><link>https://www.fanshi-silicon.com/ja/insights/what-is-compute-in-memory-chip/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/ja/insights/what-is-compute-in-memory-chip/</guid><pubDate>Sat, 14 Nov 2026 01:00:00 GMT</pubDate><description>コンピュート・イン・メモリ（CIM）チップは、積和演算をメモリアレイの中で行うため、モデルの重みが記憶セルを離れません。狙いは、LLM推論で最も大きなコスト、つまり重みをメモリから演算器へ運ぶ処理です。重みの置き場所によって、MaskROM コンピュート・イン・メモリ、SRAM コンピュート・イン・メモリ、ニアメモリ演算の3つの主要ルートに分かれます。</description></item>
<item><title>エッジLLM推論チップの選び方：7つの質問</title><link>https://www.fanshi-silicon.com/ja/insights/how-to-choose-edge-inference-chip/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/ja/insights/how-to-choose-edge-inference-chip/</guid><pubDate>Sat, 14 Nov 2026 01:00:00 GMT</pubDate><description>エッジ推論チップを選ぶには、まず7つの質問に答えます。どのモデルか、パラメータ数はいくつか、どのくらいの頻度で変わるか、電力予算はいくらか、デコードはどれだけ速くなければならないか、データをデバイスの外に出してよいか、何台出荷するか。その答えで、汎用のGPUやNPUにするか、コンピュート・イン・メモリやニアメモリの専用ASICにするかがほぼ決まります。</description></item>
<item><title>LLM推論コスト：API、クラウドGPU、エッジチップを3年間で比較</title><link>https://www.fanshi-silicon.com/ja/insights/inference-compute-cost/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/ja/insights/inference-compute-cost/</guid><pubDate>Sat, 14 Nov 2026 01:00:00 GMT</pubDate><description>LLMの推論コストには3つの形があります。APIは100万トークン単位で課金され、継続的な支出になります。自社運用のクラウドGPUは、レンタル料や減価償却を均すと100万トークンあたり約0.70ドルです。専用のエッジチップは一度購入すれば、その後の推論1回あたりの限界コストはゼロに近づきます。1日1,000万トークンの場合、最先端モデルのAPIは3年間で約19万2,000ドルかかり、例として210ドルとしたチップの約1,000倍になります。</description></item>
<item><title>MaskROM コンピュート・イン・メモリ：重みをシリコンに焼き込むとは</title><link>https://www.fanshi-silicon.com/ja/insights/maskrom-cim-explained/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/ja/insights/maskrom-cim-explained/</guid><pubDate>Sat, 14 Nov 2026 01:00:00 GMT</pubDate><description>MaskROM コンピュート・イン・メモリは、テープアウトで使うマスクパターンによって、モデルの重みをシリコンのビアアレイに焼き込みます。重みはチップの構造の一部になります。実行時には読み出しも移動も不要で、積和演算はアレイの中でその場で行われるため、あらゆるルートの中で消費電力と推論1回あたりの限界コストが最も低くなります。代償はモデルが固定されることで、変更には新しいマスクが必要です。</description></item>
<item><title>LLMアクセラレータのFPGAプロトタイピング：IPライセンスからテープアウトまで</title><link>https://www.fanshi-silicon.com/ja/insights/fpga-prototyping-for-llm-ip/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/ja/insights/fpga-prototyping-for-llm-ip/</guid><pubDate>Sat, 14 Nov 2026 01:00:00 GMT</pubDate><description>LLMのFPGAプロトタイピングとは、テープアウトの前に推論コアIPをFPGA評価ボードに実装し、実際のモデルと実際のインターフェースで経路全体を動かすことです。ASICが存在する前にエンジニアリングサンプルを手にでき、モデルマッピング、量子化精度、インターフェース、インテグレーションの問題を早期に洗い出し、テープアウトの判断を実測にもとづいて下せます。</description></item>
<item><title>メモリの壁：エッジLLMが止まる理由と、その回避策</title><link>https://www.fanshi-silicon.com/ja/insights/memory-wall-edge-llm/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/ja/insights/memory-wall-edge-llm/</guid><pubDate>Sat, 14 Nov 2026 01:00:00 GMT</pubDate><description>メモリの壁とは、急速に伸びる演算性能と、ゆっくりとしか伸びないメモリ帯域との差のことで、演算器はほとんどの時間をデータ待ちに費やします。LLMのデコードではトークンごとにすべての重みを読むため、スループットの上限はメモリ帯域をモデルサイズで割った値になります。エッジ機器の帯域は数十GB/sしかなく、従来のアーキテクチャでは実用的なLLMを動かせません。コンピュート・イン・メモリとニアメモリ演算は、重みの移動を減らすか、なくすことで、この壁を回避します。</description></item>
<item><title>Qwen3.5 から Qwen3.8 へ：ハイブリッド・アテンションがエッジ向けシリコンに適する理由</title><link>https://www.fanshi-silicon.com/ja/insights/qwen-hybrid-attention-in-silicon/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/ja/insights/qwen-hybrid-attention-in-silicon/</guid><pubDate>Sat, 14 Nov 2026 01:00:00 GMT</pubDate><description>Qwen3.5、Qwen3.6、Qwen3.8 は、Gated DeltaNet の線形アテンション層3つと、ゲート付きフルアテンション層1つを交互に並べるハイブリッド構成を採用しています。コンテキストとともに伸びるKVキャッシュを持つのは、ネットワークの4分の1にあたるフルアテンション部分だけです。線形層は、プロンプトがどれだけ長くても固定サイズの状態しか持ちません。エッジ向けシリコンにとっては、メモリ予算が小さく、しかも予測しやすくなることを意味します。さらに、公開されている構成がこれらのリリース間で変わっていないため、新しいQwenモデルは、新しいアーキテクチャではなく、同じ推論コアの上での新規構築になります。</description></item>
</channel></rss>
