Zum Inhalt springen

Jedem Gerätsein eigenes LLM.

Fanshi gießt große Sprachmodelle direkt in Compute-in-Memory-Silizium: drei Technologiepfade, eine Familie von Inferenzkernen, eine Linie vom Modell bis zum Tape-out. Ohne Netzwerk, ohne dass Daten das Gerät verlassen, mit Grenzkosten pro Inferenz nahe null.

Vom Handgerät der Watt-Klasse
bis zum Knoten für 35B-Modelle.

Dieselben Inferenzkerne und drei Technologiepfade können jedes Modell in einen Chip gießen. Wählen Sie einen passenden, oder lassen Sie einen um Ihr Modell herum entwickeln.

Die Edge-Inferenzchips der ersten Generation von Fanshi, Forge, Argus und Trident, nebeneinander auf hellgrauer Fläche
Abb. 1 · ASICs der ersten Generation, von links: Forge, Argus, Trident

Das ganze Modell,
gegossen in einen Chip.

GPUs und NPUs verbringen den Großteil ihrer Zeit und Energie damit, Gewichte zwischen Speicher und Rechenwerk hin- und herzuschieben. Fanshi dreht das um: Die Gewichte wohnen im Speicherarray, und gerechnet wird dort, wo sie liegen.

Im Silizium / ARCHITECTURE STUDY01 / 03

Gewichte unterwegs, Energie unterwegs.

3D-Vorschau

Externer Gewichtstransport pro Token

800MB

Der Transport entsteht durch

Lesen außerhalb des Chips · Transfer zwischen Chips

0.8B · INT8-Schätzung, nicht die Leistungsaufnahme des Systems
Abb. 2 · Wo die Gewichte liegen, entscheidet, wohin die Energie gehtSchema · kein reales Layout
  1. Getrennter Speicher

    Jedes Token bewegt jedes Gewicht

    In einer herkömmlichen NPU oder GPU sind Speicher und Rechenwerk getrennte Siliziumbausteine. Für jedes erzeugte Token wandern sämtliche Gewichte über den Bus: Die Bandbreite setzt die Obergrenze, und die meiste Energie geht unterwegs verloren.

  2. Compute-in-Memory

    Die Gewichte ins Speicherarray legen

    Fanshi baut die Multiplizier-Akkumulier-Schaltungen direkt in das Speicherarray. Die Gewichte bleiben im Array, Aktivierungen fließen hinein, Ergebnisse heraus. Auf dem Bus liegen keine Gewichte mehr.

  3. MaskROM

    Beim Tape-out gegossen, zur Laufzeit nie bewegt

    Masken-ROM-Compute-in-Memory schreibt die Gewichte beim Tape-out physisch in das Via-Array. Der Chip verlässt die Fabrik mit dem Modell bereits im Inneren; Leistungsaufnahme und Grenzkosten pro Inferenz sinken auf das Minimum.

Ein Ziel,
drei Pfade.

Alle drei bewegen die Gewichte weniger oder gar nicht. Sie unterscheiden sich darin, wo die Gewichte liegen und ob sich das Modell noch ändern lässt. Jeder Serienchip folgt einem Pfad; bei einem kundenspezifischen Chip richtet sich der Pfad danach, wie oft sich Ihr Modell ändert.

17,000token/s

Dekodiergeschwindigkeit im Gerät

Forge, Entwicklungsziel · Qwen 3.5 0.8B

~1 W

Leistungsaufnahme des Systems

Forge, leichte Edge-Klasse

100%

Der Daten bleiben im Gerät

Lokale Inferenz, kein Netzwerk nötig

≈ $0

Grenzkosten pro Inferenz

Nach dem einmaligen Kauf des Chips

ASICs der ersten Generation,
das Modell ist schon drin.

Wählen Sie nach Last: ein Handgerät der Watt-Klasse, ein Knoten für Modelle mit 35 Milliarden Parametern oder ein Vision-Chip, der mit jedem Bild Schritt hält. Passt keiner, bauen wir einen um Ihr Modell.

Forge, leichter Chip für LLM-Inferenz im Endgerät, mit lasergraviertem Fanshi-Zeichen auf dem Gehäuse
Abb. 3 · Forge, Leichter Edge-Chip

Forge

Edge-LLM

Ein vollständiges Sprachmodell in einem Handgerät der Watt-Klasse.

17,000token/s
Kernmodell
Qwen 3.5 0.8B
Dekodiergeschwindigkeit
17.000 Token/s
Leistungsaufnahme
Watt-Klasse
Pfad
MaskROM-Compute-in-Memory

Typische Anwendungen

  • Handübersetzer
  • Diktier- und Sprachmemo-Geräte
  • Offline-Sprachassistenten im Fahrzeug
Datenblatt Forge

Die Angaben auf dieser Seite sind aktuelle Produktdefinitionen und Entwicklungsziele. Endgültige Spezifikationen, Testbedingungen, Verfügbarkeit und Lieferversionen werden in den von beiden Seiten abgestimmten Projektunterlagen festgelegt.

Ihr Modell entwickelt sich noch?
Warten Sie nicht aufs Tape-out.

Lizenzieren Sie Fanshi-Inferenzkerne für Ihren eigenen ASIC oder FPGA. Eine Kernfamilie, vier Architekturen, zuerst auf einem Evaluierungsboard.

FS-Fusion, Inferenz-IP für multimodale Fusion, Illustration
Abb. 7 · FS-Fusion

Inferenz-IP für multimodale Fusion

FS-Fusion

Gemeinsames Bild-Sprach-Verständnis (VLM) und Multisensor-Fusion, direkt im Endgerät berechnet.

Native Fusions-Pipeline SmolVLM + SegFormer MiT

Details zu FS-Fusion
FS-Attention, Inferenz-IP für hybride Attention, Illustration
Abb. 8 · FS-Attention

Inferenz-IP für hybride Attention

FS-Attention

Native Unterstützung für Sprachmodelle mit hybrider Attention, einschließlich der Gated-Full-Attention-Schichten der Qwen3.5-Familie.

Qwen3 / 3.5 (0.6B bis 9B) und SmolLM2

Details zu FS-Attention
FS-MoE, Inferenz-IP für Sparse Mixture-of-Experts, Illustration
Abb. 9 · FS-MoE

Inferenz-IP für Sparse Mixture-of-Experts

FS-MoE

Für dynamisch aktivierte Sparse-Modelle: große Parameterzahlen innerhalb eines Edge-Bandbreitenbudgets.

Große Sparse-Modelle im Edge-Budget

Details zu FS-MoE
FS-Linear, IP für lineare Attention und neue Architekturen, Illustration
Abb. 10 · FS-Linear

IP für lineare Attention und neue Architekturen

FS-Linear

Lineare Attention und RNN-artige Architekturen rund um DeltaNet, einschließlich der seit Qwen3.5 verwendeten Gated-DeltaNet-Schichten.

Streaming mit sehr niedriger Latenz und Zustand fester Größe, unabhängig von der Kontextlänge

Details zu FS-Linear

Erst auf dem FPGA.
Übers Tape-out später entscheiden.

Evaluierungsboard und anpassbare IP-Lizenz validieren Modell-Mapping, Schnittstellen und den gesamten Systempfad. Ein Engineering-Muster existiert vor dem Silizium, sodass Design-in- und Tape-out-Entscheidungen auf Messwerten beruhen.

IP-Lizenzen anfragen
FPGA-Evaluierungsboard auf einem Labortisch, verbunden mit einem Laptop, in dessen Terminal die Inferenzausgabe läuft
Abb. 11 · FPGA-Evaluierungsboard mit laufendem Inferenzkern

Jedes Modell kann
diese Linie durchlaufen.

So sind die Chips der ersten Generation entstanden, und Ihrer kann denselben Weg gehen: zuerst auf einem Evaluierungsboard, dann die Wahl zwischen einem vorhandenen Chip und Ihrem eigenen.

  1. 01

    Pfad wählen

    Zielmodell, Leistungs- und Verbrauchsziele, Update-Rhythmus, Schnittstellen. Die erste Frage lautet immer: Wie oft ändert sich das Modell?

  2. 02

    Evaluieren

    Das Modell auf dem Evaluierungsboard ausführen, Genauigkeit und Durchsatz messen und ein funktionierendes Engineering-Muster erhalten, bevor Silizium beauftragt wird.

  3. 03

    Integrieren

    Schnittstellen, Systemsoftware und Feldvalidierung auf Basis der Evaluierungsergebnisse: Aus dem Muster wird ein Produktprototyp.

  4. 04

    ASIC liefern

    Sobald das Modell eingefroren ist: ein Serienchip oder die IP, integriert in Ihr eigenes Silizium.

Dieselben Token.
Ein Unterschied von 913× in drei Jahren.

Hardware kauft man einmal. Eine Token-Rechnung hört nie auf. Wählen Sie das Modell, das Sie heute nutzen, und ziehen Sie das Tagesvolumen.

100K500M
$70$420

Selbst betriebene Cloud-GPU, geschätzt $0.70 pro Million Token (mittlere H100-Miete 2026). Nach dem einmaligen Kauf des Chips sind die Grenzkosten pro Inferenz ≈ 0.

Inferenzkosten über drei Jahre

Amortisiert im ersten Monat

GPT-5.5 · API$192K
Selbst betriebene Cloud-GPU$7,665
Fanshi-Chip$210
API, kumuliertEigene GPU, kumuliertFanshi, kumuliert
0107K215K0 Mon.12 Mon.24 Mon.36 Mon.

Preise: öffentliche API-Listenpreise 2026, gemittelt (Eingabe:Ausgabe ≈ 1:1). Nur zur Veranschaulichung; die tatsächlichen Kosten hängen von Nutzung und Angebot ab.