Fragen zu den Chips, zur IP und zur Evaluierung.
Zusammengestellt aus den Fragen, die Kunden uns am häufigsten stellen, damit Teams die Eignung schnell einschätzen können.
Was bietet Fanshi Semiconductor an?
ASIC-Chips für LLM-Inferenz im Endgerät (Forge, Trident und Argus), kundenspezifische Chips rund um das Modell des Kunden, FPGA-Evaluierungsboards sowie Inferenzkern-IP (FS-Fusion, FS-Attention, FS-MoE und FS-Linear), die sich in den eigenen ASIC oder FPGA des Kunden integrieren lässt.
Was ist ein Edge-Inferenzchip, und worin unterscheidet er sich von GPU-Inferenz in der Cloud?
Ein Edge-Inferenzchip führt das Modell im Gerät selbst aus, ohne Netzwerkumweg und ohne Rechenzentrum. Gegenüber Cloud-GPUs gibt es keine Rechnung pro Token, keine Netzwerklatenz und keine Daten, die das Gerät verlassen. Der Preis dafür: Modellgröße und Update-Strategie werden zur Entwurfszeit festgelegt.
Was ist der Unterschied zwischen Compute-in-Memory und Near-Memory-Computing?
Compute-in-Memory führt Multiplizieren und Akkumulieren im Speicherarray aus, die Gewichte verlassen die Speicherzellen nie. Near-Memory-Computing platziert die Recheneinheiten direkt neben Speicher mit hoher Bandbreite und verarbeitet die Daten als Strom auf dem Chip, um Datenbewegung zu minimieren. Das Erste bietet die niedrigste Leistungsaufnahme und die niedrigsten Grenzkosten; das Zweite passt zu Modellen, die sich noch weiterentwickeln.
Wann ist MaskROM-Compute-in-Memory sinnvoll?
Für Endgeräte mit stabilem Modell, klarer Stückzahl und harter Anforderung an niedrige Leistungsaufnahme und niedrige Grenzkosten pro Inferenz, etwa Handübersetzer und Offline-Sprachassistenten. Die Gewichte werden in der Maskenstufe des Tape-outs ins Silizium gegossen, zur Laufzeit gibt es keinen externen Gewichtstransport.
Lässt sich das Modell aktualisieren, nachdem es in den Chip gegossen wurde?
Auf dem MaskROM-Pfad nicht: Die Gewichte stehen mit dem Tape-out fest, ein neues Modell bedeutet neue Masken. Der Pfad SRAM-Compute-in-Memory lädt die Gewichte beim Start und ist aktualisierbar. Der Near-Memory-Pfad hält die Gewichte im externen Speicher und erlaubt laufende Iteration. Deshalb lautet die erste Frage immer: Wie oft ändert sich Ihr Modell?
Welche Modelle unterstützen die Fanshi-Chips?
Forge zielt auf Qwen 3.5 0.8B; Trident unterstützt bis zu Qwen 3.5 35B; Argus führt SmolVLM, SegFormer und ähnliche Vision- und multimodale Modelle aus. Die IP-Familie deckt Qwen3 / 3.5 (0.6B bis 9B), SmolLM2, Sparse-MoE-Modelle und lineare Attention nach DeltaNet-Art ab. Die vollständige Liste steht auf der Seite der unterstützten Modelle.
Unterstützen Sie Qwen3.6, Qwen3.8 und andere neue Modelle?
Ja. Qwen3.6 und Qwen3.8 behalten den hybriden Aufbau von Qwen3.5 bei: Gated-DeltaNet-Schichten mit linearer Attention im Wechsel mit Gated-Full-Attention-Schichten. Die Fanshi-Kerne FS-Linear und FS-Attention decken beide Schichttypen bereits ab. Ein neueres Modell derselben Familie ist daher ein neuer Chip auf vorhandenen Kernen, keine neue Architektur. Parameterzahl, Kontextlänge und Leistungsziele werden je Projekt geprüft.
Was geschieht, wenn nach der Fertigung des Chips ein neueres Modell erscheint?
Auf dem MaskROM-Pfad müssen für ein neues Modell die Maskenebenen neu erstellt werden, die die Gewichte tragen. Hat das neue Modell dieselbe Architektur, bleiben Kerndesign, SDK und Host-Integration unverändert. Bei SRAM-Compute-in-Memory laden Sie die Gewichte beim Start neu; bei Near-Memory-Computing aktualisieren Sie die Gewichte im externen Speicher.
Wie sind Angaben wie 17.000 Token/s definiert?
Es sind Entwicklungsziele für den Dekodierdurchsatz des Kernmodells, das beim jeweiligen Produkt genannt ist. Genaues Modell, Genauigkeit, Batchgröße und Testplattform werden je Projekt festgelegt.
Wie schützt Inferenz im Gerät die Daten?
Die Inferenz läuft vollständig im Gerät. Weder die Rohdaten noch die Modellausgabe müssen hochgeladen werden, und das Gerät kann komplett offline arbeiten. Für abgeschottete, eingestufte oder datenschutzsensible Einsätze ist das eine Garantie der Architektur und kein Versprechen einer Richtlinie.
Wie viel spart ein Chip gegenüber bezahlten API-Aufrufen?
Der Chip wird einmal gekauft, danach liegen die Grenzkosten jeder Inferenz nahe null, während eine API jedes Token berechnet. Der Kostenrechner auf der Startseite schätzt die Gesamtkosten über drei Jahre aus Ihrem täglichen Token-Volumen und Ihrem aktuellen Modell; die tatsächlichen Werte hängen von Nutzung und Angebot ab.
Läuft die Inferenz-IP auf einem FPGA?
Ja. FS-Fusion, FS-Attention, FS-MoE und FS-Linear zielen sowohl auf ASIC-Tape-out als auch auf FPGA-Prototyping, mit einem Evaluierungsboard für die frühe Validierung. So kann ein Engineering-Muster vor dem Silizium existieren.
Was umfasst eine IP-Lizenz?
Die Inferenzkern-IP, ein FPGA-Evaluierungsboard, Modell-Mapping und Schnittstellenanpassung sowie Design-in-Unterstützung für das Projekt. Abdeckung, Ressourcenbedarf, Leistungsziele und Lizenzbedingungen werden anhand des Zielbausteins und des Modells geprüft.
Wie frage ich ein Muster oder ein Evaluierungskit an?
Schreiben Sie an info@fanshi-silicon.com und nennen Sie Zielmodell, Leistungsziel, Leistungsbudget, Schnittstellen und Projektzeitplan. Wir bestätigen den Pfad und antworten mit einem Plan.
Was enthält das Evaluierungskit?
Gehäuste Engineering-Muster auf einem Evaluierungsboard, die Anbindung an den Host, SDK und Treiber, Integrationsdokumentation sowie direkte Unterstützung durch das Fanshi-Entwicklungsteam.
Können wir ein NDA unterzeichnen, bevor wir über technische Details sprechen?
Ja. Detaillierte Spezifikationen, Evaluierungsdaten und Entwicklungspläne werden geteilt, sobald ein gegenseitiges NDA besteht.
Arbeiten Sie mit Kunden außerhalb Chinas?
Ja. Fanshi arbeitet mit Teams auf der ganzen Welt, auf Englisch oder Chinesisch. Unser Sitz ist Hefei, China (China Standard Time, UTC+8).
Welchen Prozess und welche Lieferkette nutzt Fanshi?
Eine ausgereifte SMIC-28-nm-Lieferkette. Die Vorteile von Compute-in-Memory und Near-Memory-Computing kommen aus der Architektur und nicht aus den modernsten Fertigungsknoten. Das hält Kosten und Lieferfähigkeit planbar.
In welchem Verhältnis steht Fanshi zu Taalas?
In keinem: weder Zugehörigkeit noch Partnerschaft. Fanshi arbeitet in derselben groben Richtung, Modelle ins Silizium zu gießen, und entwickelt seine Technologie eigenständig auf einer 28-nm-Lieferkette.
Was ist die Memory Wall, und warum entscheidet sie über LLMs im Endgerät?
Für jedes erzeugte Token müssen alle Gewichte des Modells aus dem Speicher in die Recheneinheiten gelesen werden. Bandbreite und Energie fließen daher überwiegend in den Datentransport statt ins Rechnen. Endgeräte haben nur einen Bruchteil der Bandbreite und des Leistungsbudgets eines Rechenzentrums. Solange die Gewichte bewegt werden müssen, laufen große Modelle im Endgerät nicht. Compute-in-Memory und Near-Memory-Computing sind dazu da, diese Mauer zu umgehen.
Sind die Angaben auf dieser Website endgültige Lieferspezifikationen?
Nein. Sie beschreiben die aktuelle Produktausrichtung und die Entwicklungsziele. Endgültige Spezifikationen, Testbedingungen, Lieferversionen und kommerzielle Bedingungen werden in den Projektunterlagen festgelegt.
Für welche Branchen sind Fanshi-Chips gedacht?
Handübersetzer und Sprachhardware, Offline-Sprachsteuerung im Fahrzeug, verkörperte Roboter, industrielle Edge-Server, abgeschottete und sichere Terminals, Inspektion per Drohne, Fehlererkennung in der Fertigungslinie und Multisensor-Fusion.
Wo sitzt Fanshi, und wie nehme ich Kontakt auf?
Hefei Fanshi Semiconductor Technology Co., Ltd. sitzt in Hefei, Provinz Anhui, China. Für Geschäftsanfragen, IP-Lizenzen und Bewerbungen schreiben Sie an info@fanshi-silicon.com.
Weiterlesen
Was ist ein Compute-in-Memory-KI-Chip? Drei Pfade erklärtEin Compute-in-Memory-KI-Chip multipliziert und akkumuliert im Speicherarray, die Gewichte bewegen sich nicht mehr. Wie sich MaskROM, SRAM CIM und Near-Memory-Computing unterscheiden.
Einen Edge-LLM-Inferenzchip auswählen: 7 FragenDie Wahl eines Edge-LLM-Inferenzchips hängt von der Modelleignung, dem Leistungsbudget und der Update-Strategie ab, nicht von Spitzen-TOPS. Sieben Fragen und eine Checkliste.
LLM-Inferenzkosten: API, Cloud-GPU oder Edge-Chip über 3 JahreLLM-Inferenzkosten über drei Jahre gerechnet: eine API pro Token, eine Cloud-GPU pro Stunde oder ein einmal gekaufter Edge-Chip. Methode, Rechenbeispiel und Amortisation.
Noch eine Frage zu Ihrem Projekt?
Senden Sie uns Zielmodell sowie Leistungs- und Verbrauchsziele. Wir antworten mit einem Pfad und einem Evaluierungsplan.
