<?xml version="1.0" encoding="UTF-8"?>
<rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom"><channel>
<title>Fachartikel von Fanshi Semiconductor</title><link>https://www.fanshi-silicon.com/de/insights/</link><description>Antworten des Fanshi-Entwicklungsteams: Compute-in-Memory-Chips, Auswahl eines Edge-LLM-Inferenzchips, Inferenzkosten, MaskROM, FPGA-Prototyping, die Memory Wall und die hybride Attention von Qwen.</description><language>de</language>
<lastBuildDate>Mon, 16 Nov 2026 01:00:00 GMT</lastBuildDate><atom:link href="https://www.fanshi-silicon.com/de/feed.xml" rel="self" type="application/rss+xml"/>
<item><title>Model-on-Chip erklärt: Fest verdrahtete LLM-ASICs, Cloud und Edge</title><link>https://www.fanshi-silicon.com/de/insights/hardwired-llm-chip-model-specific-asic/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/de/insights/hardwired-llm-chip-model-specific-asic/</guid><pubDate>Mon, 16 Nov 2026 01:00:00 GMT</pubDate><description>Ein modellspezifischer ASIC, auch fest verdrahteter LLM-Chip genannt, legt die Gewichte eines einzigen Sprachmodells bei der Fertigung im Silizium fest. Bei der Inferenz müssen keine Gewichte mehr aus dem Speicher geholt werden, deshalb können Dekodiergeschwindigkeit und Energieeffizienz um Größenordnungen über einer Allzweck-GPU liegen. Der Preis dafür: Das Modell lässt sich nicht beliebig tauschen. Es gibt zwei Arten. Cloud-Chips zielen auf Token pro Sekunde je Rack und Kosten je Token, Edge-Chips auf Leistungsaufnahme im Watt-Bereich, Offline-Betrieb und Gerätekosten.</description></item>
<item><title>LLM-Inferenz-ASICs im Vergleich: Fünf Chiparchitekturen 2026</title><link>https://www.fanshi-silicon.com/de/insights/llm-inference-asic-comparison/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/de/insights/llm-inference-asic-comparison/</guid><pubDate>Mon, 16 Nov 2026 01:00:00 GMT</pubDate><description>Hardware für LLM-Inferenz lässt sich heute in fünf Architekturen einteilen: Allzweck-GPUs, Wafer-Scale-Engines, Language Processing Units, reine Transformer-ASICs und Model-on-Chip-Entwürfe, die ein Modell fest ins Silizium legen. Sie unterscheiden sich darin, wie viel Flexibilität für Geschwindigkeit aufgegeben wird. Die berichteten Werte für dasselbe 8B-Modell reichen von etwa 230 Token pro Sekunde je Nutzer auf einer NVIDIA H200 bis etwa 17.000 auf einem fest verdrahteten Taalas HC1. Die Zahlen mischen jedoch Herstellerangaben mit unabhängigen Messungen und sind nicht direkt vergleichbar. Alle fünf sind Rechenzentrumsprodukte; Geräte brauchen eine andere Chipklasse.</description></item>
<item><title>Token pro Sekunde erklärt: Wie schnell muss ein LLM sein?</title><link>https://www.fanshi-silicon.com/de/insights/tokens-per-second-explained/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/de/insights/tokens-per-second-explained/</guid><pubDate>Mon, 16 Nov 2026 01:00:00 GMT</pubDate><description>Token pro Sekunde ist die Rate, mit der ein Sprachmodell Ausgabe erzeugt. Ein Mensch liest etwa 5 bis 7 Token pro Sekunde, eine Chat-Antwort wirkt deshalb bei 10 bis 30 flüssig. Reasoning-Modelle, Agenten und Regelkreise brauchen Hunderte bis Tausende, weil die meisten ihrer Token nie von einem Menschen gelesen werden. Im Gerät bestimmt die Speicherbandbreite geteilt durch die Modellgröße die Obergrenze. Deshalb versuchen Edge-Chips, die Gewichte gar nicht mehr zu bewegen.</description></item>
<item><title>LLM ohne GPU betreiben: Fünf Hardware-Optionen für Geräte</title><link>https://www.fanshi-silicon.com/de/insights/run-llm-without-gpu-edge-hardware/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/de/insights/run-llm-without-gpu-edge-hardware/</guid><pubDate>Mon, 16 Nov 2026 01:00:00 GMT</pubDate><description>Ein Sprachmodell läuft auch ohne Rechenzentrums-GPU, und zwar auf fünf Arten von Hardware: einer CPU mit quantisiertem Modell, der NPU in einem Smartphone- oder PC-Chip, einem Embedded-GPU-Modul, einem FPGA oder einem dedizierten LLM-Chip. Die ersten drei teilen einen Engpass, die Speicherbandbreite, weil für jedes Token alle Gewichte gelesen werden müssen. Ein dedizierter Chip beseitigt diesen Engpass, rechnet sich aber nur, wenn das Modell feststeht und das Produkt in Stückzahlen ausgeliefert wird.</description></item>
<item><title>Taalas HC1 erklärt: Daten, Geschwindigkeit, Grenzen und die Bedeutung für Geräte</title><link>https://www.fanshi-silicon.com/de/insights/taalas-hc1-explained/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/de/insights/taalas-hc1-explained/</guid><pubDate>Mon, 16 Nov 2026 01:00:00 GMT</pubDate><description>Der Taalas HC1 ist ein im Februar 2026 angekündigter Inferenzchip für Rechenzentren, der ein einzelnes Modell, Llama 3.1 8B, fest im Silizium verdrahtet. Das Unternehmen nennt knapp 17.000 Token pro Sekunde je Nutzer, gegenüber etwa 230 auf einer NVIDIA H200 für dasselbe Modell. Veröffentlicht sind unter anderem TSMC 6 nm, 815 mm² Chipfläche und rund 53 Milliarden Transistoren. Der Preis: ein Modell je Chip, aggressive 3-Bit- und 6-Bit-Quantisierung im ersten Silizium und Server mit rund 2,5 kW. Es ist ein Cloud-Produkt; Geräte brauchen dieselbe Idee bei einem Watt bis einigen zehn Watt.</description></item>
<item><title>NPU, GPU-Modul oder dedizierter Chip für LLMs im Gerät</title><link>https://www.fanshi-silicon.com/de/insights/npu-vs-dedicated-llm-chip/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/de/insights/npu-vs-dedicated-llm-chip/</guid><pubDate>Mon, 16 Nov 2026 01:00:00 GMT</pubDate><description>Eine NPU, ein Embedded-GPU-Modul und ein dedizierter LLM-Chip können alle ein Sprachmodell im Gerät ausführen, scheitern aber an unterschiedlichen Stellen. Die NPU steckt bereits im Produkt und kostet nichts extra, teilt sich jedoch den Systemspeicher und hängt an der Toolchain des Herstellers. Ein GPU-Modul führt jedes Modell aus, das in seinen Speicher passt, und nimmt einige zehn Watt auf. Ein dedizierter Chip beseitigt den Speicherengpass und braucht am wenigsten Leistung, aber das Modell steht vorab fest. Die Wahl hängt an drei Fragen: Wie stabil ist das Modell, wie viele Geräte liefern Sie aus, und wie viele Watt stehen zur Verfügung?</description></item>
<item><title>LLMs im Roboter: Warum Embodied AI lokale Inferenz-Hardware braucht</title><link>https://www.fanshi-silicon.com/de/insights/on-device-llm-for-robots/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/de/insights/on-device-llm-for-robots/</guid><pubDate>Mon, 16 Nov 2026 01:00:00 GMT</pubDate><description>Ein Roboter, der mit einem Sprach- oder Vision-Language-Modell plant, kann sich nicht auf ein Rechenzentrum verlassen: Das Netz bringt eine Verzögerung, die von Moment zu Moment schwankt, und dort, wo Roboter arbeiten, ist Konnektivität nicht garantiert. Läuft das Modell an Bord, wird die Inferenzgeschwindigkeit zu einer festen Größe im Regelkreis. Die Hardware muss dann drei Bedingungen zugleich erfüllen: genügend Token pro Sekunde für die Planungsrate, ein Leistungsbudget von etwa zehn bis siebzig Watt im Roboterkörper und ein Verhalten, das in jedem ausgelieferten Gerät gleich bleibt.</description></item>
<item><title>Was ist ein Compute-in-Memory-KI-Chip? Drei Pfade erklärt</title><link>https://www.fanshi-silicon.com/de/insights/what-is-compute-in-memory-chip/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/de/insights/what-is-compute-in-memory-chip/</guid><pubDate>Sat, 14 Nov 2026 01:00:00 GMT</pubDate><description>Ein Compute-in-Memory-Chip (CIM) führt Multiplizier-Akkumulier-Operationen im Speicherarray aus, sodass die Modellgewichte die Speicherzellen nie verlassen. Er setzt beim größten Kostenblock der LLM-Inferenz an: dem Transport der Gewichte vom Speicher zu den Recheneinheiten. Je nachdem, wo die Gewichte liegen, gibt es drei Hauptpfade: MaskROM-Compute-in-Memory, SRAM-Compute-in-Memory und Near-Memory-Computing.</description></item>
<item><title>Einen Edge-LLM-Inferenzchip auswählen: 7 Fragen</title><link>https://www.fanshi-silicon.com/de/insights/how-to-choose-edge-inference-chip/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/de/insights/how-to-choose-edge-inference-chip/</guid><pubDate>Sat, 14 Nov 2026 01:00:00 GMT</pubDate><description>Um einen Edge-Inferenzchip auszuwählen, beantworten Sie zuerst sieben Fragen: welches Modell, wie viele Parameter, wie oft es sich ändert, welches Leistungsbudget, wie schnell die Dekodierung sein muss, ob Daten das Gerät verlassen dürfen und wie viele Einheiten Sie ausliefern. Die Antworten entscheiden weitgehend zwischen einer universellen GPU oder NPU und einem dedizierten ASIC mit Compute-in-Memory oder Near-Memory-Computing.</description></item>
<item><title>LLM-Inferenzkosten: API, Cloud-GPU oder Edge-Chip über 3 Jahre</title><link>https://www.fanshi-silicon.com/de/insights/inference-compute-cost/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/de/insights/inference-compute-cost/</guid><pubDate>Sat, 14 Nov 2026 01:00:00 GMT</pubDate><description>LLM-Inferenzkosten treten in drei Formen auf. API-Nutzung wird pro Million Token berechnet und ist eine laufende Ausgabe; eine selbst betriebene Cloud-GPU legt Miete oder Abschreibung auf etwa 0,70 $ pro Million Token um; ein dedizierter Edge-Chip wird einmal gekauft, danach gehen die Grenzkosten jeder Inferenz gegen null. Bei 10 Millionen Token pro Tag kosten drei Jahre API eines Spitzenmodells rund 192.000 $, fast das Tausendfache eines beispielhaften Chips für 210 $.</description></item>
<item><title>MaskROM-Compute-in-Memory: Was es heißt, Gewichte ins Silizium zu gießen</title><link>https://www.fanshi-silicon.com/de/insights/maskrom-cim-explained/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/de/insights/maskrom-cim-explained/</guid><pubDate>Sat, 14 Nov 2026 01:00:00 GMT</pubDate><description>MaskROM-Compute-in-Memory gießt die Modellgewichte über die beim Tape-out verwendeten Maskenmuster in ein Via-Array im Silizium. Die Gewichte werden so zu einem Teil der Chipstruktur. Zur Laufzeit muss nichts ausgelesen oder bewegt werden: Multiplizieren und Akkumulieren geschieht an Ort und Stelle im Array. Das ergibt die niedrigste Leistungsaufnahme und die niedrigsten Grenzkosten pro Inferenz aller Pfade. Der Preis ist ein festes Modell; eine Änderung erfordert neue Masken.</description></item>
<item><title>FPGA-Prototyping für LLM-Beschleuniger: von der IP-Lizenz zum Tape-out</title><link>https://www.fanshi-silicon.com/de/insights/fpga-prototyping-for-llm-ip/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/de/insights/fpga-prototyping-for-llm-ip/</guid><pubDate>Sat, 14 Nov 2026 01:00:00 GMT</pubDate><description>FPGA-Prototyping für LLMs bedeutet, eine Inferenzkern-IP vor dem Tape-out auf einem FPGA-Evaluierungsboard einzusetzen und den gesamten Pfad mit einem echten Modell und echten Schnittstellen zu durchlaufen. So halten Sie ein Engineering-Muster in der Hand, bevor der ASIC existiert, erkennen Probleme bei Modell-Mapping, Quantisierungsgenauigkeit, Schnittstellen und Integration früh und stützen die Tape-out-Entscheidung auf Messwerte.</description></item>
<item><title>Die Memory Wall: Warum Edge-LLMs stocken und wie man sie umgeht</title><link>https://www.fanshi-silicon.com/de/insights/memory-wall-edge-llm/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/de/insights/memory-wall-edge-llm/</guid><pubDate>Sat, 14 Nov 2026 01:00:00 GMT</pubDate><description>Die Memory Wall ist die Lücke zwischen schnell wachsender Rechenleistung und langsam wachsender Speicherbandbreite, durch die Recheneinheiten die meiste Zeit auf Daten warten. Bei der LLM-Dekodierung liest jedes Token alle Gewichte, die Durchsatzobergrenze entspricht also der Speicherbandbreite geteilt durch die Modellgröße. Endgeräte haben nur einige zehn GB/s Bandbreite, herkömmliche Architekturen können dort kein leistungsfähiges LLM ausführen. Compute-in-Memory und Near-Memory-Computing umgehen die Mauer, indem sie die Gewichte weniger oder gar nicht bewegen.</description></item>
<item><title>Qwen3.5 bis Qwen3.8: Warum hybride Attention zu Edge-Silizium passt</title><link>https://www.fanshi-silicon.com/de/insights/qwen-hybrid-attention-in-silicon/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/de/insights/qwen-hybrid-attention-in-silicon/</guid><pubDate>Sat, 14 Nov 2026 01:00:00 GMT</pubDate><description>Qwen3.5, Qwen3.6 und Qwen3.8 nutzen einen hybriden Aufbau, in dem sich drei Gated-DeltaNet-Schichten mit linearer Attention mit einer Gated-Full-Attention-Schicht abwechseln. Nur das Viertel des Netzes mit Full Attention hält einen KV-Cache, der mit dem Kontext wächst; die linearen Schichten tragen einen Zustand fester Größe, wie lang der Prompt auch ist. Für Edge-Silizium bedeutet das ein kleineres, besser planbares Speicherbudget. Und weil sich der veröffentlichte Aufbau zwischen diesen Versionen nicht geändert hat, ist ein neueres Qwen-Modell ein neuer Aufbau auf denselben Inferenzkernen und keine neue Architektur.</description></item>
</channel></rss>
