Zum Inhalt springen

FPGA-Prototyping für LLM-Beschleuniger · LLM-Inferenz-IP · Halbleiter-IP-Lizenzierung · LLM auf FPGA · ASIC-Tape-out

FPGA-Prototyping für LLM-Beschleuniger: von der IP-Lizenz zum Tape-out

Entwicklungsteam von Fanshi Semiconductor · Veröffentlicht

FPGA-Prototyping für LLMs bedeutet, eine Inferenzkern-IP vor dem Tape-out auf einem FPGA-Evaluierungsboard einzusetzen und den gesamten Pfad mit einem echten Modell und echten Schnittstellen zu durchlaufen. So halten Sie ein Engineering-Muster in der Hand, bevor der ASIC existiert, erkennen Probleme bei Modell-Mapping, Quantisierungsgenauigkeit, Schnittstellen und Integration früh und stützen die Tape-out-Entscheidung auf Messwerte.

Warum auf einem FPGA beginnen

Ein ASIC-Tape-out ist langsam und teuer; ein Fehler kostet Monate und eine erhebliche Summe. Ein FPGA kann denselben Inferenzkern innerhalb von Tagen ausführen und ihn mit einem echten Modell, echten Schnittstellen und echten Daten validieren. Stimmt das Modell-Mapping? Wie viel Genauigkeit kostet die Quantisierung? Reicht die Bandbreite der Schnittstellen? Wie wird die Systemsoftware angebunden?

Für Produktteams ist das FPGA-Evaluierungsboard das erste Engineering-Muster. Es kann in Nutzertests, Kundenvorführungen und die Datenerhebung im Feld gehen, während der ASIC noch entwickelt wird.

Was eine Lizenz für Inferenz-IP umfasst

Fanshi bietet vier Familien von Inferenzkernen: FS-Fusion für multimodale Fusion, FS-Attention für hybride Attention, FS-MoE für Sparse Mixture-of-Experts und FS-Linear für lineare Attention und neue Architekturen. Dieselben Kerne lassen sich in den eigenen ASIC des Kunden oder auf einen FPGA bringen.

Eine Lizenz umfasst in der Regel die Inferenzkern-IP, ein FPGA-Evaluierungsboard, Modell-Mapping und Schnittstellenanpassung sowie Design-in-Unterstützung. IP-Abdeckung, Ressourcenbedarf, Leistungsziele und Lizenzbedingungen werden je Projekt anhand des Zielbausteins und des Modells geprüft.

Ein typischer Ablauf

Schritt eins: Zielmodell, Leistungsziel, Leistungsbudget und Schnittstellen klären und entscheiden, welcher Pfad passt. Schritt zwei: den Inferenzkern auf dem FPGA-Evaluierungsboard einsetzen, das Modell zum Laufen bringen, Genauigkeit und Durchsatz messen. Schritt drei: auf dieser Grundlage Systemintegration und Feldvalidierung aufbauen, sodass ein Engineering-Muster entsteht. Schritt vier: sobald das Modell eingefroren ist, den ASIC-Pfad wählen, entweder die lizenzierte IP in den eigenen Chip integrieren oder einen Fanshi-ASIC einsetzen.

Der entscheidende Punkt ist das Einfrieren des Modells. Davor wird alles auf dem FPGA iteriert; danach geht das Projekt zu Masken und Tape-out über.

Für welche Teams sich die IP-Lizenz eignet

Die IP-Lizenz eignet sich für Teams, die bereits einen eigenen SoC haben oder planen und LLM-Inferenz ergänzen wollen; für Teams, deren Modell sich noch entwickelt und die zuerst ein Engineering-Muster brauchen; und für Teams, die Kleinserien direkt auf FPGA ausliefern wollen. Ist das Modell bereits eingefroren und die Stückzahl hoch, ist ein fertiger Fanshi-ASIC meist der einfachere Weg.

Bringen Sie die Frage in Ihr Projekt

Senden Sie uns Zielmodell sowie Leistungs- und Verbrauchsziele. Wir antworten mit einem Pfad und einem Evaluierungsplan.

Evaluierungskit anfragen