Перейти к содержимому

прототипирование LLM-ускорителей на FPGA · IP инференса LLM · лицензирование полупроводниковых IP · LLM на FPGA · тейпаут ASIC

Прототипирование LLM-ускорителей на FPGA: от лицензии на IP до тейпаута

Инженерная команда Fanshi Semiconductor · Опубликовано

Прототипирование LLM на FPGA означает развернуть IP ядра инференса на оценочной плате FPGA до тейпаута и пройти весь тракт с реальной моделью и реальными интерфейсами. Так инженерный образец оказывается у вас в руках раньше, чем появится ASIC, проблемы отображения модели, точности квантования, интерфейсов и интеграции выявляются заранее, а решение о тейпауте опирается на измерения.

Почему стоит начинать с FPGA

Тейпаут ASIC — дело долгое и дорогое; одна ошибка стоит месяцев и значительных денег. FPGA позволяет запустить то же ядро инференса за считаные дни и проверить его на реальной модели, реальных интерфейсах и реальных данных. Правильно ли отображена модель? Сколько точности стоит квантование? Хватает ли пропускной способности интерфейсов? Как подключается системное ПО?

Для продуктовых команд оценочная плата FPGA — это первый инженерный образец. Её можно использовать в пользовательских тестах, демонстрациях заказчикам и сборе данных в реальных условиях, пока ASIC ещё проектируется.

Что входит в лицензию на IP инференса

Fanshi предлагает четыре семейства ядер инференса: FS-Fusion для мультимодального слияния, FS-Attention для гибридного внимания, FS-MoE для разреженной смеси экспертов и FS-Linear для линейного внимания и новых архитектур. Одни и те же ядра можно разместить в собственном ASIC заказчика или на FPGA.

Лицензия обычно включает IP ядра инференса, оценочную плату FPGA, отображение модели и адаптацию интерфейсов, а также поддержку внедрения в проект. Охват IP, занимаемые ресурсы, цели по производительности и условия лицензии оцениваются по проекту для конкретного целевого устройства и модели.

Типичная последовательность

Шаг первый: уточнить целевую модель, цель по производительности, бюджет мощности и интерфейсы и решить, какой маршрут подходит. Шаг второй: развернуть ядро инференса на оценочной плате FPGA, запустить модель, измерить точность и пропускную способность. Шаг третий: на основе этих результатов выполнить системную интеграцию и проверку в реальных условиях, чтобы получить инженерный образец. Шаг четвёртый: после фиксации модели выбрать путь к ASIC — интегрировать лицензированные IP в собственный чип или взять ASIC Fanshi.

Ключевая точка принятия решения — фиксация модели. До неё всё дорабатывается на FPGA; после неё проект переходит к маскам и тейпауту.

Каким командам подходит лицензирование IP

Лицензирование IP подходит командам, у которых уже есть собственная SoC или она планируется и которые хотят добавить инференс LLM; командам, чья модель ещё развивается и которым сначала нужен инженерный образец; и командам, которые хотят выпускать малосерийные продукты прямо на FPGA. Если модель уже зафиксирована, а тираж велик, обычно проще взять готовый ASIC Fanshi.

Примените этот вопрос к своему проекту

Пришлите целевую модель и цели по производительности и потреблению. Мы ответим с предложением маршрута и планом оценки.

Запросить оценочный комплект