FS-MoE
IP инференса для разреженной смеси экспертов
Для разреженных моделей с динамической активацией: большое число параметров в рамках бюджета пропускной способности устройства.

Поток данных
Для разреженных моделей с динамической активацией: большое число параметров в рамках бюджета пропускной способности устройства.
Встроенная поддержка
Большие разреженные модели в бюджете устройства
Развёртывание
Тейпаут ASIC и прототипирование на FPGA с адаптацией интерфейсов и системы под проект.
В лицензию входит
IP ядра инференса, оценочная плата FPGA, отображение модели и адаптация интерфейсов, поддержка внедрения в проект.
Охват IP, интерфейсы, занимаемые ресурсы, цели по производительности и условия лицензии оцениваются для конкретного целевого устройства и модели.
Что ещё почитать
Прототипирование LLM-ускорителей на FPGA: от лицензии на IP до тейпаутаЗапуск ядра инференса LLM на FPGA до тейпаута позволяет проверить отображение модели, интерфейсы и системный тракт. Что входит в лицензию на IP, шаг за шагом.
Что такое ИИ-чип с вычислениями в памяти? Три маршрутаИИ-чип с вычислениями в памяти выполняет умножение с накоплением внутри массива памяти, и веса больше не перемещаются. Чем различаются MaskROM, SRAM CIM и вычисления рядом с памятью.
Как выбрать чип для инференса LLM на устройстве: 7 вопросовВыбор чипа для инференса LLM на устройстве определяют соответствие модели, бюджет мощности и способ обновления, а не пиковые TOPS. Семь вопросов и контрольный список.
Задать вопрос о FS-MoE
Сообщите нам целевое устройство, модель и интерфейсы. Мы ответим с описанием охвата IP и планом оценки.
