Перейти к содержимому

FS-Attention

IP инференса с гибридным вниманием

Встроенная поддержка языковых моделей с гибридным вниманием, включая слои полного внимания с вентилями семейства Qwen3.5.

FS-Attention: IP инференса с гибридным вниманием, иллюстрация
Рис. 1 · FS-Attention IP инференса с гибридным вниманием

Поток данных

Встроенная поддержка языковых моделей с гибридным вниманием, включая слои полного внимания с вентилями семейства Qwen3.5.

tokenГлоб. вниманиеsoftmaxСкольз. окноlocalKV-кэшon-chipСледующий токенQwen3 / 3.5 · SmolLM2
Рис. 2 · Поток данных FS-Attention (схема)

Встроенная поддержка

Qwen3 / 3.5 (от 0.6B до 9B) и SmolLM2

Развёртывание

Тейпаут ASIC и прототипирование на FPGA с адаптацией интерфейсов и системы под проект.

В лицензию входит

IP ядра инференса, оценочная плата FPGA, отображение модели и адаптация интерфейсов, поддержка внедрения в проект.

Охват IP, интерфейсы, занимаемые ресурсы, цели по производительности и условия лицензии оцениваются для конкретного целевого устройства и модели.

Задать вопрос о FS-Attention

Сообщите нам целевое устройство, модель и интерфейсы. Мы ответим с описанием охвата IP и планом оценки.

Узнать о лицензировании IP