Перейти к содержимому

Вопросы о чипах, IP и оценке.

Собрано из вопросов, которые заказчики задают чаще всего, чтобы команды могли быстро оценить применимость.

Что предлагает Fanshi Semiconductor?

Чипы ASIC для инференса LLM на устройстве (Forge, Trident и Argus), заказные чипы под модель заказчика, оценочные платы FPGA и IP ядер инференса (FS-Fusion, FS-Attention, FS-MoE и FS-Linear), которые можно развернуть в собственном ASIC или FPGA заказчика.

Что такое чип для инференса на устройстве и чем он отличается от инференса на GPU в облаке?

Такой чип выполняет модель на самом устройстве, без обращения к сети и без дата-центра. В сравнении с облачными GPU нет счёта за каждый токен, нет сетевой задержки и данные не покидают устройство. Плата за это: размер модели и стратегия обновления определяются на этапе проектирования.

В чём разница между вычислениями в памяти и вычислениями рядом с памятью?

При вычислениях в памяти умножение с накоплением выполняется внутри массива памяти, так что веса не покидают ячейки. При вычислениях рядом с памятью вычислительные блоки размещаются вплотную к памяти с высокой пропускной способностью, а потоковая обработка на кристалле сводит перенос данных к минимуму. Первый вариант даёт минимальные потребление и предельную стоимость; второй подходит для моделей, которые продолжают развиваться.

Когда оправданы вычисления в памяти на MaskROM?

Для устройств со стабильной моделью, понятным объёмом выпуска и жёстким требованием к низкому потреблению и низкой предельной стоимости инференса: например, карманных переводчиков и офлайн-ассистентов. Веса записываются в кремний на этапе масок при тейпауте, поэтому во время работы внешнего переноса весов нет.

Можно ли обновить модель после того, как она записана в чип?

На маршруте MaskROM нельзя: веса фиксируются при тейпауте, новая модель означает новые маски. Маршрут вычислений в памяти на SRAM загружает веса при старте и допускает обновление. Маршрут вычислений рядом с памятью хранит веса во внешней памяти и поддерживает непрерывные итерации. Поэтому первый вопрос всегда один: как часто меняется ваша модель?

Какие модели поддерживают чипы Fanshi?

Forge рассчитан на Qwen 3.5 0.8B; Trident поддерживает модели до Qwen 3.5 35B; Argus выполняет SmolVLM, SegFormer и схожие модели зрения и мультимодальные модели. Семейство IP охватывает Qwen3 / 3.5 (от 0.6B до 9B), SmolLM2, разреженные модели MoE и линейное внимание типа DeltaNet. Полный список приведён на странице поддерживаемых моделей.

Поддерживаете ли вы Qwen3.6, Qwen3.8 и другие новые модели?

Да. Qwen3.6 и Qwen3.8 сохраняют гибридную компоновку Qwen3.5: слои линейного внимания Gated DeltaNet чередуются со слоями полного внимания с вентилями. Ядра Fanshi FS-Linear и FS-Attention уже покрывают оба типа слоёв, поэтому более новая модель того же семейства означает новую сборку чипа на существующих ядрах, а не новую архитектуру. Число параметров, длина контекста и цели по производительности оцениваются по проекту.

Что будет, если после изготовления чипа выйдет более новая модель?

На маршруте MaskROM переход на новую модель требует заново изготовить слои масок, в которых записаны веса. Если новая модель имеет ту же архитектуру, проект ядер, SDK и интеграция на стороне хоста сохраняются без изменений. При вычислениях в памяти на SRAM веса перезагружаются при старте; при вычислениях рядом с памятью обновляются веса во внешней памяти.

Как определяются показатели вроде 17 000 токен/с?

Это проектные цели по пропускной способности декодирования для основной модели, указанной у каждого продукта. Точная модель, точность, размер пакета и тестовая платформа фиксируются по проекту.

Как инференс на устройстве защищает данные?

Инференс полностью выполняется на устройстве: ни исходные данные, ни выход модели не нужно никуда отправлять, и устройство может работать полностью автономно. Для изолированных сетей, закрытых объектов и сценариев с чувствительными данными это гарантия на уровне архитектуры, а не обещание на уровне политики.

Сколько можно сэкономить на чипе по сравнению с оплатой вызовов API?

Чип покупается один раз, после чего предельная стоимость каждого инференса близка к нулю, тогда как API выставляет счёт за каждый токен. Калькулятор на главной странице оценивает суммарные затраты за три года по вашему суточному объёму токенов и текущей модели; фактические цифры зависят от объёма использования и коммерческого предложения.

Может ли IP инференса работать на FPGA?

Да. FS-Fusion, FS-Attention, FS-MoE и FS-Linear рассчитаны и на тейпаут ASIC, и на прототипирование на FPGA; для ранней проверки есть оценочная плата, так что инженерный образец может появиться раньше кремния.

Что входит в лицензию на IP?

IP ядра инференса, оценочная плата FPGA, отображение модели и адаптация интерфейсов, а также поддержка внедрения в проект. Охват, занимаемые ресурсы, цели по производительности и условия лицензии оцениваются для конкретного целевого устройства и модели.

Как запросить образец или оценочный комплект?

Напишите на info@fanshi-silicon.com и укажите целевую модель, цель по производительности, бюджет мощности, интерфейсы и сроки проекта. Мы подтвердим маршрут и ответим с планом.

Что входит в оценочный комплект?

Корпусированные инженерные образцы на оценочной плате, подключение к хосту, SDK и драйверы, документация по интеграции и прямая поддержка инженерной команды Fanshi.

Можно ли подписать NDA до обсуждения технических деталей?

Да. Подробные характеристики, данные оценки и планы разработки передаются после подписания взаимного NDA.

Работаете ли вы с заказчиками за пределами Китая?

Да. Fanshi работает с командами по всему миру, на английском или китайском языке. Мы находимся в Хэфэе, Китай (китайское стандартное время, UTC+8).

Какой техпроцесс и какую цепочку поставок использует Fanshi?

Зрелую цепочку поставок SMIC 28 нм. Выигрыш вычислений в памяти и рядом с памятью даёт архитектура, а не передовые техпроцессы, поэтому стоимость и поставки остаются предсказуемыми.

Как связаны Fanshi и Taalas?

Никак: нет ни аффилированности, ни партнёрства. Fanshi работает в том же общем направлении — запись моделей в кремний — и развивает свою технологию самостоятельно на цепочке поставок 28 нм.

Что такое стена памяти и почему она определяет, заработают ли LLM на устройстве?

Для каждого сгенерированного токена нужно прочитать все веса модели из памяти в вычислительные блоки, поэтому пропускная способность и энергия уходят главным образом на перенос данных, а не на вычисления. У устройств лишь малая доля пропускной способности и бюджета мощности дата-центра, и пока веса приходится перемещать, большие модели на устройстве работать не могут. Вычисления в памяти и рядом с памятью нужны, чтобы обойти эту стену.

Являются ли показатели на этом сайте окончательными характеристиками поставки?

Нет. Они описывают текущее направление продуктов и проектные цели. Окончательные характеристики, условия испытаний, версии поставки и коммерческие условия фиксируются в проектных документах.

Для каких отраслей предназначены чипы Fanshi?

Карманные переводчики и голосовые устройства, офлайн-ассистенты в автомобиле, роботы с воплощённым ИИ, промышленные edge-серверы, изолированные и защищённые терминалы, инспекция с дронов, обнаружение дефектов на производственной линии и слияние данных нескольких датчиков.

Где находится Fanshi и как с вами связаться?

Hefei Fanshi Semiconductor Technology Co., Ltd. находится в Хэфэе, провинция Аньхой, Китай. По вопросам сотрудничества, лицензирования IP и работы в компании пишите на info@fanshi-silicon.com.

Остался вопрос по вашему проекту?

Пришлите целевую модель и цели по производительности и потреблению. Мы ответим с предложением маршрута и планом оценки.

Запросить оценочный комплект