Вопросы о чипах, IP и оценке.
Собрано из вопросов, которые заказчики задают чаще всего, чтобы команды могли быстро оценить применимость.
Что предлагает Fanshi Semiconductor?
Чипы ASIC для инференса LLM на устройстве (Forge, Trident и Argus), заказные чипы под модель заказчика, оценочные платы FPGA и IP ядер инференса (FS-Fusion, FS-Attention, FS-MoE и FS-Linear), которые можно развернуть в собственном ASIC или FPGA заказчика.
Что такое чип для инференса на устройстве и чем он отличается от инференса на GPU в облаке?
Такой чип выполняет модель на самом устройстве, без обращения к сети и без дата-центра. В сравнении с облачными GPU нет счёта за каждый токен, нет сетевой задержки и данные не покидают устройство. Плата за это: размер модели и стратегия обновления определяются на этапе проектирования.
В чём разница между вычислениями в памяти и вычислениями рядом с памятью?
При вычислениях в памяти умножение с накоплением выполняется внутри массива памяти, так что веса не покидают ячейки. При вычислениях рядом с памятью вычислительные блоки размещаются вплотную к памяти с высокой пропускной способностью, а потоковая обработка на кристалле сводит перенос данных к минимуму. Первый вариант даёт минимальные потребление и предельную стоимость; второй подходит для моделей, которые продолжают развиваться.
Когда оправданы вычисления в памяти на MaskROM?
Для устройств со стабильной моделью, понятным объёмом выпуска и жёстким требованием к низкому потреблению и низкой предельной стоимости инференса: например, карманных переводчиков и офлайн-ассистентов. Веса записываются в кремний на этапе масок при тейпауте, поэтому во время работы внешнего переноса весов нет.
Можно ли обновить модель после того, как она записана в чип?
На маршруте MaskROM нельзя: веса фиксируются при тейпауте, новая модель означает новые маски. Маршрут вычислений в памяти на SRAM загружает веса при старте и допускает обновление. Маршрут вычислений рядом с памятью хранит веса во внешней памяти и поддерживает непрерывные итерации. Поэтому первый вопрос всегда один: как часто меняется ваша модель?
Какие модели поддерживают чипы Fanshi?
Forge рассчитан на Qwen 3.5 0.8B; Trident поддерживает модели до Qwen 3.5 35B; Argus выполняет SmolVLM, SegFormer и схожие модели зрения и мультимодальные модели. Семейство IP охватывает Qwen3 / 3.5 (от 0.6B до 9B), SmolLM2, разреженные модели MoE и линейное внимание типа DeltaNet. Полный список приведён на странице поддерживаемых моделей.
Поддерживаете ли вы Qwen3.6, Qwen3.8 и другие новые модели?
Да. Qwen3.6 и Qwen3.8 сохраняют гибридную компоновку Qwen3.5: слои линейного внимания Gated DeltaNet чередуются со слоями полного внимания с вентилями. Ядра Fanshi FS-Linear и FS-Attention уже покрывают оба типа слоёв, поэтому более новая модель того же семейства означает новую сборку чипа на существующих ядрах, а не новую архитектуру. Число параметров, длина контекста и цели по производительности оцениваются по проекту.
Что будет, если после изготовления чипа выйдет более новая модель?
На маршруте MaskROM переход на новую модель требует заново изготовить слои масок, в которых записаны веса. Если новая модель имеет ту же архитектуру, проект ядер, SDK и интеграция на стороне хоста сохраняются без изменений. При вычислениях в памяти на SRAM веса перезагружаются при старте; при вычислениях рядом с памятью обновляются веса во внешней памяти.
Как определяются показатели вроде 17 000 токен/с?
Это проектные цели по пропускной способности декодирования для основной модели, указанной у каждого продукта. Точная модель, точность, размер пакета и тестовая платформа фиксируются по проекту.
Как инференс на устройстве защищает данные?
Инференс полностью выполняется на устройстве: ни исходные данные, ни выход модели не нужно никуда отправлять, и устройство может работать полностью автономно. Для изолированных сетей, закрытых объектов и сценариев с чувствительными данными это гарантия на уровне архитектуры, а не обещание на уровне политики.
Сколько можно сэкономить на чипе по сравнению с оплатой вызовов API?
Чип покупается один раз, после чего предельная стоимость каждого инференса близка к нулю, тогда как API выставляет счёт за каждый токен. Калькулятор на главной странице оценивает суммарные затраты за три года по вашему суточному объёму токенов и текущей модели; фактические цифры зависят от объёма использования и коммерческого предложения.
Может ли IP инференса работать на FPGA?
Да. FS-Fusion, FS-Attention, FS-MoE и FS-Linear рассчитаны и на тейпаут ASIC, и на прототипирование на FPGA; для ранней проверки есть оценочная плата, так что инженерный образец может появиться раньше кремния.
Что входит в лицензию на IP?
IP ядра инференса, оценочная плата FPGA, отображение модели и адаптация интерфейсов, а также поддержка внедрения в проект. Охват, занимаемые ресурсы, цели по производительности и условия лицензии оцениваются для конкретного целевого устройства и модели.
Как запросить образец или оценочный комплект?
Напишите на info@fanshi-silicon.com и укажите целевую модель, цель по производительности, бюджет мощности, интерфейсы и сроки проекта. Мы подтвердим маршрут и ответим с планом.
Что входит в оценочный комплект?
Корпусированные инженерные образцы на оценочной плате, подключение к хосту, SDK и драйверы, документация по интеграции и прямая поддержка инженерной команды Fanshi.
Можно ли подписать NDA до обсуждения технических деталей?
Да. Подробные характеристики, данные оценки и планы разработки передаются после подписания взаимного NDA.
Работаете ли вы с заказчиками за пределами Китая?
Да. Fanshi работает с командами по всему миру, на английском или китайском языке. Мы находимся в Хэфэе, Китай (китайское стандартное время, UTC+8).
Какой техпроцесс и какую цепочку поставок использует Fanshi?
Зрелую цепочку поставок SMIC 28 нм. Выигрыш вычислений в памяти и рядом с памятью даёт архитектура, а не передовые техпроцессы, поэтому стоимость и поставки остаются предсказуемыми.
Как связаны Fanshi и Taalas?
Никак: нет ни аффилированности, ни партнёрства. Fanshi работает в том же общем направлении — запись моделей в кремний — и развивает свою технологию самостоятельно на цепочке поставок 28 нм.
Что такое стена памяти и почему она определяет, заработают ли LLM на устройстве?
Для каждого сгенерированного токена нужно прочитать все веса модели из памяти в вычислительные блоки, поэтому пропускная способность и энергия уходят главным образом на перенос данных, а не на вычисления. У устройств лишь малая доля пропускной способности и бюджета мощности дата-центра, и пока веса приходится перемещать, большие модели на устройстве работать не могут. Вычисления в памяти и рядом с памятью нужны, чтобы обойти эту стену.
Являются ли показатели на этом сайте окончательными характеристиками поставки?
Нет. Они описывают текущее направление продуктов и проектные цели. Окончательные характеристики, условия испытаний, версии поставки и коммерческие условия фиксируются в проектных документах.
Для каких отраслей предназначены чипы Fanshi?
Карманные переводчики и голосовые устройства, офлайн-ассистенты в автомобиле, роботы с воплощённым ИИ, промышленные edge-серверы, изолированные и защищённые терминалы, инспекция с дронов, обнаружение дефектов на производственной линии и слияние данных нескольких датчиков.
Где находится Fanshi и как с вами связаться?
Hefei Fanshi Semiconductor Technology Co., Ltd. находится в Хэфэе, провинция Аньхой, Китай. По вопросам сотрудничества, лицензирования IP и работы в компании пишите на info@fanshi-silicon.com.
Что ещё почитать
Что такое ИИ-чип с вычислениями в памяти? Три маршрутаИИ-чип с вычислениями в памяти выполняет умножение с накоплением внутри массива памяти, и веса больше не перемещаются. Чем различаются MaskROM, SRAM CIM и вычисления рядом с памятью.
Как выбрать чип для инференса LLM на устройстве: 7 вопросовВыбор чипа для инференса LLM на устройстве определяют соответствие модели, бюджет мощности и способ обновления, а не пиковые TOPS. Семь вопросов и контрольный список.
Стоимость инференса LLM: API, облачный GPU или чип на устройстве за 3 годаСчитаем стоимость инференса LLM за три года: API с оплатой за токен, облачный GPU с оплатой за час или чип, купленный один раз. Методика, пример расчёта и окупаемость.
Остался вопрос по вашему проекту?
Пришлите целевую модель и цели по производительности и потреблению. Мы ответим с предложением маршрута и планом оценки.
