01
Карманные и голосовые устройства
Переводчики, диктофоны, ИИ-наушники, игрушки. Полноценная языковая модель в пределах одного-двух ватт, без сети, на батарее, которой хватает на весь день.
Обычно начинают с Forge и маршрута MaskROM
Команды, которые к нам обращаются, делятся на шесть групп. Найдите ближайшую к вам и посмотрите, с какого маршрута и какого чипа обычно начинают.

01
Переводчики, диктофоны, ИИ-наушники, игрушки. Полноценная языковая модель в пределах одного-двух ватт, без сети, на батарее, которой хватает на весь день.
Обычно начинают с Forge и маршрута MaskROM
02
Голос в салоне, роботы с воплощённым ИИ. Более крупная модель работает локально, со стабильной задержкой и без зависимости от связи.
Обычно начинают с Trident и вычислений рядом с памятью
03
Сегментация дефектов на линии, инспекция с дронов, слияние данных нескольких датчиков. Успевать за каждым кадром, оставляя данные на объекте.
Обычно начинают с Argus и вычислений в памяти на SRAM
04
Изолированные сети в госсекторе, здравоохранении, энергетике и финансах. Данные не должны покидать устройство: это требование к архитектуре.
Любой маршрут работает локально; маршрут выбирают по размеру модели
05
У вас уже есть чип или он планируется, и вы хотите добавить инференс LLM, не разрабатывая ускоритель с нуля.
Обычно начинают с IP ядер инференса и оценочной платы FPGA
06
У вас зафиксированная или дообученная модель, объёмы растут, а счета за API и GPU перестают быть оправданными.
Чип, созданный под вашу модель
Qwen3.5 → 3.6 → 3.8
Qwen3.6 и Qwen3.8 сохраняют гибридную компоновку Qwen3.5, которую ядра инференса Fanshi уже поддерживают. Более новая модель того же семейства означает новую сборку чипа, а не перепроектирование.
01
Знакомство и NDA
Короткий разговор о проекте. После подписания взаимного NDA мы передаём подробные характеристики и материалы для оценки.
02
Технический семинар
Вместе разбираем вашу нагрузку: целевая модель, типичная и максимальная длина запроса, одиночные запросы, многоходовые диалоги или агентные сценарии, параллельность, ограничения по мощности и форм-фактору.
03
Отчёт о реализуемости
Предлагаемые характеристики, этапы разработки и ориентировочные коммерческие условия, включая NRE и цену за единицу.
04
Оценка и разработка
Практическая оценка с оценочным комплектом, затем готовый чип или заказная разработка под вашу модель.
Как выбрать чип для инференса LLM на устройстве: 7 вопросовВыбор чипа для инференса LLM на устройстве определяют соответствие модели, бюджет мощности и способ обновления, а не пиковые TOPS. Семь вопросов и контрольный список.
Стоимость инференса LLM: API, облачный GPU или чип на устройстве за 3 годаСчитаем стоимость инференса LLM за три года: API с оплатой за токен, облачный GPU с оплатой за час или чип, купленный один раз. Методика, пример расчёта и окупаемость.
Стена памяти: почему LLM на устройстве буксуют и как её обойтиДекодирование LLM ограничено пропускной способностью: каждый токен читает все веса, и устройства не выдерживают такого потока. Насколько высока стена и как её преодолеть.Опишите модель, устройство и объём за две минуты, и мы ответим именно по вашему проекту.