<?xml version="1.0" encoding="UTF-8"?>
<rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom"><channel>
<title>Технические статьи Fanshi Semiconductor</title><link>https://www.fanshi-silicon.com/ru/insights/</link><description>Ответы инженерной команды Fanshi: чипы с вычислениями в памяти, выбор чипа для инференса LLM на устройстве, стоимость инференса, MaskROM, прототипирование на FPGA, стена памяти и гибридное внимание Qwen.</description><language>ru</language>
<lastBuildDate>Mon, 16 Nov 2026 01:00:00 GMT</lastBuildDate><atom:link href="https://www.fanshi-silicon.com/ru/feed.xml" rel="self" type="application/rss+xml"/>
<item><title>Model-on-chip: ASIC с «зашитой» LLM, облако и устройства</title><link>https://www.fanshi-silicon.com/ru/insights/hardwired-llm-chip-model-specific-asic/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/ru/insights/hardwired-llm-chip-model-specific-asic/</guid><pubDate>Mon, 16 Nov 2026 01:00:00 GMT</pubDate><description>ASIC под конкретную модель, который ещё называют чипом с «зашитой» LLM, фиксирует веса одной большой языковой модели в кремнии при изготовлении. При инференсе веса больше не нужно доставать из памяти, поэтому скорость декодирования и энергоэффективность могут быть на порядки выше, чем у универсального GPU. Плата за это: модель нельзя свободно заменить. Таких чипов два вида. Облачные нацелены на токены в секунду на стойку и стоимость токена, встраиваемые — на потребление в единицы ватт, работу без сети и стоимость устройства.</description></item>
<item><title>ASIC для инференса LLM: сравнение пяти архитектур чипов в 2026 году</title><link>https://www.fanshi-silicon.com/ru/insights/llm-inference-asic-comparison/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/ru/insights/llm-inference-asic-comparison/</guid><pubDate>Mon, 16 Nov 2026 01:00:00 GMT</pubDate><description>Железо для инференса LLM сегодня делится на пять архитектур: универсальные GPU, процессоры размером с пластину, языковые процессоры, ASIC только для трансформеров и решения model-on-chip, фиксирующие одну модель в кремнии. Они различаются тем, сколько гибкости отдано ради скорости. Заявленные скорости для одной и той же модели 8B лежат в диапазоне от примерно 230 токенов в секунду на пользователя на NVIDIA H200 до примерно 17 000 на Taalas HC1 с зашитой моделью. Но в этих цифрах смешаны заявления производителей и независимые измерения, и напрямую сравнивать их нельзя. Все пять — продукты для дата-центров; устройствам нужен другой класс чипов.</description></item>
<item><title>Токены в секунду: насколько быстрой должна быть LLM?</title><link>https://www.fanshi-silicon.com/ru/insights/tokens-per-second-explained/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/ru/insights/tokens-per-second-explained/</guid><pubDate>Mon, 16 Nov 2026 01:00:00 GMT</pubDate><description>Токены в секунду — это скорость, с которой языковая модель генерирует вывод. Человек читает примерно 5–7 токенов в секунду, поэтому ответ в чате кажется плавным при 10–30. Рассуждающим моделям, агентам и контурам управления нужны сотни и тысячи, потому что большую часть их токенов человек никогда не читает. На устройстве потолок задаётся пропускной способностью памяти, делённой на размер модели, поэтому встраиваемые чипы стараются вообще не перемещать веса.</description></item>
<item><title>Как запустить LLM без GPU: пять вариантов железа для устройств</title><link>https://www.fanshi-silicon.com/ru/insights/run-llm-without-gpu-edge-hardware/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/ru/insights/run-llm-without-gpu-edge-hardware/</guid><pubDate>Mon, 16 Nov 2026 01:00:00 GMT</pubDate><description>Языковую модель можно запустить без серверного GPU на пяти видах железа: на CPU с квантованной моделью, на NPU в чипе смартфона или ПК, на встраиваемом GPU-модуле, на FPGA или на специализированном чипе для LLM. У первых трёх одно узкое место — пропускная способность памяти, потому что каждый токен требует прочитать все веса. Специализированный чип это узкое место устраняет, но окупается только тогда, когда модель определена, а продукт выпускается серийно.</description></item>
<item><title>Taalas HC1: характеристики, скорость, ограничения и что это значит для устройств</title><link>https://www.fanshi-silicon.com/ru/insights/taalas-hc1-explained/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/ru/insights/taalas-hc1-explained/</guid><pubDate>Mon, 16 Nov 2026 01:00:00 GMT</pubDate><description>Taalas HC1 — чип для инференса в дата-центрах, анонсированный в феврале 2026 года; в его кремнии зашита одна модель, Llama 3.1 8B. Компания заявляет почти 17 000 токенов в секунду на пользователя против примерно 230 на NVIDIA H200 для той же модели. Среди опубликованных данных — техпроцесс TSMC 6 нм, кристалл 815 мм² и около 53 миллиардов транзисторов. Плата за это: одна модель на чип, агрессивное 3- и 6-битное квантование в первом кремнии и серверы мощностью около 2,5 кВт. Это облачный продукт; устройствам нужна та же идея при мощности от одного ватта до нескольких десятков ватт.</description></item>
<item><title>Что такое ИИ-чип с вычислениями в памяти? Три маршрута</title><link>https://www.fanshi-silicon.com/ru/insights/what-is-compute-in-memory-chip/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/ru/insights/what-is-compute-in-memory-chip/</guid><pubDate>Sat, 14 Nov 2026 01:00:00 GMT</pubDate><description>Чип с вычислениями в памяти (compute-in-memory, CIM) выполняет операции умножения с накоплением внутри массива памяти, так что веса модели не покидают ячейки хранения. Он устраняет самую дорогую часть инференса LLM: перенос весов из памяти в вычислительные блоки. По тому, где лежат веса, выделяют три основных маршрута: вычисления в памяти на MaskROM, вычисления в памяти на SRAM и вычисления рядом с памятью.</description></item>
<item><title>Как выбрать чип для инференса LLM на устройстве: 7 вопросов</title><link>https://www.fanshi-silicon.com/ru/insights/how-to-choose-edge-inference-chip/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/ru/insights/how-to-choose-edge-inference-chip/</guid><pubDate>Sat, 14 Nov 2026 01:00:00 GMT</pubDate><description>Чтобы выбрать чип для инференса на устройстве, сначала ответьте на семь вопросов: какая модель, сколько параметров, как часто она меняется, каков бюджет мощности, насколько быстрым должно быть декодирование, могут ли данные покидать устройство и сколько устройств вы выпустите. Ответы во многом определяют выбор между универсальным GPU или NPU и специализированным ASIC с вычислениями в памяти или рядом с памятью.</description></item>
<item><title>Стоимость инференса LLM: API, облачный GPU или чип на устройстве за 3 года</title><link>https://www.fanshi-silicon.com/ru/insights/inference-compute-cost/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/ru/insights/inference-compute-cost/</guid><pubDate>Sat, 14 Nov 2026 01:00:00 GMT</pubDate><description>Стоимость инференса LLM бывает трёх видов. Использование API оплачивается за миллион токенов и остаётся постоянным расходом; собственный облачный GPU с учётом аренды или амортизации обходится примерно в 0,70 $ за миллион токенов; специализированный чип для устройства покупается один раз, после чего предельная стоимость каждого инференса стремится к нулю. При 10 миллионах токенов в день три года API передовой модели стоят около 192 000 $, почти в тысячу раз больше, чем условный чип за 210 $.</description></item>
<item><title>Вычисления в памяти на MaskROM: что значит записать веса в кремний</title><link>https://www.fanshi-silicon.com/ru/insights/maskrom-cim-explained/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/ru/insights/maskrom-cim-explained/</guid><pubDate>Sat, 14 Nov 2026 01:00:00 GMT</pubDate><description>Вычисления в памяти на MaskROM записывают веса модели в массив переходных отверстий в кремнии с помощью рисунков масок, используемых при тейпауте, и веса становятся частью структуры чипа. Во время работы ничего не нужно считывать или перемещать: умножение с накоплением выполняется на месте, в массиве, что даёт минимальные потребление и предельную стоимость инференса среди всех маршрутов. Цена — фиксированная модель; для её смены нужны новые маски.</description></item>
<item><title>Прототипирование LLM-ускорителей на FPGA: от лицензии на IP до тейпаута</title><link>https://www.fanshi-silicon.com/ru/insights/fpga-prototyping-for-llm-ip/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/ru/insights/fpga-prototyping-for-llm-ip/</guid><pubDate>Sat, 14 Nov 2026 01:00:00 GMT</pubDate><description>Прототипирование LLM на FPGA означает развернуть IP ядра инференса на оценочной плате FPGA до тейпаута и пройти весь тракт с реальной моделью и реальными интерфейсами. Так инженерный образец оказывается у вас в руках раньше, чем появится ASIC, проблемы отображения модели, точности квантования, интерфейсов и интеграции выявляются заранее, а решение о тейпауте опирается на измерения.</description></item>
<item><title>Стена памяти: почему LLM на устройстве буксуют и как её обойти</title><link>https://www.fanshi-silicon.com/ru/insights/memory-wall-edge-llm/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/ru/insights/memory-wall-edge-llm/</guid><pubDate>Sat, 14 Nov 2026 01:00:00 GMT</pubDate><description>Стена памяти — это разрыв между быстро растущей вычислительной мощностью и медленно растущей пропускной способностью памяти, из-за которого вычислительные блоки большую часть времени ждут данных. При декодировании LLM каждый токен читает все веса, поэтому потолок пропускной способности равен пропускной способности памяти, делённой на размер модели. У устройств всего десятки ГБ/с, и обычные архитектуры не позволяют выполнять на них полноценную LLM; вычисления в памяти и рядом с памятью обходят стену, перенося веса меньше или не перенося их вовсе.</description></item>
<item><title>От Qwen3.5 до Qwen3.8: почему гибридное внимание подходит кремнию для устройств</title><link>https://www.fanshi-silicon.com/ru/insights/qwen-hybrid-attention-in-silicon/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/ru/insights/qwen-hybrid-attention-in-silicon/</guid><pubDate>Sat, 14 Nov 2026 01:00:00 GMT</pubDate><description>Qwen3.5, Qwen3.6 и Qwen3.8 используют гибридную компоновку, в которой три слоя линейного внимания Gated DeltaNet чередуются с одним слоем полного внимания с вентилями. KV-кэш, растущий вместе с контекстом, хранит только четверть сети с полным вниманием; линейные слои несут состояние фиксированного размера при любой длине запроса. Для кремния на устройстве это означает меньший и более предсказуемый бюджет памяти, а поскольку опубликованная компоновка между этими версиями не менялась, более новая модель Qwen — это новая сборка на тех же ядрах инференса, а не новая архитектура.</description></item>
</channel></rss>
