стоимость инференса LLM · стоимость токена · API или собственный GPU · стоимость edge-чипа ИИ · инференс на устройстве
Стоимость инференса LLM: API, облачный GPU или чип на устройстве за 3 года
Инженерная команда Fanshi Semiconductor · Опубликовано

Стоимость инференса LLM бывает трёх видов. Использование API оплачивается за миллион токенов и остаётся постоянным расходом; собственный облачный GPU с учётом аренды или амортизации обходится примерно в 0,70 $ за миллион токенов; специализированный чип для устройства покупается один раз, после чего предельная стоимость каждого инференса стремится к нулю. При 10 миллионах токенов в день три года API передовой модели стоят около 192 000 $, почти в тысячу раз больше, чем условный чип за 210 $.
Три способа платить за инференс
API: входные и выходные токены тарифицируются отдельно. По публичным ценам 2026 года при соотношении входа и выхода примерно 1:1 передовые модели стоят от 6,9 до 17,5 $ за миллион токенов, а недорогие — от 0,07 до 2,2 $. Начальных вложений нет, эластичность не ограничена, но расходы растут линейно вместе с использованием и никогда не заканчиваются.
Собственный облачный GPU: оплата по часам аренды GPU или через амортизацию при покупке. Если распределить медианную ставку аренды H100 в 2026 году на его пропускную способность, получится около 0,70 $ за миллион токенов. Это на порядок дешевле передового API, но требует команды эксплуатации, несёт риск недозагрузки и не подходит устройствам: данные всё равно приходится отправлять в облако.
Специализированный чип для устройства: разовая покупка. После неё каждый инференс потребляет только электроэнергию, и его предельная стоимость стремится к нулю. Ограничения: чип определяет размер модели, а интеграция в устройство выполняется заранее.
Пример расчёта, который можно проверить
Допустим, устройство обрабатывает 10 миллионов токенов в день. При 17,5 $ за миллион токенов (GPT-5.5, усреднённая цена) это 10 × 17,5 $ = 175 $ в день, или 175 $ × 365 × 3 ≈ 191 600 $ за три года. Собственный GPU при 0,70 $ за миллион токенов даёт 10 × 0,70 $ × 1 095 дней ≈ 7 700 $. Чип для устройства с условной разовой стоимостью 210 $ за те же три года остаётся на уровне 210 $ плюс электроэнергия.
Тот же объём с другими моделями за три года: Claude Opus 4.8 по 15 $ — это 10 × 15 $ × 1 095 ≈ 164 000 $; Gemini 3 Pro по 6,9 $ — около 75 600 $; Qwen Max по 2,2 $ — около 24 100 $; DeepSeek V3 по 0,07 $ — около 770 $. Даже самый дешёвый API за три года обходится дороже чипа.
Окупаемость считается одним делением: стоимость чипа ÷ ежемесячные расходы на API. В случае GPT-5.5 ежемесячные расходы составляют 175 $ × 30,4 ≈ 5 320 $, то есть чип окупается примерно за сутки (210 $ ÷ 175 $ в день ≈ 1,2 дня). Снизьте использование до 100 000 токенов в день, и ежемесячные расходы на API упадут примерно до 53 $; окупаемость всё равно наступает в пределах четырёх месяцев (210 $ ÷ 53 $ ≈ 3,95).
Калькулятор на главной странице Fanshi использует именно эту методику. В нём можно менять стоимость чипа от 70 до 420 $ и двигать суточный объём, чтобы увидеть результат для собственной нагрузки.
Три переменные помимо счёта
Задержка: API добавляет обращение по сети, а чип на устройстве — нет. Для голосового взаимодействия и управления в реальном времени эта разница касается качества работы, а не стоимости.
Данные: API требует, чтобы данные оказались в облаке, а инференс на устройстве — нет. Для изолированных и ограниченных сред это решает, допустимо ли решение вообще.
Модель: API может в любой момент перейти на новейшую модель, тогда как модель чипа MaskROM зафиксирована. Если бизнес зависит от постоянного роста возможностей модели, выбирайте маршрут вычислений рядом с памятью или в памяти на SRAM либо гибридную схему, в которой устройство выполняет стабильную модель, а сложные задачи передаёт в облако.
Когда переносить инференс на устройство
Следите за тремя сигналами: ежемесячный счёт за API уже превышает цену чипа; парк устройств настолько велик, что содержать облачный кластер инференса больше не выгодно; или бизнес просто не может выпускать данные за пределы устройства. Любого из них достаточно, чтобы включить вариант с инференсом на устройстве в оценку.



