<?xml version="1.0" encoding="UTF-8"?>
<rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom"><channel>
<title>Fanshi Semiconductor 기술 문서</title><link>https://www.fanshi-silicon.com/ko/insights/</link><description>Fanshi 엔지니어링 팀이 답합니다. 컴퓨트 인 메모리 칩, 엣지 LLM 추론 칩 선택법, 추론 비용, MaskROM, FPGA 프로토타이핑, 메모리 벽, Qwen 하이브리드 어텐션.</description><language>ko</language>
<lastBuildDate>Mon, 16 Nov 2026 01:00:00 GMT</lastBuildDate><atom:link href="https://www.fanshi-silicon.com/ko/feed.xml" rel="self" type="application/rss+xml"/>
<item><title>모델 온 칩이란: LLM 을 하드와이어링한 ASIC, 클라우드와 엣지</title><link>https://www.fanshi-silicon.com/ko/insights/hardwired-llm-chip-model-specific-asic/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/ko/insights/hardwired-llm-chip-model-specific-asic/</guid><pubDate>Mon, 16 Nov 2026 01:00:00 GMT</pubDate><description>모델 전용 ASIC 은 하드와이어드 LLM 칩이라고도 하며, 대형 언어 모델 하나의 가중치를 제조 단계에서 실리콘에 고정합니다. 추론할 때 가중치를 메모리에서 옮길 필요가 없어지므로, 디코딩 속도와 에너지 효율이 범용 GPU 보다 몇 자릿수 높아질 수 있습니다. 그 대신 모델을 자유롭게 바꿀 수 없습니다. 종류는 두 가지입니다. 클라우드용은 랙당 초당 토큰 수와 토큰당 비용을 겨냥하고, 엣지용은 와트급 전력, 오프라인 동작, 기기 원가를 겨냥합니다.</description></item>
<item><title>LLM 추론 ASIC 비교: 2026년의 다섯 가지 칩 아키텍처</title><link>https://www.fanshi-silicon.com/ko/insights/llm-inference-asic-comparison/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/ko/insights/llm-inference-asic-comparison/</guid><pubDate>Mon, 16 Nov 2026 01:00:00 GMT</pubDate><description>LLM 추론 하드웨어는 이제 다섯 가지 아키텍처로 나뉩니다. 범용 GPU, 웨이퍼 스케일 엔진, 언어 처리 장치, 트랜스포머 전용 ASIC, 그리고 한 모델을 실리콘에 고정하는 모델 온 칩입니다. 차이는 속도를 위해 유연성을 얼마나 내려놓느냐에 있습니다. 같은 8B 모델에 대해 보고된 속도는 NVIDIA H200 의 사용자당 초당 약 230 토큰에서 하드와이어드 Taalas HC1 의 약 17,000 토큰까지 걸쳐 있습니다. 다만 이 수치들은 제조사 주장과 독립 측정이 섞여 있어 그대로 비교할 수 없습니다. 다섯 가지 모두 데이터센터 제품이며, 기기에는 다른 급의 칩이 필요합니다.</description></item>
<item><title>초당 토큰 수(tokens/s)란: LLM 은 얼마나 빨라야 하는가</title><link>https://www.fanshi-silicon.com/ko/insights/tokens-per-second-explained/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/ko/insights/tokens-per-second-explained/</guid><pubDate>Mon, 16 Nov 2026 01:00:00 GMT</pubDate><description>초당 토큰 수는 언어 모델이 출력을 생성하는 속도입니다. 사람은 대략 초당 5~7 토큰으로 읽으므로, 채팅 답변은 초당 10~30 토큰이면 매끄럽게 느껴집니다. 추론형 모델, 에이전트, 제어 루프에는 수백에서 수천이 필요합니다. 생성되는 토큰 대부분을 사람이 읽지 않기 때문입니다. 기기에서는 메모리 대역폭을 모델 크기로 나눈 값이 상한이 됩니다. 엣지 칩이 가중치를 아예 옮기지 않으려 하는 이유입니다.</description></item>
<item><title>GPU 없이 LLM 을 실행하는 방법: 기기를 위한 다섯 가지 하드웨어</title><link>https://www.fanshi-silicon.com/ko/insights/run-llm-without-gpu-edge-hardware/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/ko/insights/run-llm-without-gpu-edge-hardware/</guid><pubDate>Mon, 16 Nov 2026 01:00:00 GMT</pubDate><description>언어 모델은 데이터센터 GPU 없이도 다섯 종류의 하드웨어에서 실행할 수 있습니다. 양자화 모델을 올린 CPU, 스마트폰이나 PC 칩 안의 NPU, 임베디드 GPU 모듈, FPGA, 그리고 전용 LLM 칩입니다. 앞의 세 가지는 메모리 대역폭이라는 같은 병목을 공유합니다. 토큰마다 모든 가중치를 읽어야 하기 때문입니다. 전용 칩은 이 병목을 없애지만, 모델이 확정되어 있고 제품이 양산 출하될 때에만 수지가 맞습니다.</description></item>
<item><title>Taalas HC1 이란: 사양, 속도, 한계, 그리고 기기용 칩에 주는 의미</title><link>https://www.fanshi-silicon.com/ko/insights/taalas-hc1-explained/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/ko/insights/taalas-hc1-explained/</guid><pubDate>Mon, 16 Nov 2026 01:00:00 GMT</pubDate><description>Taalas HC1 은 2026년 2월에 발표된 데이터센터용 추론 칩으로, Llama 3.1 8B 라는 모델 하나를 실리콘에 하드와이어링했습니다. 회사는 사용자당 초당 17,000 토큰에 가깝다고 발표했고, 같은 모델의 NVIDIA H200 수치는 초당 약 230 토큰입니다. 공개된 내용에는 TSMC 6 nm, 다이 면적 815 mm², 약 530억 개 트랜지스터가 포함됩니다. 대가는 칩 하나에 모델 하나라는 점, 첫 실리콘이 3 비트와 6 비트의 강한 양자화를 쓴다는 점, 약 2.5 kW 서버용이라는 점입니다. 이것은 클라우드 제품이며, 기기에는 같은 생각을 1 와트에서 수십 와트로 구현한 것이 필요합니다.</description></item>
<item><title>NPU, GPU 모듈, 전용 칩: 온디바이스 LLM 에는 무엇을 고를까</title><link>https://www.fanshi-silicon.com/ko/insights/npu-vs-dedicated-llm-chip/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/ko/insights/npu-vs-dedicated-llm-chip/</guid><pubDate>Mon, 16 Nov 2026 01:00:00 GMT</pubDate><description>NPU, 임베디드 GPU 모듈, 전용 LLM 칩은 모두 기기 안에서 언어 모델을 실행할 수 있지만 약점은 서로 다릅니다. NPU 는 이미 제품 안에 있어 추가 비용이 없지만, 시스템 메모리를 공유하고 공급사 툴체인에 의존합니다. GPU 모듈은 메모리에 들어가는 모든 모델을 실행하지만 수십 와트를 소비합니다. 전용 칩은 메모리 병목을 없애고 전력도 가장 적게 쓰지만, 모델을 미리 정해야 합니다. 선택은 세 가지 질문으로 정해집니다. 모델이 얼마나 확정되어 있는가, 몇 대를 출하하는가, 몇 와트를 쓸 수 있는가.</description></item>
<item><title>로봇의 온디바이스 LLM: 임바디드 AI 에 로컬 추론 하드웨어가 필요한 이유</title><link>https://www.fanshi-silicon.com/ko/insights/on-device-llm-for-robots/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/ko/insights/on-device-llm-for-robots/</guid><pubDate>Mon, 16 Nov 2026 01:00:00 GMT</pubDate><description>언어 모델이나 비전 언어 모델로 계획을 세우는 로봇은 데이터센터에 의존할 수 없습니다. 네트워크 지연은 순간마다 달라지고, 로봇이 일하는 곳에서는 연결이 보장되지 않기 때문입니다. 모델을 본체에서 실행하면 추론 속도는 제어 루프 안의 정해진 값이 됩니다. 그때 하드웨어는 세 가지 조건을 동시에 만족해야 합니다. 계획 주기에 맞는 초당 토큰 수, 본체에서 대략 10~70 와트의 전력 예산, 출하되는 모든 기기에서 동일한 동작입니다.</description></item>
<item><title>컴퓨트 인 메모리 AI 칩이란? 세 가지 기술 경로 설명</title><link>https://www.fanshi-silicon.com/ko/insights/what-is-compute-in-memory-chip/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/ko/insights/what-is-compute-in-memory-chip/</guid><pubDate>Sat, 14 Nov 2026 01:00:00 GMT</pubDate><description>컴퓨트 인 메모리(CIM) 칩은 곱셈-누산 연산을 메모리 어레이 안에서 수행하므로 모델 가중치가 저장 셀을 떠나지 않습니다. 이 방식은 LLM 추론에서 가장 큰 비용, 즉 가중치를 메모리에서 연산 장치로 옮기는 일을 겨냥합니다. 가중치가 놓이는 위치에 따라 MaskROM 컴퓨트 인 메모리, SRAM 컴퓨트 인 메모리, 니어 메모리 컴퓨팅의 세 가지 주요 경로로 나뉩니다.</description></item>
<item><title>엣지 LLM 추론 칩 선택법: 7가지 질문</title><link>https://www.fanshi-silicon.com/ko/insights/how-to-choose-edge-inference-chip/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/ko/insights/how-to-choose-edge-inference-chip/</guid><pubDate>Sat, 14 Nov 2026 01:00:00 GMT</pubDate><description>엣지 추론 칩을 고르려면 먼저 일곱 가지 질문에 답해야 합니다. 어떤 모델인지, 파라미터가 몇 개인지, 얼마나 자주 바뀌는지, 전력 예산은 얼마인지, 디코딩이 얼마나 빨라야 하는지, 데이터가 기기를 벗어나도 되는지, 몇 대를 출하할지. 이 답에 따라 범용 GPU나 NPU를 쓸지, 컴퓨트 인 메모리 또는 니어 메모리 전용 ASIC을 쓸지가 대부분 결정됩니다.</description></item>
<item><title>LLM 추론 비용: API, 클라우드 GPU, 엣지 칩의 3년 비교</title><link>https://www.fanshi-silicon.com/ko/insights/inference-compute-cost/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/ko/insights/inference-compute-cost/</guid><pubDate>Sat, 14 Nov 2026 01:00:00 GMT</pubDate><description>LLM 추론 비용에는 세 가지 형태가 있습니다. API는 100만 토큰 단위로 과금되는 지속적인 지출입니다. 자체 운영 클라우드 GPU는 임대료나 감가상각을 나누면 100만 토큰당 약 0.70달러입니다. 전용 엣지 칩은 한 번 구매하면 그 뒤 추론당 한계 비용이 0에 가까워집니다. 하루 1,000만 토큰 기준으로 최첨단 모델 API를 3년 쓰면 약 19만 2,000달러가 들며, 예시로 든 210달러짜리 칩의 거의 1,000배입니다.</description></item>
<item><title>MaskROM 컴퓨트 인 메모리: 가중치를 실리콘에 새긴다는 것</title><link>https://www.fanshi-silicon.com/ko/insights/maskrom-cim-explained/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/ko/insights/maskrom-cim-explained/</guid><pubDate>Sat, 14 Nov 2026 01:00:00 GMT</pubDate><description>MaskROM 컴퓨트 인 메모리는 테이프아웃에 쓰이는 마스크 패턴을 통해 모델 가중치를 실리콘의 비아 어레이에 새깁니다. 가중치가 칩 구조의 일부가 되는 것입니다. 실행 중에는 읽어 내거나 옮길 것이 없고 곱셈-누산이 어레이 안에서 제자리로 이루어지므로, 모든 경로 가운데 전력과 추론당 한계 비용이 가장 낮습니다. 그 대가는 모델이 고정된다는 점이며, 변경하려면 새 마스크가 필요합니다.</description></item>
<item><title>LLM 가속기를 위한 FPGA 프로토타이핑: IP 라이선스에서 테이프아웃까지</title><link>https://www.fanshi-silicon.com/ko/insights/fpga-prototyping-for-llm-ip/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/ko/insights/fpga-prototyping-for-llm-ip/</guid><pubDate>Sat, 14 Nov 2026 01:00:00 GMT</pubDate><description>LLM의 FPGA 프로토타이핑이란 테이프아웃 전에 추론 코어 IP를 FPGA 평가 보드에 올리고, 실제 모델과 실제 인터페이스로 전체 경로를 구동하는 것입니다. ASIC이 나오기 전에 엔지니어링 샘플을 손에 쥘 수 있고, 모델 매핑, 양자화 정확도, 인터페이스, 통합 문제를 일찍 드러내며, 테이프아웃 결정을 실측 근거 위에서 내릴 수 있습니다.</description></item>
<item><title>메모리 벽: 엣지 LLM이 멈추는 이유와 우회하는 방법</title><link>https://www.fanshi-silicon.com/ko/insights/memory-wall-edge-llm/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/ko/insights/memory-wall-edge-llm/</guid><pubDate>Sat, 14 Nov 2026 01:00:00 GMT</pubDate><description>메모리 벽이란 빠르게 늘어나는 연산 성능과 느리게 늘어나는 메모리 대역폭 사이의 격차로, 연산 장치가 대부분의 시간을 데이터를 기다리며 보내게 만듭니다. LLM 디코딩에서는 토큰마다 모든 가중치를 읽으므로, 처리량의 상한은 메모리 대역폭을 모델 크기로 나눈 값입니다. 엣지 기기의 대역폭은 수십 GB/s에 불과해, 기존 아키텍처로는 쓸 만한 LLM을 돌릴 수 없습니다. 컴퓨트 인 메모리와 니어 메모리 컴퓨팅은 가중치 이동을 줄이거나 없애 이 벽을 우회합니다.</description></item>
<item><title>Qwen3.5에서 Qwen3.8까지: 하이브리드 어텐션이 엣지 실리콘에 잘 맞는 이유</title><link>https://www.fanshi-silicon.com/ko/insights/qwen-hybrid-attention-in-silicon/</link><guid isPermaLink="true">https://www.fanshi-silicon.com/ko/insights/qwen-hybrid-attention-in-silicon/</guid><pubDate>Sat, 14 Nov 2026 01:00:00 GMT</pubDate><description>Qwen3.5, Qwen3.6, Qwen3.8은 Gated DeltaNet 선형 어텐션 층 세 개와 게이트 풀 어텐션 층 한 개를 번갈아 배치하는 하이브리드 구조를 사용합니다. 컨텍스트에 따라 커지는 KV 캐시를 갖는 것은 네트워크의 4분의 1에 해당하는 풀 어텐션 부분뿐이고, 선형 층은 프롬프트가 아무리 길어도 고정 크기의 상태만 갖습니다. 엣지 실리콘에는 더 작고 예측하기 쉬운 메모리 예산을 뜻합니다. 그리고 공개된 구조가 이 릴리스들 사이에서 바뀌지 않았으므로, 새 Qwen 모델은 새로운 아키텍처가 아니라 같은 추론 코어 위에서의 새로운 구축입니다.</description></item>
</channel></rss>
