Taalas HC1 · Taalas HC1 사양 · Llama 3.1 8B 하드와이어드 · 모델 온 칩 · LLM 추론 ASIC
Taalas HC1 이란: 사양, 속도, 한계, 그리고 기기용 칩에 주는 의미
Fanshi Semiconductor 엔지니어링 팀 · 게시

Taalas HC1 은 2026년 2월에 발표된 데이터센터용 추론 칩으로, Llama 3.1 8B 라는 모델 하나를 실리콘에 하드와이어링했습니다. 회사는 사용자당 초당 17,000 토큰에 가깝다고 발표했고, 같은 모델의 NVIDIA H200 수치는 초당 약 230 토큰입니다. 공개된 내용에는 TSMC 6 nm, 다이 면적 815 mm², 약 530억 개 트랜지스터가 포함됩니다. 대가는 칩 하나에 모델 하나라는 점, 첫 실리콘이 3 비트와 6 비트의 강한 양자화를 쓴다는 점, 약 2.5 kW 서버용이라는 점입니다. 이것은 클라우드 제품이며, 기기에는 같은 생각을 1 와트에서 수십 와트로 구현한 것이 필요합니다.
HC1 이란 무엇인가
HC1 은 Taalas 의 첫 칩으로 2026년 2월에 발표되었습니다. 모델을 메모리에 올려 범용 하드웨어에서 돌리는 대신, Llama 3.1 8B 라는 모델 하나를 칩 자체에 만들어 넣었습니다. 이 방식을 모델 온 칩 또는 하드와이어드 LLM 이라고 합니다.
Fanshi Semiconductor 는 Taalas 와 관련이 없습니다. 이 페이지는 공개된 정보를 정리한 것이며 출처는 끝에 있습니다. HC1 이 이 방식의 가장 뚜렷한 공개 기준점이기 때문에 다룹니다.
공개된 수치
| 항목 | 공개된 수치 | 출처 |
|---|---|---|
| 모델 | Llama 3.1 8B, 하드와이어링 | Taalas (CNX Software, heise 보도) |
| 속도 | 사용자당 초당 17,000 토큰에 근접 | 제조사 발표 |
| 공정 | TSMC 6 nm | CNX Software, heise |
| 다이 면적 | 815 mm² | CNX Software, heise |
| 트랜지스터 수 | 약 530억 개 | CNX Software, heise |
| 정밀도 | 첫 실리콘은 3 비트와 6 비트 파라미터 | Taalas (heise 보도) |
| 유연성 | LoRA 어댑터와 설정 가능한 컨텍스트 크기 | CNX Software |
| 배치 형태 | 약 2.5 kW 서버 | CNX Software |
| 같은 모델의 NVIDIA H200 수치 | 사용자당 초당 약 230 토큰 | Nvidia 기준값, heise 인용 |
| 같은 모델의 Cerebras 수치 | 초당 약 1,900 토큰 | Artificial Analysis, heise 인용 |
| 같은 모델의 Groq 수치 | 초당 약 600 토큰 | Artificial Analysis, heise 인용 |
수치는 2026년 중 공개된 것입니다. HC1 의 속도는 제조사 수치이고, Cerebras 와 Groq 의 수치는 독립 측정 사이트에서 나온 것입니다.
속도는 어디서 오는가
토큰 하나를 생성하려면 모델의 모든 가중치가 필요합니다. GPU 에서는 가중치가 메모리에 있어 토큰마다 가져와야 하므로, 메모리가 가중치를 전달하는 속도가 상한이 됩니다. HC1 은 이 가져오기를 없앱니다. 가중치가 회로의 일부이므로 옮길 것이 없습니다.
작은 모델에서 효과가 특히 큰 이유입니다. 8B 모델은 오늘날의 하드웨어에서 연산 능력이 아니라 데이터 이동에 묶여 있습니다. 이동을 없애면 같은 연산이 수십 배 빠르게 돕니다.
한계
- 칩 하나에 모델 하나. 다른 모델에는 다른 칩이 필요합니다. 어댑터와 컨텍스트 크기는 설정할 수 있지만 기본 가중치는 바꿀 수 없습니다.
- 양자화. 회사 스스로 밝힌 바에 따르면 첫 실리콘은 3 비트와 6 비트 파라미터를 쓰며, GPU 기준과 비교해 품질이 다소 떨어집니다.
- 제조사 수치. 가장 주목받는 속도는 회사 발표에 따른 것입니다. 판단의 근거로 삼기 전에 독립 측정이 있는지 확인하십시오.
- 데이터센터용 부품입니다. 약 2.5 kW 서버는 제품 안에 들어가지 않습니다.
기기에 주는 의미
HC1 은 가중치를 제자리에 고정하는 방식이 큰 규모에서 통한다는 것을 보여 주었습니다. 그러나 기기의 문제를 풀어 주지는 않습니다. 번역기, 차량 모듈, 로봇이 쓸 수 있는 전력은 수 킬로와트가 아니라 1 와트에서 수십 와트이고, 부품 원가도 이만한 크기의 첨단 공정 칩을 감당할 수 없기 때문입니다.
엣지 칩은 같은 원리를 다른 제약 아래에서 씁니다. 더 작은 모델, 성숙 공정, 그리고 가중치를 두는 세 가지 방법입니다. MaskROM 컴퓨트 인 메모리는 제조 시점에 가중치를 고정하고, SRAM 컴퓨트 인 메모리는 전원 투입 시 로드하며, 니어 메모리 컴퓨팅은 갱신 가능한 외부 메모리에 가중치를 둡니다.
Fanshi 는 SMIC 28 nm 에서 이런 종류의 칩을 만듭니다. 공개한 수치는 실측이 아니라 설계 목표입니다. Forge 는 와트급 기기에서 Qwen 3.5 0.8B 기준 17,000 token/s 를, Trident 는 70 W 시스템 전력 예산 안에서 Qwen 3.5 35B 까지의 모델 기준 15,000 token/s 를 목표로 합니다.
자주 묻는 질문
Taalas HC1 이란 무엇입니까?
2026년 2월에 발표된 데이터센터용 추론 칩으로, Llama 3.1 8B 모델을 실리콘에 하드와이어링했습니다. 회사는 사용자당 초당 17,000 토큰에 가깝다고 발표했습니다.
Taalas HC1 은 GPU 보다 얼마나 빠릅니까?
Taalas 는 Llama 3.1 8B 에서 사용자당 초당 17,000 토큰에 가깝다고 발표했습니다. 보도는 같은 모델의 NVIDIA H200 수치로 사용자당 초당 약 230 토큰을 인용합니다. HC1 의 수치는 제조사 발표입니다.
Taalas HC1 은 다른 모델을 실행할 수 있습니까?
없습니다. 기본 모델이 칩에 고정되어 있습니다. 보도에 따르면 LoRA 어댑터와 설정 가능한 컨텍스트 크기를 지원하지만, 기본 모델을 바꾸려면 다른 칩이 필요합니다.
Taalas HC1 을 엣지 기기에 쓸 수 있습니까?
없습니다. 약 2.5 kW 서버용으로 설계되었습니다. 기기에는 1 와트에서 수십 와트를 목표로 하는 컴퓨트 인 메모리 또는 니어 메모리 컴퓨팅 기반 엣지 추론 칩을 씁니다.
Fanshi 는 Taalas 와 관련이 있습니까?
없습니다. Fanshi Semiconductor 는 Taalas 와 제휴 관계도 협력 관계도 아닙니다. Taalas 는 데이터센터용 가속기를, Fanshi 는 엣지 기기용 칩과 IP 를 만듭니다.


