본문으로 건너뛰기

Taalas HC1 · Taalas HC1 사양 · Llama 3.1 8B 하드와이어드 · 모델 온 칩 · LLM 추론 ASIC

Taalas HC1 이란: 사양, 속도, 한계, 그리고 기기용 칩에 주는 의미

Fanshi Semiconductor 엔지니어링 팀 · 게시

Taalas HC1 은 2026년 2월에 발표된 데이터센터용 추론 칩으로, Llama 3.1 8B 라는 모델 하나를 실리콘에 하드와이어링했습니다. 회사는 사용자당 초당 17,000 토큰에 가깝다고 발표했고, 같은 모델의 NVIDIA H200 수치는 초당 약 230 토큰입니다. 공개된 내용에는 TSMC 6 nm, 다이 면적 815 mm², 약 530억 개 트랜지스터가 포함됩니다. 대가는 칩 하나에 모델 하나라는 점, 첫 실리콘이 3 비트와 6 비트의 강한 양자화를 쓴다는 점, 약 2.5 kW 서버용이라는 점입니다. 이것은 클라우드 제품이며, 기기에는 같은 생각을 1 와트에서 수십 와트로 구현한 것이 필요합니다.

HC1 이란 무엇인가

HC1 은 Taalas 의 첫 칩으로 2026년 2월에 발표되었습니다. 모델을 메모리에 올려 범용 하드웨어에서 돌리는 대신, Llama 3.1 8B 라는 모델 하나를 칩 자체에 만들어 넣었습니다. 이 방식을 모델 온 칩 또는 하드와이어드 LLM 이라고 합니다.

Fanshi Semiconductor 는 Taalas 와 관련이 없습니다. 이 페이지는 공개된 정보를 정리한 것이며 출처는 끝에 있습니다. HC1 이 이 방식의 가장 뚜렷한 공개 기준점이기 때문에 다룹니다.

공개된 수치

항목공개된 수치출처
모델Llama 3.1 8B, 하드와이어링Taalas (CNX Software, heise 보도)
속도사용자당 초당 17,000 토큰에 근접제조사 발표
공정TSMC 6 nmCNX Software, heise
다이 면적815 mm²CNX Software, heise
트랜지스터 수약 530억 개CNX Software, heise
정밀도첫 실리콘은 3 비트와 6 비트 파라미터Taalas (heise 보도)
유연성LoRA 어댑터와 설정 가능한 컨텍스트 크기CNX Software
배치 형태약 2.5 kW 서버CNX Software
같은 모델의 NVIDIA H200 수치사용자당 초당 약 230 토큰Nvidia 기준값, heise 인용
같은 모델의 Cerebras 수치초당 약 1,900 토큰Artificial Analysis, heise 인용
같은 모델의 Groq 수치초당 약 600 토큰Artificial Analysis, heise 인용

수치는 2026년 중 공개된 것입니다. HC1 의 속도는 제조사 수치이고, Cerebras 와 Groq 의 수치는 독립 측정 사이트에서 나온 것입니다.

속도는 어디서 오는가

토큰 하나를 생성하려면 모델의 모든 가중치가 필요합니다. GPU 에서는 가중치가 메모리에 있어 토큰마다 가져와야 하므로, 메모리가 가중치를 전달하는 속도가 상한이 됩니다. HC1 은 이 가져오기를 없앱니다. 가중치가 회로의 일부이므로 옮길 것이 없습니다.

작은 모델에서 효과가 특히 큰 이유입니다. 8B 모델은 오늘날의 하드웨어에서 연산 능력이 아니라 데이터 이동에 묶여 있습니다. 이동을 없애면 같은 연산이 수십 배 빠르게 돕니다.

한계

  • 칩 하나에 모델 하나. 다른 모델에는 다른 칩이 필요합니다. 어댑터와 컨텍스트 크기는 설정할 수 있지만 기본 가중치는 바꿀 수 없습니다.
  • 양자화. 회사 스스로 밝힌 바에 따르면 첫 실리콘은 3 비트와 6 비트 파라미터를 쓰며, GPU 기준과 비교해 품질이 다소 떨어집니다.
  • 제조사 수치. 가장 주목받는 속도는 회사 발표에 따른 것입니다. 판단의 근거로 삼기 전에 독립 측정이 있는지 확인하십시오.
  • 데이터센터용 부품입니다. 약 2.5 kW 서버는 제품 안에 들어가지 않습니다.

기기에 주는 의미

HC1 은 가중치를 제자리에 고정하는 방식이 큰 규모에서 통한다는 것을 보여 주었습니다. 그러나 기기의 문제를 풀어 주지는 않습니다. 번역기, 차량 모듈, 로봇이 쓸 수 있는 전력은 수 킬로와트가 아니라 1 와트에서 수십 와트이고, 부품 원가도 이만한 크기의 첨단 공정 칩을 감당할 수 없기 때문입니다.

엣지 칩은 같은 원리를 다른 제약 아래에서 씁니다. 더 작은 모델, 성숙 공정, 그리고 가중치를 두는 세 가지 방법입니다. MaskROM 컴퓨트 인 메모리는 제조 시점에 가중치를 고정하고, SRAM 컴퓨트 인 메모리는 전원 투입 시 로드하며, 니어 메모리 컴퓨팅은 갱신 가능한 외부 메모리에 가중치를 둡니다.

Fanshi 는 SMIC 28 nm 에서 이런 종류의 칩을 만듭니다. 공개한 수치는 실측이 아니라 설계 목표입니다. Forge 는 와트급 기기에서 Qwen 3.5 0.8B 기준 17,000 token/s 를, Trident 는 70 W 시스템 전력 예산 안에서 Qwen 3.5 35B 까지의 모델 기준 15,000 token/s 를 목표로 합니다.

자주 묻는 질문

Taalas HC1 이란 무엇입니까?

2026년 2월에 발표된 데이터센터용 추론 칩으로, Llama 3.1 8B 모델을 실리콘에 하드와이어링했습니다. 회사는 사용자당 초당 17,000 토큰에 가깝다고 발표했습니다.

Taalas HC1 은 GPU 보다 얼마나 빠릅니까?

Taalas 는 Llama 3.1 8B 에서 사용자당 초당 17,000 토큰에 가깝다고 발표했습니다. 보도는 같은 모델의 NVIDIA H200 수치로 사용자당 초당 약 230 토큰을 인용합니다. HC1 의 수치는 제조사 발표입니다.

Taalas HC1 은 다른 모델을 실행할 수 있습니까?

없습니다. 기본 모델이 칩에 고정되어 있습니다. 보도에 따르면 LoRA 어댑터와 설정 가능한 컨텍스트 크기를 지원하지만, 기본 모델을 바꾸려면 다른 칩이 필요합니다.

Taalas HC1 을 엣지 기기에 쓸 수 있습니까?

없습니다. 약 2.5 kW 서버용으로 설계되었습니다. 기기에는 1 와트에서 수십 와트를 목표로 하는 컴퓨트 인 메모리 또는 니어 메모리 컴퓨팅 기반 엣지 추론 칩을 씁니다.

Fanshi 는 Taalas 와 관련이 있습니까?

없습니다. Fanshi Semiconductor 는 Taalas 와 제휴 관계도 협력 관계도 아닙니다. Taalas 는 데이터센터용 가속기를, Fanshi 는 엣지 기기용 칩과 IP 를 만듭니다.

출처

  1. heise online: AI inference cast in silicon: Taalas announces HC1 chip
  2. CNX Software: Taalas HC1 hardwired Llama-3.1 8B AI accelerator delivers up to 17,000 tokens/s

이 질문을 프로젝트에 적용해 보세요

대상 모델과 성능 및 전력 목표를 보내 주세요. 적합한 경로와 평가 계획을 회신해 드립니다.

평가 키트 신청