글 목록으로
2026년 8월 9일
7분 소요

돌릴 수 있는 모델은 단 하나, 속도는 초당 17,000토큰 — 모델을 실리콘에 굽는 Taalas를 AMD가 샀다

AMD가 8월 6일 인수를 발표한 Taalas는 GPU의 반대편 끝에 있는 회사다. 유일한 제품 HC1은 Llama 3.1 8B 딱 한 모델만 돌린다 — 가중치가 트랜지스터에 물리적으로 새겨져 있기 때문이다. HBM도 수냉도 없는 250W 카드가 사용자 한 명 기준 초당 17,000토큰을 뽑는다는 주장의 물리학은 진짜인데, 수치는 전부 자사 발표다. 진짜 자산은 칩이 아니라 '새 모델을 2개월 만에 실리콘으로 만드는 공정'이고, 그 공정이 겨냥하는 미래를 뜯어봤다. 프론티어 모델 전용 가정용 카드라는 상상이 왜 폐쇄 모델에선 성립하지 않고 오픈웨이트에선 성립하는지, 추론 가격 곡선이 또 꺾일 때 개발자가 미리 바꿔둘 전제가 뭔지까지 정리했다.

2026년 8월 6일, AMD가 토론토의 AI 칩 스타트업 Taalas 인수를 발표했다. 금액 비공개, 규제 승인 대기, 9개월 사이 세 번째 AI 인수. 여기까지는 흔한 반도체 뉴스다. 흔하지 않은 건 이 회사의 제품이다. Taalas의 첫 칩 HC1은 Meta의 Llama 3.1 8B를 돌린다 — 그리고 그것만 돌린다. 모델의 가중치가 트랜지스터에 물리적으로 새겨져 있어서, 다른 모델은 원리적으로 올릴 수가 없다.

“아무 모델이나 가져오세요”가 GPU의 존재 이유라면, HC1은 그 반대편 끝에서 시작한 물건이다. 범용성을 통째로 버리는 대가로 뭘 얻었는지, 그리고 AMD가 실제로 산 게 뭔지부터 보자.


추론의 병목은 연산이 아니라 기억이다

LLM 추론이 느리고 비싼 이유는 계산이 어려워서가 아니다. 토큰 하나를 뽑을 때마다 모델 가중치 전체를 메모리에서 연산 유닛으로 실어 날라야 하기 때문이다. GPU 추론의 실효 성능이 연산 스펙이 아니라 HBM 대역폭에 묶이는 이유고, 업계가 이걸 메모리 벽이라고 부른 지 오래다. 지금까지의 답은 더 빠른 HBM, 더 큰 캐시, 더 영리한 배칭이었다 — 요컨대 실어 나르는 걸 더 잘하는 방향.

Taalas의 답은 실어 나르기를 없애는 것이다. 가중치를 메모리에 두고 읽어오는 게 아니라, 가중치 자체를 회로로 만든다. TSMC 6nm 공정, 815mm² 다이에 트랜지스터 530억 개 — 그 상당 부분이 연산 로직이 아니라 Llama 3.1 8B의 파라미터다. 매 포워드 패스마다 반복되던 DRAM 왕복이 사라지니 HBM이 필요 없고, HBM이 없으니 수냉도 필요 없다. 결과물은 250W짜리 PCIe 카드고, 공랭 랙 하나에 열 장이 꽂힌다.

자사 발표 기준 성능은 사용자 한 명당 초당 16,960토큰. NVIDIA B200의 단일 사용자 353토큰과 비교해 48배라는 숫자를 내걸었고, 1,000토큰짜리 답변이 0.06초에 나온다는 계산이 여기서 나온다. 전력은 기존 대비 10분의 1, 구축 비용은 20분의 1이라고 주장한다.

이 숫자들은 걸러 읽어야 한다. 전부 벤더 자체 발표고, 독립 벤치마크는 아직 없다. 그리고 비교 조건이 Taalas에 유리하게 잡혀 있다 — 48배는 단일 사용자 지연시간 비교인데, B200은 애초에 수백 명을 동시에 서빙하는 처리량 기계다. 비용으로 보면 백만 토큰당 0.75센트 대 약 2센트, 2.6배 수준으로 격차가 확 줄어든다. 다만 방향이 맞다는 건 물리로 따져도 나온다. DRAM 왕복을 없애면 그 비용은 실제로 사라지고, 추론 특화 실리콘이 범용 GPU보다 와트당 성능에서 앞선다는 건 ASIC이 여러 번 되풀이해 증명했다.

진짜 자산은 ‘2개월 만에 다시 굽는’ 공정이다

한 모델짜리 칩은 그 자체로는 사업이 안 된다. 모델은 몇 달마다 바뀌는데 실리콘은 고정이니까. Taalas가 실제로 판 자산은 HC1이 아니라 그 뒤의 공정이다 — 처음 보는 모델을 받아서 2개월 만에 전용 실리콘으로 만들어낸다고 주장하는, 모델을 입력하면 칩이 나오는 파이프라인. 이게 사실이라면 “모델이 바뀌면 칩이 못 쫓아간다”는 반론이 상당 부분 무너진다. 프론티어 모델의 세대교체가 대략 반년 주기라면, 2개월 공정은 그 주기 안에 들어온다.

고정성의 완충 장치도 조금은 있다. HC1은 컨텍스트 윈도우 조정과 LoRA 파인튜닝을 지원한다 — 뼈대는 실리콘에 굳어 있지만, 그 위에 얇은 적응층은 얹을 수 있다는 얘기다. 그리고 차세대 플랫폼 HC2는 아예 프론티어급 LLM을 통째로 실리콘화하는 게 목표다. 로직과 메모리를 여러 칩으로 나눠 담는 테라바이트급 구성으로, 배포 목표는 2026년 겨울. 8B 데모와 프론티어 모델 사이의 수백 배 크기 간극을 멀티칩으로 건너겠다는 건데, 이 물건은 아직 존재하지 않는다. 그건 분명히 해두자.

AMD가 잡은 포지셔닝을 보면 서사는 더 담백해진다. 보도자료의 프레임은 “NVIDIA 타도”가 아니라 자사 풀스택의 보완이다 — Helios 랙스케일, Instinct GPU, EPYC, ROCm 옆에 추론 특화 실리콘을 한 칸 추가하는 그림. 훈련은 범용 GPU가 하고, 추론은 갈수록 전용 하드웨어로 분화한다 — AMD는 이 업계 방향에 명시적으로 베팅했고, 이 인수의 실제 크기는 그 베팅에 있다.

’내 PC의 프론티어 모델’이라는 상상은 어디까지 진짜인가

이 뉴스를 보면 누구나 한 번쯤 하게 되는 상상이 있다. RTX 5090을 사듯 “Fable 5 Edition” 카드를 사서 PC에 꽂는 미래. API 요금 없고, 코드가 외부로 안 나가고, 답변은 거의 즉시 쏟아지는. 실제로 커뮤니티의 반응도 대체로 이 상상 위에서 달아올랐다.

상상의 뿌리부터 보는 게 순서다. 사람들이 열광한 건 초당 17,000토큰이라는 숫자가 아니라 프론티어 지능을 소유한다는 감각이다. 출력 백만 토큰에 50달러짜리 모델을 쓸 때마다 미터기가 돌아가는 피로, 회사 코드를 남의 서버에 보내는 찜찜함, 그 두 개가 해소되는 그림에 반응했다. 이 수요는 진짜고, 하드웨어가 아니라도 누군가는 채우게 되어 있다.

다만 “Fable 5 Edition” 그대로는 성립하지 않는다. 걸림돌이 세 개다.

크기. HC1이 증명한 건 8B다. 프론티어 모델은 그 수백 배고, HC2의 멀티칩 접근이 그 간극을 건너는 첫 시도다. 카드 한 장은커녕 랙 하나에 들어가는지부터 겨울에 확인해야 한다.

갱신 주기. 2개월 공정이 반년 모델 주기를 쫓아간다 쳐도, 소비자가 산 카드는 그 시점의 모델에 영원히 묶인다. 산 지 반년 만에 구세대 지능이 되는 50만 원짜리 하드웨어를 반복 구매할 시장이 있는가 — 이건 기술이 아니라 상품 기획의 문제고, 아직 아무도 답을 증명 못 했다.

가중치. 제일 근본적인 걸림돌이다. 폐쇄 모델의 가중치를 실리콘에 새겨 소비자에게 판다는 건, 가중치를 물리 매체에 담아 유통한다는 뜻이다. 프론티어 랩 입장에서 이건 라이선스 계약이 아니라 가중치 유출이다. Anthropic이든 OpenAI든 자사 최상위 모델로 이걸 할 이유가 없다.

그래서 현실적인 경로는 하나로 좁혀진다. 오픈웨이트다. 가중치가 이미 공개된 모델은 굽는 데 아무 허락이 필요 없고, 오픈웨이트 프론티어가 폐쇄 프론티어를 대략 반년 격차로 쫓아온다는 건 Epoch AI 계열 추정에서 반복 확인된 간격이다. “Fable 5 Edition”은 안 나와도 “그 시점 최강 오픈웨이트 Edition”은 상품으로 성립한다 — 반년 늦은 프론티어급 지능을 정액으로, 로컬에서, 미친 속도로. 상상에서 고유명사만 갈아 끼우면 꽤 그럴듯한 로드맵이 된다.

개발자에게 실제로 달라지는 것

당장 살 수 있는 물건은 없다. 그래도 미리 바꿔둘 전제는 있다.

추론 가격 곡선이 또 한 번 꺾인다는 쪽에 서라. 배칭, 양자화, 캐싱, 추론 전용 칩 — 지난 2년의 추론 비용 하락은 전부 “실어 나르기를 줄이는” 기법의 누적이었고, 가중치 실리콘화는 그 방향의 끝점이다. 지금 비싸서 못 하는 설계 — 산출물마다 붙이는 상시 검증 에이전트, 병렬 멀티에이전트 리뷰, 전 코드베이스 상시 인덱싱 — 를 “지능이 지금의 10분의 1 가격이면 기본값”이라는 전제로 백로그에 올려둘 때다. 비싸서 접은 설계를 버리지 말고 가격표만 미래형으로 바꿔서 보관하라는 얘기다.

모델 종속 자산을 최소화하라는 교훈이 하드웨어에서 한 번 더 확인됐다. 가중치를 실리콘에 새기는 순간 모델 교체는 하드웨어 교체가 된다 — Taalas는 그 비용을 2개월 공정으로 흡수하는 도박을 하는 중이다. 소프트웨어 쪽은 같은 문제를 훨씬 싸게 풀 수 있다. 프롬프트와 하네스는 모델이 바뀌면 감가상각되는 자산이고, 살아남는 건 eval과 스펙이라는 결론은 #44에서 정리한 그대로다. 칩에 모델을 굽는 회사조차 핵심 자산은 “새 모델을 빨리 다시 굽는 능력”에 둔다. 그게 방증이다.

지켜볼 것은 두 개다. 하나, 2026년 겨울로 예고된 HC2 — 프론티어급 모델이 실제로 실리콘에 담겨 나오는지, 나온다면 몇 장의 칩과 몇 kW로 나오는지. 둘, 첫 오픈웨이트 전용 칩 상품 — Llama든 Qwen이든 DeepSeek든, 특정 오픈웨이트 모델의 이름을 달고 나오는 첫 추론 카드가 등장하는 순간이 “AI 칩 뭐 쓰세요”라는 질문이 시작되는 시점이다.

남는 것

  • AMD가 산 건 “모델을 받아 2개월 만에 실리콘으로 만드는 공정”이다. 초당 17,000토큰은 그 공정의 데모일 뿐이고, 추론이 범용 GPU에서 전용 하드웨어로 분화한다는 방향에 건 베팅이 이 인수의 본체다.
  • HC1의 물리학은 진짜다 — 가중치를 회로로 만들면 메모리 벽이 사라진다. 다만 48배·20배·10배는 전부 자사 발표고, 비교 조건도 자사에 유리하다. 독립 벤치마크가 나올 때까지 숫자는 방향으로만 읽을 것.
  • “프론티어 모델 가정용 카드”는 폐쇄 모델에선 성립하지 않는다 — 가중치를 실리콘에 담아 파는 건 랩 입장에서 유출이다. 성립하는 건 오픈웨이트 전용 칩이고, 반년 격차의 프론티어급 지능을 정액·로컬로 파는 상품은 상상이 아니라 로드맵이다.
  • 사람들이 반응한 건 소유다. 속도는 그다음이다. API 미터기와 데이터 반출에 대한 피로는 실재하는 수요고, 이 수요는 하드웨어든 다른 형태든 누군가 채운다.
  • 개발자가 지금 할 일은 관전이 아니라 전제 교체다. “지능이 10분의 1 가격이면 기본값이 되는 설계”를 백로그에 올려두고, 모델 종속 자산은 계속 얇게 유지할 것.

Taalas의 창업자는 Tenstorrent를 공동 창업했던 Ljubisa Bajic다. 범용 AI 칩을 만들던 사람이 범용성을 통째로 버리는 회사를 차렸고, 그 회사를 GPU 회사가 샀다. 추론의 다음 10년이 어느 쪽으로 기우는지에 대한 힌트로 이만한 게 없다.


참고: AMD 보도자료 — Taalas 인수 (2026-08-06), Taalas — The path to ubiquitous AI (2개월 공정·HC2 계획 원문), CNBC, The Register, Forbes — Taalas HC1 런칭, CNX Software — HC1 스펙 (17,000토큰/초·6nm·815mm²), ITdaily (B200 대비 28배 보도 — 매체별 배수 차이의 예). 성능·비용·전력 수치는 모두 Taalas 자사 발표 기준이며 독립 검증 전이다(2026-08-09 조회). 모델 교체 생존 전략은 #44, 추론 비용과 프롬프트 설계의 관계는 #48 참고. 이 글은 투자 조언이 아니다.