AMD가 AI 칩 스타트업 탈라스(Taalas)를 인수하며 인공지능(AI) 하드웨어 시장에서 엔비디아(Nvidia)와의 경쟁에 새로운 전략을 도입했습니다. 탈라스는 모델 가중치를 실리콘에 직접 새기는 독특한 기술을 보유하고 있으며, 이를 통해 기존 GPU 대비 압도적으로 빠른 추론(inference) 속도를 구현합니다. 이번 인수는 AMD가 고성능 추론 시장에서 입지를 강화하고, AI 에이전트와 같은 실시간 응답이 중요한 서비스의 비용 효율성을 높이는 데 기여할 것으로 보입니다.
탈라스의 핵심 기술은 모델 전용 집적회로(MSIC)에 있습니다. 이 칩은 모델 가중치를 마스크 롬(mask-ROM) 리콜 패브릭에 직접 새기고, KV 캐시(KV cache)와 미세조정(fine-tuning) 어댑터는 SRAM 리콜 패브릭에 저장합니다. 2026년 2월 공개된 첫 시험 칩 HC1은 TSMC 6nm 공정으로 제작되었으며, 메타(Meta)의 라마 3.1(Llama 3.1) 8B 모델을 초당 16,960토큰으로 처리해 발표 당시 엔비디아 GPU보다 48배, 세레브라스(Cerebras) 가속기보다 8.5배 빠른 성능을 보였습니다. 2세대 HC2는 칩당 200억 파라미터(parameter)를 목표로 하며, 50개의 가속기로 1조 파라미터 모델을 지원할 수 있어 대규모 모델 확장성도 갖췄습니다. AMD는 이 기술을 자사의 인스팅트(Instinct) 기반 헬리오스(Helios) 랙과 결합해 GPU는 연산량이 많은 프롬프트 처리를, 탈라스 기반 가속기는 토큰 생성을 담당하는 분리형 아키텍처를 구상 중입니다.
이 기술은 모델이 실리콘에 고정된다는 제약이 있지만, 토큰당 비용을 획기적으로 낮추고 출력 속도를 10~20배 높일 수 있다는 점에서 큰 의미를 가집니다. 이는 모델 개발사들이 추론 시간을 더 길게 확장하는 '테스트 시간 스케일링(test-time scaling)'을 활용할 수 있게 하여, 더 정교하고 복잡한 AI 작업을 저렴하고 빠르게 수행할 수 있도록 돕습니다. 예를 들어, 고객 피드백 분류나 코드 도우미와 같은 AI 에이전트 서비스에서 빠른 응답 속도와 비용 효율성은 사용자 경험과 서비스 운영에 결정적인 영향을 미칩니다. AMD는 이번 인수를 통해 AI 작업별로 최적화된 연산 수단을 제공하는 풀스택 AI 플랫폼을 구축하고, 엔비디아가 장악한 AI 하드웨어 시장에서 강력한 경쟁자로 부상할 것으로 기대됩니다.