하버드 중퇴생 3명이 설립한 AI 칩 스타트업 에치드(Etched)가 최근 3억 달러(약 4,100억 원) 규모의 시리즈 C 투자를 유치하며 103억 달러(약 14조 원)의 기업 가치를 달성했습니다. 이는 불과 7개월 만에 기업 가치가 두 배로 뛴 것으로, 세쿼이아(Sequoia)가 투자를 주도하고 안드레센 호로위츠(Andreessen Horowitz), SK 하이닉스(SK Hynix) 등 유수의 투자자들이 참여했습니다. 에치드는 이미 10억 달러(약 1조 3,700억 원) 규모의 주문을 확보했으며, 첫 시스템이 고객사 테스트 중이라고 밝혔습니다.
에치드는 트랜스포머(transformer) 아키텍처 기반의 AI 모델에 특화된 칩을 개발한다는 아이디어가 처음에는 회의적 시선을 받았다고 말합니다. 하지만 에치드의 공동 창업자이자 COO인 로버트 와첸(Robert Wachen)은 자사 시스템이 특정 대규모 언어모델(LLM)에만 국한되지 않고, Mixture of Experts(MoE) 모델이나 맘바(Mamba)와 같은 비트랜스포머(non-transformer) 모델을 포함한 모든 AI 모델을 실행할 수 있다고 설명합니다. 에치드의 핵심 기술은 추론(inference) 과정을 가속화하기 위해 두 가지 새로운 구성 요소를 설계한 것입니다. 첫 번째는 프롬프트 이해 단계인 '프리필(prefill)' 칩으로, 기존 AI 칩보다 훨씬 낮은 전압에서 작동하여 발열을 줄이고 더 많은 트랜지스터를 집적할 수 있습니다. 두 번째는 출력 생성 단계인 '디코드(decode)'를 위한 새로운 유형의 메모리 및 상호 연결 기술인 '클러스터 스케일 메모리(cluster-scale memory)'로, 여러 칩이 공유 메모리 풀을 매우 빠르고 낮은 지연 시간으로 사용할 수 있게 합니다. 이를 통해 에치드는 높은 속도와 낮은 비용을 동시에 제공한다고 약속합니다.
에치드의 성공적인 투자 유치와 빠른 기업 가치 상승은 엔비디아(Nvidia)가 지배하는 AI 칩 시장에 새로운 경쟁 구도를 형성할 가능성을 보여줍니다. 특히, GPU 없이도 AI 추론 성능을 크게 향상시킬 수 있다는 주장은 AI 개발 및 운영 비용 절감에 대한 기업들의 니즈를 충족시킬 수 있습니다. 이는 AI 기술의 상업적 활용을 더욱 가속화하고, 다양한 산업 분야에서 AI 도입을 촉진하는 계기가 될 수 있습니다. 에치드의 기술이 대규모 AI 모델의 효율적인 배포에 기여한다면, AI 서비스의 대중화에도 긍정적인 영향을 미칠 것으로 기대됩니다.