오픈AI(OpenAI)가 자체 개발한 대규모 언어모델(LLM)을 이용해 첫 인공지능(AI) 가속기 칩인 '할라페뇨(Jalapeño)'의 설계를 가속화했다고 발표했습니다. 초기 아키텍처 구상부터 첫 실리콘 생산까지 20개월 미만, 그리고 레지스터 전송 수준(RTL) 코드 작성부터 제조용 설계 확정(테이프아웃)까지는 단 9개월이 소요되는 놀라운 속도를 보여주었습니다. 이는 AI가 복잡한 하드웨어 설계 과정에서도 효율성을 극대화할 수 있음을 입증하는 중요한 사례로 평가됩니다.
할라페뇨 칩은 4비트 연산 성능 최대 13.4페타플롭스(PetaFLOPS)에 232GB 메모리, 초당 15.4TB의 대역폭을 자랑합니다. 특히 엔비디아(Nvidia) GB300 대비 프롬프트 입력부터 마지막 토큰 출력까지의 지연 시간을 최대 3.6배 단축하고 전력 소비도 줄이는 성능을 보였습니다. 오픈AI는 구글(Google)에서 시작된 오픈소스 고수준 합성 도구 모음인 XLS(Accelerated Hardware Synthesis)를 프런트엔드 작업 흐름의 중심에 두어, 엔지니어가 익숙한 프로그래밍 환경에서 설계를 작성하고 LLM이 이를 하드웨어 기술 언어(Verilog)로 변환하도록 했습니다. 이 과정에서 내부 AI 모델로 딥시크(DeepSeek) 어텐션 커널을 최적화한 결과, 약 40시간 만에 이론적 성능 한계 달성률이 0.31%에서 88.94%로 급상승하는 성과를 거두었습니다. 오픈AI는 이 프로젝트에 평균 100명 미만의 소규모 팀을 투입했으며, 브로드컴(Broadcom)이 물리 설계와 생산을 담당하는 협력 모델을 통해 빠른 개발 속도를 달성했습니다.
이번 할라페뇨 칩 개발은 AI가 단순한 소프트웨어 개발을 넘어 하드웨어 설계라는 복잡하고 전문적인 영역에서도 혁신적인 도구로 활용될 수 있음을 보여줍니다. 특히 LLM의 언어 및 코드 처리 능력이 칩 설계의 초기 단계인 프런트엔드 작업에 효과적으로 적용될 수 있음을 입증했습니다. 이는 향후 칩 설계 프로세스의 자동화 및 효율성 향상에 큰 영향을 미칠 것으로 예상됩니다. 오픈AI는 차세대 설계에서는 검증과 물리 설계 등 더 많은 영역에 AI 활용을 확대할 계획이지만, 엔지니어가 작업을 주도하고 최종 판단을 내리는 원칙은 유지하며 완전 자동화보다는 엔지니어의 역량을 강화하는 방향으로 나아갈 것임을 밝혔습니다. 이는 AI가 인간의 역할을 대체하기보다 보조하고 확장하는 강력한 도구로서의 잠재력을 시사합니다.