조지아텍(Georgia Tech) 연구진이 대규모 언어모델(LLM) 훈련 과정에서 발생하는 고질적인 문제인 광학 인터커넥트(optical interconnect) 지연 현상을 강유전체(ferroelectric) 물질을 활용해 효과적으로 줄이는 새로운 방법을 발표했습니다. 이는 AI 칩 간 데이터 전송 효율을 극대화하여 LLM 훈련 속도를 획기적으로 향상시킬 수 있는 중요한 진전으로 평가받고 있습니다.
현재 LLM 훈련은 수많은 AI 가속기 칩들이 서로 데이터를 주고받으며 이루어지는데, 이때 칩 내부 및 칩 간 연결을 담당하는 광학 인터커넥트에서 데이터 병목 현상(data bottleneck)이 자주 발생합니다. 연구진은 강유전체 물질의 전기적 특성을 미세하게 조절(tuning)하여 광학 신호의 변조 속도와 효율을 높이는 데 성공했습니다. 이 기술은 기존 실리콘 포토닉스(silicon photonics) 기반의 광학 인터커넥트의 한계를 극복하고, 더 빠르고 안정적인 데이터 통신을 가능하게 합니다.
이 기술은 AI 모델의 복잡성이 증가하고 훈련 데이터 규모가 기하급수적으로 늘어나는 상황에서 특히 중요합니다. 데이터 전송 지연은 전체 훈련 시간을 늘리고 에너지 소비를 증가시키는 주범으로 지목되어 왔습니다. 강유전체 튜닝 기술은 이러한 병목 현상을 완화함으로써 AI 칩의 활용률을 높이고, 궁극적으로 LLM 개발 및 배포 속도를 가속화하여 AI 산업 전반에 긍정적인 영향을 미칠 것으로 예상됩니다.