스테이블코인 발행사로 잘 알려진 테더(Tether)가 인공지능(AI) 분야로 사업 확장을 선언하며, 마이크로소프트(Microsoft)가 개발한 혁신적인 경량 대규모 언어모델(LLM)인 비트넷 b1.58(BitNet b1.58)을 활용한 온디바이스 AI(On-device AI) 개발에 나섭니다. 이는 AI 모델을 클라우드 서버가 아닌 스마트폰, 태블릿 등 개인 기기에서 직접 구동하려는 움직임으로, 테더는 이 기술을 통해 AI의 접근성을 높이고 새로운 사용 사례를 창출하겠다는 목표를 제시했습니다.
비트넷 b1.58은 기존 LLM들이 16비트 또는 32비트의 부동소수점 연산을 사용하는 것과 달리, 1.58비트라는 극도로 낮은 정밀도로 연산을 수행하는 것이 특징입니다. 이로 인해 모델의 크기가 획기적으로 줄어들고, 필요한 메모리 및 전력 소비량 또한 대폭 감소합니다. 예를 들어, 130억 개 매개변수(parameter)를 가진 비트넷 b1.58 모델은 동급의 기존 LLM보다 훨씬 적은 컴퓨팅 자원으로도 유사한 성능을 낼 수 있어, 저사양 기기에서도 AI를 효율적으로 실행할 수 있는 잠재력을 가집니다. 테더는 이러한 비트넷의 장점을 활용해 엣지(edge) 환경에서의 AI 모델 배포 및 활용을 가속화할 계획입니다.
이번 테더의 비트넷 b1.58 활용은 온디바이스 AI 시대를 앞당기는 중요한 전환점이 될 수 있습니다. 기기 내에서 직접 AI가 작동하면 데이터 프라이버시가 강화되고, 네트워크 지연 없이 즉각적인 응답이 가능해지며, 클라우드 비용 절감 효과도 기대할 수 있습니다. 이는 AI 기술이 특정 기업의 서버에 종속되지 않고 개인의 일상생활 속으로 더욱 깊숙이 파고드는 계기가 될 것이며, 스마트폰, 웨어러블 기기, IoT 장치 등 다양한 엣지 기기에서 개인화된 AI 경험을 제공하는 새로운 서비스와 애플리케이션의 등장을 촉진할 것으로 보입니다.