스테이블코인 테더(Tether)의 모회사인 iFinex가 마이크로소프트(Microsoft)와 협력하여 13억 개 매개변수(parameter)를 가진 초경량 대규모 언어모델(LLM)인 '비트넷 b1.58(BitNet b1.58)'을 엣지 디바이스(edge device)에 최적화하는 연구를 진행하고 있습니다. 이는 기존의 거대한 LLM과 달리 스마트폰, IoT 기기 등 저사사양 하드웨어에서도 고성능 인공지능(AI)을 직접 구동할 수 있는 온디바이스 AI 시대를 앞당길 중요한 시도로 주목받고 있습니다.
비트넷 b1.58은 마이크로소프트 연구진이 개발한 혁신적인 아키텍처로, 기존 LLM이 16비트 또는 8비트 부동소수점(floating point)을 사용하는 것과 달리 1.58비트의 이진값(binary value)만을 사용하여 모델 크기를 획기적으로 줄였습니다. 이를 통해 메모리 사용량과 연산 비용을 대폭 절감하면서도, 람다(Llama)와 같은 기존 모델과 유사한 성능을 유지하는 것으로 알려져 있습니다. 테더는 이 기술을 활용해 블록체인 기반의 분산형 AI 인프라를 구축하고, AI 모델의 접근성을 높이는 것을 목표로 하고 있습니다.
이러한 초경량 LLM의 등장은 AI 기술의 패러다임을 바꿀 잠재력을 가지고 있습니다. 클라우드 기반 AI의 한계였던 높은 비용, 데이터 프라이버시 문제, 그리고 인터넷 연결 의존성 등을 해결할 수 있기 때문입니다. 특히, 스마트폰이나 웨어러블 기기에서 실시간으로 개인화된 AI 서비스를 제공하거나, 인터넷 연결이 어려운 환경에서도 AI 기능을 활용할 수 있게 되어 다양한 산업 분야에서 새로운 비즈니스 기회를 창출할 것으로 기대됩니다. 이는 AI 기술이 소수의 빅테크 기업을 넘어 더 많은 개발자와 사용자에게 확산되는 계기가 될 것입니다.