Doses-AI가 270억 개의 매개변수를 갖춘 삼진법(Ternary) 대규모 언어모델(LLM)인 '페슬-27B-터너리(Pestle-27B-Ternary)'를 허깅페이스(Hugging Face)에 공개했습니다. 이 모델은 기존의 이진법(Binary) 기반 모델들과 달리 삼진법 연산을 도입하여 모델의 효율성을 극대화한 것이 특징입니다. 이는 더 적은 컴퓨팅 자원으로도 복잡한 AI 작업을 수행할 수 있게 해, 개인 사용자나 중소기업도 고성능 AI를 활용할 수 있는 길을 열었다는 점에서 주목할 만합니다.
페슬-27B-터너리는 GGUF(GPT-Generated Unified Format) 형식으로 제공되어, 엔비디아(NVIDIA) GPU뿐만 아니라 애플(Apple) 실리콘 칩 등 다양한 로컬 환경에서 쉽게 실행할 수 있습니다. 삼진법은 0, 1, 2의 세 가지 상태를 사용하여 정보를 표현하는 방식으로, 이진법에 비해 더 많은 정보를 같은 비트(bit) 수로 인코딩할 수 있어 메모리 사용량과 연산량을 줄이는 데 기여합니다. 이는 특히 엣지 디바이스(Edge Device)나 개인용 컴퓨터와 같이 자원이 제한적인 환경에서 대규모 언어모델을 구동할 때 큰 이점으로 작용합니다.
이번 페슬-27B-터너리의 출시는 대규모 언어모델의 접근성을 획기적으로 높이는 중요한 전환점이 될 수 있습니다. 고가의 클라우드 인프라나 최신 GPU 없이도 강력한 AI 모델을 로컬에서 구동할 수 있게 됨으로써, 개발자들은 데이터 프라이버시를 유지하면서도 혁신적인 애플리케이션을 개발할 수 있게 됩니다. 이는 AI 기술의 민주화를 가속화하고, 더 많은 개인과 기업이 AI 혁신에 참여할 수 있는 기반을 마련할 것으로 기대됩니다.