레이올라이(Leiolai)가 사용자 스마트폰의 유휴 컴퓨팅 자원을 활용해 AI 추론(inference)을 수행하고, 그 대가로 사용자에게 보상을 지급하는 혁신적인 플랫폼을 선보였습니다. 이는 기존의 중앙 집중식 데이터센터 대신 개인 기기의 분산 컴퓨팅 파워를 활용하는 방식으로, 환경 보호와 비용 절감이라는 두 마리 토끼를 잡으려는 시도로 주목받고 있습니다.
레이올라이는 아이폰과 안드로이드 앱으로 무료로 제공되며, 사용자는 신용카드 정보 없이도 앱을 설치해 컴퓨팅 자원을 제공하고 수익을 얻을 수 있습니다. 특히, 레이올라이-1 모델은 1,100만 토큰의 긴 컨텍스트 윈도우(context window)를 지원하며, 개발자들은 오픈AI(OpenAI) 호환 API를 통해 입력 토큰 100만 개당 0.01달러, 출력 토큰 100만 개당 0.02달러라는 매우 저렴한 비용으로 이용할 수 있습니다. 이는 연속 생성(continuous generation)을 지원하며 출력 길이 제한이 없다는 장점도 있습니다.
이러한 접근 방식은 AI 서비스 제공 비용을 획기적으로 낮출 잠재력을 가집니다. 데이터센터 운영에 막대한 전력과 냉각수가 소모되는 점을 고려할 때, 레이올라이는 물 절약에도 기여할 수 있습니다. 또한, 일반 사용자가 자신의 기여로 직접 수익을 얻는 모델은 AI 기술 접근성을 높이고, 분산 컴퓨팅 생태계를 활성화하는 중요한 전환점이 될 수 있습니다. 이는 AI 인프라 구축의 새로운 패러다임을 제시하며, 개인 기기가 단순한 소비재를 넘어 AI 시대의 핵심 생산 자원으로 거듭날 가능성을 보여줍니다.