최근 '스카우트(Scout)'라는 새로운 자체 호스팅 디스코드(Discord) AI 봇이 공개되어 주목받고 있습니다. 이 봇은 디스코드 음성 채널에 참여하여 대화를 녹음하고, 이를 텍스트로 변환한 뒤 요약하거나 특정 질문에 답변하는 기능을 제공합니다. 가장 큰 특징은 모든 AI 추론(inference)과 데이터 처리가 사용자의 로컬 컴퓨터에서 이루어져 프라이버시(privacy)를 강력하게 보호한다는 점입니다.
스카우트는 Qwen3 8B Instruct 모델을 4비트 양자화(quantization)하여 올라마(Ollama)를 통해 로컬에서 구동됩니다. 사용자가 디스코드 음성 채널에 봇을 초대하면, 봇은 각 참여자의 발언을 분리하여 전사하고, 이 데이터를 바탕으로 대화 요약이나 질문 답변을 생성합니다. 특히, 녹음된 오디오와 원본 전사본은 안전하게 압축된 후 삭제되며, 요약된 핵심 메모리만 일정 기간(기본 30일) 보관됩니다. 모든 과정이 외부 AI 서비스에 데이터를 전송하지 않고 사용자 PC 내에서만 이루어지므로, 민감한 대화 내용도 안심하고 사용할 수 있습니다.
이러한 로컬 AI 메모리 봇은 온라인 회의나 스터디 그룹 등 디스코드 음성 채널을 활발히 사용하는 사용자들에게 매우 유용할 것으로 보입니다. 놓친 대화 내용을 빠르게 파악하거나, 중요한 논의 사항을 요약하여 회의록처럼 활용할 수 있기 때문입니다. 또한, 데이터 프라이버시가 중요한 기업이나 개인 사용자에게도 매력적인 대안이 될 수 있습니다. 모든 AI 처리와 데이터 저장이 로컬에서 이루어지기 때문에, 외부 클라우드 서비스 이용 시 발생할 수 있는 데이터 유출이나 보안 문제에서 자유롭다는 큰 장점을 가집니다.