최근 '아마누엔시스(Amanuensis)'라는 흥미로운 오픈소스 프로젝트가 공개되어 AI 기반 소셜 미디어 콘텐츠 생성의 새로운 방향을 제시하고 있습니다. 이 프로젝트는 AI 페르소나가 마스토돈(Mastodon)과 블루스카이(Bluesky) 같은 소셜 미디어에 글을 올리되, 사실을 왜곡하거나 지어내지 않도록 설계된 '로컬-퍼스트(local-first)' 시스템입니다. 모든 콘텐츠는 발행 전 반드시 사람의 검토와 승인을 거치도록 함으로써 AI의 고질적인 환각(hallucination) 문제를 효과적으로 제어합니다.
아마누엔시스는 로컬 GPU 머신에서 모든 작업을 수행하며, 외부 클라우드 대규모 언어모델(LLM) 호출 없이 운영됩니다. 텍스트 생성에는 LMStudio를 통해 미스트랄-7B-인스트럭트(Mistral-7B-Instruct)와 같은 모델을 사용하고, 이미지 생성에는 스웜UI(SwarmUI)와 커스텀 로라(LoRA)를 활용합니다. 특히, AI가 기술적 세부 사항을 지어내는 것을 막기 위해 사실 기반의 소스 요약, LLM 판단 전의 결정론적 정리, LLM 검증 전 정규식(regex) 사전 필터링, 제목만 기억하는 메모리 방식 등 여러 장치를 도입했습니다. 사용자는 텔레그램(Telegram)을 통해 AI가 생성한 게시물을 검토하고, 승인하거나, 재생성하거나, 취소할 수 있습니다.
이 프로젝트는 AI가 단순히 텍스트를 생성하는 것을 넘어, 신뢰할 수 있는 정보만을 기반으로 소셜 미디어 페르소나를 운영할 수 있음을 보여줍니다. 이는 AI가 생성하는 정보의 신뢰성 문제로 고민하는 많은 콘텐츠 제작자나 기업에 중요한 시사점을 제공합니다. 또한, 모든 과정이 로컬 환경에서 이루어지므로 데이터 프라이버시 측면에서도 강점을 가집니다. 1인 개발자나 소규모 팀이 자체적인 AI 페르소나를 구축하고 운영할 수 있는 실질적인 방법을 제시하며, AI 기반 콘텐츠 자동화의 새로운 가능성을 열었습니다.