최근 한 사용자가 마이크로소프트의 새로운 코파일럿+(Copilot+) 기능이 없는 RTX 스파크(Spark) 노트북에서, 로컬 대규모 언어모델(LLM)을 활용해 코파일럿+와 유사한 기능을 직접 구현하는 데 성공했습니다. 이는 클라우드 기반 AI 서비스에 대한 의존도를 넘어, 개인 기기 내에서 AI를 활용해 맞춤형 생산성 도구를 만들 수 있음을 보여주는 사례입니다.
해당 사용자는 자신의 노트북에 코파일럿+의 핵심 기능인 '리콜(Recall)'과 같은 기능을 원했지만, 공식 지원을 받지 못했습니다. 이에 그는 로컬에서 실행되는 LLM에 단 한 문장의 프롬프트(prompt)를 입력하여, 화면 활동을 기록하고 검색할 수 있는 스크립트를 생성하도록 지시했습니다. 놀랍게도 LLM은 파이썬(Python) 스크립트를 즉시 생성했고, 이 스크립트는 사용자의 의도대로 작동하여 코파일럿+의 일부 기능을 대체할 수 있었습니다. 이는 사용자가 직접 AI를 활용해 자신의 필요에 맞는 도구를 즉석에서 개발할 수 있다는 것을 의미합니다.
이번 사례는 클라우드 기반 AI 서비스가 제공하는 편리함과 더불어, 로컬 AI의 강력한 잠재력을 동시에 보여줍니다. 특히, 사용자가 특정 기능을 기다리거나 구독할 필요 없이, 자신의 기기에서 직접 AI를 활용해 문제를 해결하고 생산성을 높일 수 있다는 점에서 의미가 큽니다. 이는 AI 기술이 중앙 집중식 서비스 제공을 넘어, 개인화되고 분산된 형태로 발전할 수 있음을 시사하며, 개발자나 일반 사용자 모두에게 새로운 가능성을 열어줄 것으로 기대됩니다.