오픈AI(OpenAI)가 챗GPT(ChatGPT) 사용자를 프롬프트 주입(prompt injection) 공격으로부터 보호하기 위한 새로운 기능인 '록다운 모드(Lockdown Mode)'를 공개했습니다. 이 모드는 악의적인 챗봇 지침이 웹페이지나 기타 콘텐츠 소스에 숨겨져 사용자 의도와 다른 동작을 유도하는 공격에 대응하기 위해 설계되었습니다. 록다운 모드는 민감한 정보가 유출될 위험을 줄이는 것을 목표로 합니다.
록다운 모드가 활성화되면 챗GPT의 일부 핵심 기능이 제한됩니다. 예를 들어, 라이브 웹 브라우징 기능이 비활성화되어 캐시된 콘텐츠만 접근할 수 있게 됩니다. 또한, 웹에서 이미지를 검색하고 표시하는 기능(이미지 생성은 가능)과 심층 연구, 에이전트 모드 등도 제한됩니다. 오픈AI는 이러한 제한에도 불구하고 캐시된 웹 콘텐츠나 업로드된 파일에 숨겨진 프롬프트 주입 공격에 여전히 취약할 수 있다고 인정하며, 이 모드의 목적은 민감 데이터가 공유될 가능성을 줄이는 것이라고 설명했습니다. 현재 록다운 모드는 셀프 서비스 챗GPT 비즈니스(Business) 계정과 일부 개인 계정에 순차적으로 적용되고 있습니다.
이번 록다운 모드 출시는 인공지능(AI) 서비스의 보안 강화에 대한 오픈AI의 노력을 보여줍니다. 특히 기업 환경에서 챗GPT를 활용하는 경우, 민감한 고객 정보나 기업 기밀이 프롬프트 주입 공격으로 인해 유출될 위험은 심각한 문제가 될 수 있습니다. 록다운 모드는 이러한 위험을 완전히 제거하지는 못하지만, 잠재적인 데이터 유출 경로를 줄임으로써 기업과 개인이 AI 도구를 더욱 안전하게 사용할 수 있도록 돕는 중요한 단계입니다. 이는 AI 기술의 발전과 함께 보안 위협에 대한 지속적인 대응이 필수적임을 시사합니다.