최근 해킹 포럼에서 검열되지 않은 인공지능(AI) 모델이 공공연하게 판매되고 있다는 소식이 전해져 보안 업계의 우려가 커지고 있습니다. 이 모델들은 챗GPT(ChatGPT)나 클로드(Claude)와 같은 대규모 언어모델(LLM)에 적용된 안전장치나 윤리적 제약이 제거된 버전으로, 사용자들은 이를 통해 유해하거나 불법적인 콘텐츠를 생성할 수 있습니다.
해당 AI 모델들은 주로 '탈옥(jailbreak)'된 AI의 대안으로 홍보되고 있습니다. 탈옥은 일반 AI 모델의 필터링을 우회하여 부적절한 답변을 유도하는 행위를 의미하는데, 해킹 포럼에서 거래되는 모델들은 아예 처음부터 이러한 제약 없이 설계되었거나 제거된 것으로 보입니다. 판매자들은 이 모델들이 어떠한 질문에도 제한 없이 응답할 수 있다고 주장하며, 주로 암호화폐(cryptocurrency)를 통해 거래가 이루어지고 있습니다. 이는 AI 기술이 범죄 행위에 악용될 수 있는 새로운 경로를 열었다는 점에서 심각한 문제로 인식됩니다.
이러한 검열 없는 AI 모델의 등장은 AI 개발 및 배포에 있어 윤리적 책임과 규제의 필요성을 다시 한번 강조합니다. 안전장치가 없는 AI는 가짜 뉴스 생성, 사기, 악성 코드 개발 등 다양한 사이버 범죄에 활용될 수 있으며, 사회 전반에 걸쳐 혼란과 피해를 야기할 가능성이 큽니다. AI 기술의 발전 속도만큼이나, 기술 오용을 막기 위한 개발자 커뮤니티와 정책 입안자들의 적극적인 노력이 시급해 보입니다.