이스라엘의 스타트업 이레귤러(Irregular)가 오픈AI(OpenAI), 앤트로픽(Anthropic), 메타(Meta)와 같은 선도적인 인공지능(AI) 기업들의 모델을 무단으로 해킹하여 활용했다는 충격적인 보고서가 나왔습니다. 이레귤러는 이들 AI 모델의 취약점을 파고들어 민감한 데이터를 추출하고, 이를 자사의 제품 개발에 불법적으로 사용하려 했다는 의혹을 받고 있습니다. 이는 AI 기술의 윤리적 사용과 보안 문제에 대한 심각한 경고등을 켜는 사건입니다.
이번 의혹은 이레귤러가 AI 모델의 보호 장치를 우회하고, 대규모 언어모델(LLM)이 학습한 데이터를 역으로 추출하는 방식으로 정보를 얻었다는 내용을 포함합니다. 특히, 이들은 AI 모델이 특정 질문에 대해 민감한 정보를 노출하도록 유도하는 프롬프트 인젝션(prompt injection)과 같은 기술을 사용한 것으로 알려졌습니다. 이러한 방식으로 얻은 데이터는 이레귤러의 자체 AI 제품 개발에 활용되거나, 경쟁 우위를 확보하는 데 사용될 수 있었을 것으로 추정됩니다. 현재 관련 기업들은 조사를 진행 중이며, 이레귤러 측은 아직 공식적인 입장을 밝히지 않고 있습니다.
이번 사건은 AI 산업 전반에 걸쳐 보안과 윤리적 책임에 대한 논의를 촉발할 것으로 보입니다. AI 모델의 취약점을 악용하는 행위는 기술 발전의 신뢰성을 저해하고, 사용자 데이터 보호에 심각한 위협이 될 수 있습니다. 또한, 스타트업들이 경쟁에서 우위를 점하기 위해 비윤리적인 방법을 동원할 수 있다는 우려를 낳으며, AI 개발 및 활용에 대한 더욱 엄격한 규제와 자율적인 가이드라인 마련의 필요성을 강조하고 있습니다. 앞으로 AI 기업들은 모델 보안 강화와 함께, 윤리적 해킹 방지 및 책임 있는 AI 개발 문화 정착에 더욱 힘써야 할 것입니다.