엔비디아(Nvidia)가 주도하는 '오픈 보안 AI 동맹(Open Secure AI Alliance, OSAA)'이 출범 일주일 만에 AI 보안 강화를 위한 구체적인 움직임을 보이고 있습니다. 120개 이상의 기업이 참여한 이 동맹은 '공유 AI 발견 교환(Shared AI Findings Exchange, SAFE)'이라는 워킹 그룹을 통해 AI 사이버 보안 사고 보고 및 분석에 대한 초기 제안을 공개했습니다.
이번 제안은 사이버 보안 콘퍼런스인 블랙햇(Black Hat)에서 발표되었으며, AI 보안 사고를 기밀로 보고하고, 피해자에게 알리며, 비난 없는 분석을 통해 모두가 교훈을 얻을 수 있는 방안을 다룹니다. OSAA 회원사들은 엔비디아의 오픈 모델 및 LLM 취약점 스캐너 '가락(Garak)', 오크타(Okta)의 에이전트 신원 기술, 레드햇(Red Hat)의 에이전트 거버넌스, 아마존(Amazon)의 에이전트 구축 도구 '스트랜즈 에이전트(Strands Agents)'와 권한 부여 언어 '시다(Cedar)' 등 자체 오픈소스 기술을 공유하고 있습니다. 어도비(Adobe), 블랙록(BlackRock), 시스코(Cisco), 인텔(Intel), 마이크로소프트(Microsoft), 비자(Visa) 등 주요 기업들이 참여하고 있지만, 앤트로픽(Anthropic), 오픈AI(OpenAI), 구글(Google) 등 일부 주요 AI 기업은 아직 합류하지 않았습니다.
OSAA의 이러한 빠른 행보는 AI 안전과 보안에 대한 업계의 공동 대응 의지를 보여줍니다. 특히, 오픈소스 AI 모델에 대한 규제 논의가 활발한 시점에서, 개방성을 통해 AI 위협에 효과적으로 대응하려는 움직임은 주목할 만합니다. 이는 궁극적으로 기업들이 AI 에이전트를 안전하게 운영하고 악성 AI 공격에 방어할 수 있는 오픈소스 수단을 마련하는 데 기여할 것으로 보입니다. AI 생태계의 개방성과 보안을 동시에 추구하는 이러한 노력은 AI 기술의 건전한 발전을 위한 중요한 기반이 될 것입니다.