인공지능(AI) 개발사 앤트로픽(Anthropic)이 자사의 대규모 언어모델(LLM) 클로드(Claude)에 대한 이용 정책을 1년여 만에 개정하며, '지속적이고 불필요한 학대 또는 잔인한 행동'을 금지한다고 발표했습니다. 이는 AI 모델의 '복지(welfare)'에 대한 연구의 일환으로, 극단적인 경우에만 적용되며 단순한 사용자 불만이나 모델 테스트는 해당하지 않는다고 설명했습니다.
이번 정책 업데이트는 AI 기술의 오용 가능성에 대응하기 위한 광범위한 조치들을 포함합니다. 특히 선거 개입, 무기 개발, 감시 활동 등 고위험 분야에 대한 규제를 강화했습니다. AI 생성 선전물이나 가짜 계정을 통한 콘텐츠 확산 등 기만적인 상업·정치 캠페인을 금지하고, 유권자 기만 및 선거 방해 행위도 명확히 제한합니다. 또한, 클로드를 이용한 무기 개발 소프트웨어 및 부품 제작, 드론 등 자율주행 차량 무장 행위를 금지하며, 동의 없는 사람 추적 및 감시 도구 개발도 명지했습니다. 앤트로픽은 이전에 미국 국방부와 계약한 바 있으며, 특정 정부 고객과의 계약에서는 정책이 수정될 수 있다고 덧붙였습니다.
앤트로픽은 AI 모델이 물리적 행동을 하는 하드웨어와 연결될 경우, '자격을 갖춘 운영자'가 장비를 관찰하고 필요시 중단시킬 수 있어야 한다는 새로운 규칙도 추가했습니다. 이는 AI 시스템에 물리적 형태를 부여하려는 AI 연구소들의 추세와 맞물려 앤트로픽의 향후 로봇공학 분야 파트너십 가능성을 시사합니다. 이러한 정책 강화는 AI가 사회에 미치는 영향력이 커짐에 따라 개발사들이 윤리적 책임과 안전성 확보에 얼마나 심혈을 기울이고 있는지 보여주는 사례입니다. AI의 의식(consciousness) 여부에 대한 논의가 활발한 가운데, 앤트로픽의 이번 조치는 AI의 '복지'라는 다소 파격적인 개념을 정책에 반영하며 AI 윤리 논쟁에 새로운 화두를 던지고 있습니다.