오픈 가중치 파운데이션 모델(Open-Weight Foundation Models, OWFM)의 급증은 AI 커뮤니티가 효과적인 다운스트림 거버넌스 전략을 재평가하도록 촉구하고 있습니다. 최근 발표된 한 연구에 따르면, 모델 저장소에서 투명성 도구로 널리 사용되는 모델 카드(model cards)가 OWFM이 야기하는 고유한 안전성 문제를 다운스트림 개발자와 사용자에게 충분히 전달하지 못하고 있다고 지적했습니다.
이 연구는 허깅페이스(Hugging Face)에 호스팅된 500개의 모델 카드를 분석하여 현재 규제 방식에 안전성 격차(safety gap)가 존재함을 밝혀냈습니다. 특히 모델의 계보(heritage), 정렬 출처(alignment provenance), 그리고 경험적으로 관찰된 행동 등 안전에 중요한 정보가 부족하다는 점을 강조했습니다. 연구진은 표준 오픈소스 라이선스(OSL) 역시 OWFM에 적합하지 않으며, 허용 가능한 사용 정책(Acceptable Use Policies, AUPs)의 강제력을 약화시킬 수 있다고 주장합니다.
따라서 OWFM의 효과적인 거버넌스를 위해서는 모델 카드, AUP, 라이선스를 통합하는 다층적인 접근 방식이 필요하다는 결론을 내렸습니다. 이는 정보적, 규범적, 법적 차원을 일관성 있게 통합하는 포괄적인 거버넌스 프레임워크를 가능하게 하여, 오픈소스 AI 모델의 잠재적 위험을 줄이고 책임감 있는 개발 및 배포를 촉진하는 데 기여할 것으로 기대됩니다.