오픈AI(OpenAI)의 최신 대규모 언어모델(LLM)인 '솔(Sol)'이 대중에게 공개되었습니다. 이 모델은 이전에 백악관의 우려로 인해 일시적으로 공개가 금지되었던 앤트로픽(Anthropic)의 '페이블(Fable)'과 동등하거나 그 이상의 성능을 가진 것으로 평가됩니다. 하지만 미국 정부가 솔의 안전성을 어떻게 검증하고 출시를 승인했는지에 대한 구체적인 과정은 여전히 베일에 싸여 있어 논란이 일고 있습니다.
조지타운 대학교 안보신기술센터의 미나 나라야난(Mina Narayanan) 선임 연구 분석가는 정부의 정확한 승인 절차를 알 수 없다고 밝혔습니다. 앤트로픽은 정부와 협의하여 탈옥(jailbreak) 시도를 감지하는 분류기(classifier)를 개발하고 방어 전략을 구현했다고 밝혔지만, 구체적인 대화 내용은 불분명합니다. 전 트럼프 정책 고문이자 현재 오픈AI에서 근무하는 딘 W. 볼(Dean W. Ball)은 지난달 뉴스레터에서 "어떤 요건을 충족해야 라이선스를 얻는지 아무도 모른다"고 언급했으며, 데이터브릭스(Databricks) 공동 창업자인 앤디 콘윈스키(Andy Konwinski) 역시 이 과정을 이해하는 사람을 만나본 적이 없다고 토로했습니다. 백악관은 최첨단 모델 평가 로드맵을 담은 행정명령을 발표했지만, 구체적인 내용은 아직 채워지지 않았으며, AI 전담 규제 기관인 'AI FDA'는 없을 것이라고 알려졌습니다. 오픈AI 샘 알트만(Sam Altman) CEO는 상무부 장관 등 고위 관리들과 대화했다고 밝혔으나, 모델을 테스트한 전문가가 누구이며 어떻게 평가했는지는 명확하지 않습니다.
이러한 불투명한 승인 과정은 AI 산업의 미래에 중요한 영향을 미칠 수 있습니다. 규제 당국과 기업 간의 명확한 소통 채널과 투명한 평가 기준이 부재하면, 특정 기업이 정치적 관계를 통해 유리한 위치를 점할 수 있다는 우려가 제기됩니다. 이는 기술 전문가들이 안전성 및 정렬(alignment) 연구에 충분히 참여하지 못하게 만들고, 혁신과 안전성 사이의 균형을 깨뜨릴 수 있습니다. 콘윈스키는 FDA나 NIH(국립보건원)와 같은 '개방형 공유지(open commons)' 모델을 통해 연구자, 정부 관계자, 민간 기업이 함께 안전성 문제에 대한 합의를 도출해야 한다고 주장합니다. 현재와 같은 불확실한 규제 환경은 장기적으로 AI 기술의 건전한 발전과 대중의 신뢰 확보에 걸림돌이 될 수 있습니다.