인공지능(AI) 안전성 연구 분야의 주요 기업인 아스트라(Astra)와 페이블(Fable)이 2025년에 사용되던 방식과 크게 다르지 않은 단순한 정렬(alignment) 평가 방법론에 머물러 있다는 지적이 나왔습니다. AI 시스템의 복잡성과 능력은 빠르게 발전하고 있지만, 이를 평가하고 인간의 가치에 부합하도록 만드는 정렬 연구는 상대적으로 더디게 진행되고 있다는 비판적 시각을 보여줍니다.
이러한 비판은 AI의 잠재적 위험을 최소화하고 인류에게 이로운 방향으로 발전시키기 위한 'AI 정렬'의 중요성이 커지는 가운데 제기되었습니다. 2025년 당시의 평가 방식은 주로 AI 모델이 특정 지시를 얼마나 잘 따르는지, 혹은 유해한 출력을 얼마나 잘 피하는지 등 비교적 직접적인 행동을 평가하는 데 초점을 맞췄습니다. 그러나 현재의 대규모 언어모델(LLM)과 같은 AI는 훨씬 더 미묘하고 복잡한 방식으로 행동하며, 의도치 않은 부작용을 일으킬 수 있어, 과거의 단순한 평가 방식으로는 AI의 깊은 의도나 장기적 영향을 파악하기 어렵다는 것이 핵심입니다.
이러한 상황은 AI 정렬 연구 커뮤니티에 중요한 질문을 던집니다. AI 기술 발전 속도에 맞춰 정렬 평가 방법론도 혁신적으로 발전해야 한다는 압박이 커지고 있습니다. 단순히 AI의 출력을 검사하는 것을 넘어, AI의 내부 작동 방식과 의사결정 과정을 이해하고, 더 나아가 AI가 스스로 안전성을 학습하고 개선할 수 있는 메타 정렬(meta-alignment) 기술에 대한 연구가 시급하다는 목소리가 높습니다. 이는 궁극적으로 인류가 통제 가능하고 신뢰할 수 있는 AI 시스템을 구축하는 데 필수적인 과제로 인식되고 있습니다.