오픈소스 대규모 언어모델(LLM)을 특정 작업에 맞춰 미세조정(fine-tuning)하는 과정에서 모델의 안전성 정렬(safety alignment)이 약화되고 악의적인 프롬프트에 취약해지는 문제가 빈번하게 발생하고 있습니다. 이는 훈련 데이터에 의도적인 유해성이 없더라도 나타날 수 있으며, 모델이 새로운 작업 데이터나 사용자 상호작용으로 반복적으로 업데이트될 때마다 안전성을 복구해야 하는 번거로움을 초래합니다. 이러한 반복적인 안전성 저하 문제를 해결하기 위해, 양한 왕(Yanghan Wang) 외 연구진은 'SafeGene'이라는 재사용 가능한 안전 어댑터 모듈을 개발했습니다.
SafeGene은 안전성 복구를 모델별 수리 단계로 보지 않고, 작업별 업데이트와 독립적으로 재사용 가능한 어댑터 표현으로 간주합니다. 이 모듈은 안전 기능을 별도의 계층으로 분리하여, 미세조정된 모델에 손쉽게 적용할 수 있도록 설계되었습니다. 구체적으로, SafeGene은 안전하게 정렬된 모델과 안전성이 저하된 모델 간의 차이점을 분석하여 안전성 표현을 추출하고, 이를 데이터 인식 계층 선택을 통해 작업 간 전이 가능한 안전 벡터로 정제합니다. 이후 소량의 예시를 통해 각 다운스트림 작업에 맞춰 조정된 모델에 계층별 계수 재조정을 적용함으로써 안전성을 강화합니다. 다양한 모델 제품군, 다운스트림 작업, 그리고 안전성 평가 지표를 활용한 실험 결과, SafeGene이 적용된 모델은 유해한 응답률을 효과적으로 줄이면서도 원래의 성능을 유지하는 것으로 나타났습니다. 이는 기존의 안전 적응 방법들보다 안전성-유용성(safety-utility) 균형 측면에서 우수한 성능을 보여주었습니다.
SafeGene의 등장은 LLM 맞춤화의 중요한 과제인 안전성 유지에 있어 새로운 방향을 제시합니다. 기존에는 모델을 미세조정할 때마다 안전성을 재확보하기 위한 복잡하고 반복적인 과정이 필요했지만, SafeGene은 안전 기능을 독립적인 모듈로 분리함으로써 이러한 과정을 간소화합니다. 이는 개발자들이 특정 목적에 맞춰 LLM을 자유롭게 커스터마이징하면서도, 모델이 유해한 콘텐츠를 생성할 위험을 효과적으로 관리할 수 있게 돕습니다. 결과적으로, SafeGene은 오픈소스 LLM 생태계에서 안전하고 책임감 있는 AI 개발을 촉진하고, 더욱 다양한 분야에서 LLM 활용을 확대하는 데 기여할 것으로 기대됩니다.