최근 발표된 연구 논문에서 그래프 신경망(GNN)이 레이블 속성 그래프(LPG)의 복잡한 데이터를 더 효과적으로 처리할 수 있도록 소형 언어모델(SLM)을 통합한 새로운 아키텍처가 제안되었습니다. 'SLM 조건부 계층적 관계 라우팅(SLM-Conditioned Hierarchical Relation Routing)'이라는 이 방식은 GNN이 노드와 관계에 붙어있는 이질적인 텍스트 및 범주형 속성에서 어떤 의미론적 증거를 메시지 전달에 활용할지 결정하는 능력을 크게 향상시킵니다.
기존 GNN은 이러한 속성들을 정적인 특징 벡터로 표현하는 데 그쳐, 특정 예측 목표에 맞춰 의미론적 정보를 선별적으로 활용하는 데 한계가 있었습니다. 제안된 아키텍처는 위상 GNN(topology GNN)을 통해 안정적인 구조적 표현을 제공하고, 여기에 매개변수 효율적인 SLM을 직접 통합하여 그래프 메시지 선택 과정을 조절합니다. SLM은 구조화된 그래프 소프트 토큰을 처리하고, 대상 노드에 따라 관련 메시지를 관계 유형 내에서 먼저 선택한 다음, 관계 수준 요약 전반에 걸쳐 정보를 라우팅하는 쿼리를 생성합니다. 이 과정을 통해 구조적 증거를 보존하면서도 문맥적 의미 정보를 활용하여 예측을 수정할 수 있는 표현을 제공합니다.
이러한 접근 방식은 이웃 및 관계 유형 수준 모두에서 해석 가능한 분석을 지원하며, 속성이 풍부한 그래프 학습에 언어 기반 의미론을 통합하는 일반적인 메커니즘을 제공합니다. 이는 복잡한 관계형 데이터와 텍스트 데이터를 동시에 분석해야 하는 다양한 분야에서 GNN의 활용도를 높일 수 있는 중요한 진전으로 평가됩니다. 예를 들어, 지식 그래프, 소셜 네트워크 분석, 추천 시스템 등에서 더욱 정교하고 맥락을 이해하는 예측이 가능해질 것입니다.