KAIST와 마이크로소프트연구소 아시아 공동 연구진이 사람의 뇌파(EEG)를 활용해 인공지능(AI)의 목표와 행동을 조정하는 혁신적인 기술인 '신경 가치 정렬(Neural Value Alignment, NVA)'을 제안했습니다. 이 연구는 AI가 사람의 겉으로 드러난 행동뿐 아니라, 예상과 다른 결과나 상황을 마주했을 때 나타나는 뇌 반응을 피드백으로 활용하여 AI의 의도 파악 및 행동 방식을 더욱 정교하게 만드는 것을 목표로 합니다.
기존에는 AI가 사람의 행동만으로 의도를 파악하는 데 한계가 있었습니다. 예를 들어, 컵을 집는 행동만으로는 물을 마시려는 것인지, 다른 사람에게 건네려는 것인지 AI가 정확히 구분하기 어렵습니다. NVA는 이러한 문제를 해결하기 위해 뇌에서 발생하는 두 가지 '예측 오차' 신호를 활용합니다. '보상 예측 오차(RPE)'는 기대한 결과와 실제 결과의 차이를 반영하여 AI가 사용자의 목표를 다시 추정하는 데 쓰이고, '상태 예측 오차(SPE)'는 예상한 상황 변화와 실제 변화의 차이를 반영하여 AI의 행동 방식을 조정하는 데 활용됩니다. 연구진은 뇌파 실험을 통해 이 두 가지 오류 신호와 이들이 동시에 발생한 경우를 구별할 수 있음을 확인했으며, 시뮬레이션에서는 이 두 신호를 함께 사용할 때 AI가 사람의 목표 변화에 더 빠르게 적응하는 것을 입증했습니다.
이 연구는 사람이 매번 말이나 몸짓으로 AI를 직접 교정하지 않아도, 뇌파를 통해 미묘한 피드백을 전달할 수 있는 가능성을 제시합니다. 이는 피지컬 AI(로봇), 자율주행, 의료/재활 로봇, 그리고 개인 맞춤형 교육 시스템 등 사람의 목표와 선호에 지속적으로 맞춰야 하는 다양한 분야에서 인간-AI 협업의 효율성을 크게 높일 잠재력을 가집니다. 비록 아직 실제 로봇에 적용되어 실증된 단계는 아니지만, 인간의 의도를 더 깊이 이해하고 반응하는 AI 개발의 중요한 진전을 의미하며, 미래 AI 시스템의 사용자 경험을 혁신할 기반 기술이 될 것으로 기대됩니다.