대규모 언어모델(LLM)을 활용한 지리공간 인공지능(GeoAI)이 자연어 인터페이스를 통해 공간 정보를 질의하고 생성하며 해석하는 능력을 크게 확장하고 있습니다. 이는 자율적인 지리정보시스템(GIS) 워크플로우를 가능하게 하지만, 동시에 기존 인공지능(AI) 윤리 논의만으로는 다루기 어려운 새로운 거버넌스(governance) 문제를 야기합니다. 이동 경로에서 수동적인 위치 추론, 공간적 자기상관(spatial autocorrelation) 및 스케일 효과로 인한 편향 증폭, 잘못된 공간 정보 생성(hallucinated spatial facts), 그리고 다중 모달 지리공간 입력 전반에 걸친 불확실성 증폭 등이 대표적입니다.
최근 발표된 연구는 LLM 기반 GeoAI에서 반복적으로 나타나는 8가지 주요 문제를 식별했습니다. 여기에는 데이터 출처 및 동의, 공간 프라이버시 및 추론 위험, 알고리즘 편향 및 공간 불평등, 공간 메커니즘(공간적 자기상관, 수정 가능한 면적 단위 문제, 스케일 효과)으로 인한 구조적 위험, LLM 고유의 기술적 위험, 설명 가능성(explainability), 정책 및 규제 격차, 그리고 대중의 활용 및 인력 개발이 포함됩니다. 연구진은 각 문제의 근본적인 메커니즘을 설명하고 문헌의 실제 사례를 들어 현재 기술적, 제도적 대응 수준을 평가했습니다. 대부분의 대응 방안은 아직 개념적인 수준에 머물러 있거나 활발히 논의 중이며, 일부는 새로운 정책의 대상이 되고 있습니다.
이러한 분석을 바탕으로 연구는 거버넌스를 고려한 LLM 기반 자율 GIS 아키텍처를 제안합니다. 이 아키텍처는 각 문제를 지리공간 데이터 수명 주기 전반에 걸쳐 적용 가능한 통제(controls) 및 감사 가능한 아티팩트(auditable artifacts)에 매핑하며, 홍수 대응 경로 설정 시나리오를 통해 이를 시연했습니다. 하지만 연구는 제안된 대응 방안들이 대부분 개념적이며, LLM 기반 GeoAI에 대한 거버넌스 통제의 현장 테스트 및 실증적 평가가 여전히 제한적이라는 점을 강조합니다. 이는 향후 연구에서 실증적 검증, 공간 특정적인 해석 도구, 그리고 이러한 새로운 위험에 맞춰진 인력 교육의 중요성을 시사합니다. 결국, 기술 발전 속도에 맞춰 윤리적, 사회적 안전망을 구축하는 것이 GeoAI의 지속 가능한 발전을 위해 필수적입니다.