인공지능(AI) 기술이 빠르게 발전하면서, 그동안 인간의 도덕적 판단과 행위를 탐구해 온 메타윤리학(meta-ethics) 분야가 중대한 도전에 직면했습니다. 샹 루(Shang Lu) 연구원은 AI가 단순한 도구가 아닌, 스스로 도덕적 추론(moral reasoning), 도덕적 의도(moral intentionality), 도덕적 성찰(moral reflection) 능력을 통합적으로 갖추게 된다면, 인간이 AI에게 부여하는 윤리 원칙을 넘어선 'AI 고유의 윤리(AI's own ethics)'라는 새로운 개념이 등장할 것이라고 전망했습니다.
이 연구는 이러한 미래 AI 시스템의 등장을 가정하고, 그에 따라 발생할 수 있는 메타윤리학적 질문들을 식별하기 위한 조건부 및 방법론적 프레임워크를 제시합니다. 특히, AI 시대의 메타윤리학적 탐구를 네 가지 영역으로 구분합니다. 첫째, 인간 관점에서 본 인간 윤리의 본질에 대한 질문. 둘째, 인간 관점에서 본 AI 고유 윤리의 본질에 대한 질문. 셋째, AI 관점에서 본 인간 윤리의 본질에 대한 질문. 넷째, AI 관점에서 본 AI 고유 윤리의 본질에 대한 질문입니다. 연구는 인지주의(cognitivism), 비인지주의(non-cognitivism), 오류 이론(error theory), 성공 이론(success theory), 상대주의(relativism), 객관적 실재론(objective realism) 등 기존의 주류 메타윤리 이론들이 이 영역들을 어떻게 조명할 수 있는지 탐색합니다. 그러나 동시에, 많은 인간 중심적 이론들이 AI 사례에 그대로 적용되기 어렵고 상당한 수정이 필요할 것이라고 지적합니다.
결론적으로, 'AI 고유의 윤리'가 출현한다면 현재의 윤리적 프레임워크에 상당한 압력을 가하고, 윤리 개념의 정교화, 재구성 또는 재개념화가 필요할 것이라는 점을 강조합니다. 이는 AI가 단순한 기술적 존재를 넘어 사회적, 도덕적 주체로 인식될 가능성을 시사하며, 인간과 AI의 공존을 위한 새로운 윤리적 기반 마련이 시급함을 보여줍니다. AI의 발전 속도를 고려할 때, 이러한 철학적 논의는 더 이상 먼 미래의 이야기가 아닌, 현실적인 준비의 영역으로 진입하고 있습니다.