인공지능(AI) 비서가 단순 정보 제공을 넘어 사용자 대신 이메일을 작성하고, 회의를 주선하며, 심지어 계약서 초안까지 만드는 등 적극적으로 업무에 개입하기 시작했습니다. 이러한 AI의 '대리 행동'이 늘어나면서, AI가 내린 결정이나 행동에 대한 법적, 윤리적 책임은 누가 져야 하는지에 대한 근본적인 질문이 제기되고 있습니다.
AI 윤리 및 거버넌스 전문 기업 이퀄AI(EqualAI)의 CEO 미리아나 스토파(Mirjana Stofa)는 포춘(Fortune)과의 인터뷰에서 이 문제를 강조했습니다. 스토파 CEO는 AI 비서가 사용자 '이름으로' 행동하는 상황에서, 특히 법적 구속력이 있는 문서나 중요한 의사결정에 AI가 관여할 경우, 최종적으로 누가 '승인(signed off)'하고 책임을 질 것인지 명확히 해야 한다고 지적했습니다. 예를 들어, AI가 작성한 계약서에 오류가 있거나, AI가 보낸 이메일이 회사 정책을 위반했을 때, 그 책임이 AI 개발사, 사용자, 혹은 기업의 관리자 중 누구에게 돌아갈 것인지에 대한 합의된 기준이 아직 부족하다는 것입니다.
이러한 책임 소재 문제는 AI 기술의 발전 속도에 비해 관련 법규나 기업 내부 정책이 따라가지 못하면서 발생하고 있습니다. 기업들은 AI 도입을 서두르면서도, AI가 초래할 수 있는 잠재적 위험과 책임 문제를 간과하는 경우가 많습니다. 따라서 각 기업은 AI 활용에 대한 명확한 내부 가이드라인과 정책을 수립하고, AI가 관여하는 모든 의사결정 과정에 인간의 최종 승인 절차를 포함하는 등 선제적인 대응이 필요합니다. 이는 단순히 법적 분쟁을 피하는 것을 넘어, AI 기술에 대한 신뢰를 구축하고 지속 가능한 발전을 도모하는 데 필수적인 요소가 될 것입니다.