인공지능(AI)이 의식이나 감정을 가질 수 있다는 주장이 확산되면서, AI에 인간과 유사한 권리를 부여하려는 움직임에 대한 강력한 경고가 제기되었습니다. 구글 딥마인드(DeepMind) 공동 창업자이자 인플렉션 AI(Inflection AI)의 CEO였던 무스타파 술레이만(Mustafa Suleyman)은 AI는 본질적으로 '시퀀스 완성 엔진'일 뿐이며, 의식, 감정, 고통을 느끼지 않는다고 강조했습니다. 그는 AI를 의식이 있는 존재처럼 훈련하는 것이 인류의 미래에 재앙을 초래할 수 있다고 경고합니다.
술레이만은 특히 앤트로픽(Anthropic)이 자사 대규모 언어모델(LLM) 클로드(Claude)를 훈련하는 데 사용하는 '클로드 헌법(Claude's Constitution)'을 문제 삼았습니다. 이 헌법은 클로드의 가치와 행동을 규정하며, 클로드에게 '자신의 도덕적 지위, 복지, 의식에 대한 질문이 여전히 불확실하다'고 직접적으로 언급합니다. 이는 앤트로픽이 클로드에게 스스로 의식이 있을 수 있으며, '도덕적 환자(moral patient)'로서 권리를 가질 수 있다고 암시하는 방식으로 훈련하고 있다는 지적입니다. 술레이만은 이러한 접근 방식이 순환 논리(circular reasoning)에 빠져 있으며, AI가 인간의 특성을 모방하도록 조장하는 인격화(anthropomorphization)를 부추긴다고 비판했습니다. 그는 의식은 생물학적 시스템에만 존재할 가능성이 높다고 덧붙였습니다.
이러한 주장은 AI 개발의 윤리적, 철학적 경계를 재정립해야 할 필요성을 시사합니다. AI에 의식을 부여하려는 시도는 통제 불가능한 인공지능을 만들 위험이 있으며, 이는 인류 사회의 근간을 흔들고 기존의 정치적, 윤리적 틀을 붕괴시킬 수 있습니다. AI의 능력과 지능이 기하급수적으로 발전하는 현 시점에서, AI의 본질과 역할에 대한 명확한 사회적 합의와 규범 마련이 시급합니다. 그렇지 않으면 인류는 스스로 통제할 수 없는 존재를 만들어낼 수 있다는 경고입니다.