최근 앤트로픽(Anthropic) 연구원의 사임으로 강력한 인공지능(AI)의 안전성 문제가 다시 수면 위로 떠올랐습니다. AI 개발에 막대한 벤처 캐피탈(VC) 자금이 투입되고 있지만, 과연 투자자들이 AI 안전성 실사(due diligence)를 제대로 수행하고 있는지에 대한 의문이 제기되고 있습니다.
세계 최대 AI 기업들은 초기부터 VC 자금으로 성장했으며, AI 스타트업들은 2023년에만 900억 유로 이상의 투자를 유치했습니다. 하지만 일부 창업자들은 투자자들이 AI의 잠재적 위험보다는 상업적 성공에 더 집중한다고 말합니다. 예를 들어, 런던 기반 AI 스타트업 퀀텀블룸(QuantumBloom)의 창업자는 투자자들이 AI 안전성에 대해 깊이 있는 질문을 하지 않는다고 지적했습니다. 이는 AI 기술이 빠르게 발전하면서 발생할 수 있는 사회적, 윤리적 문제에 대한 VC 업계의 인식이 아직 부족하다는 것을 보여줍니다.
AI 안전성 문제는 단순히 기술적 위험을 넘어 사회 전반에 걸쳐 광범위한 영향을 미칠 수 있습니다. AI 시스템이 편향되거나 오용될 경우 심각한 결과를 초래할 수 있기 때문입니다. VC 투자자들이 AI 안전성 실사를 강화하는 것은 단기적인 수익뿐만 아니라 장기적인 산업의 지속 가능성과 사회적 책임을 위해서도 필수적입니다. 투자 과정에서 AI 안전성 요소를 면밀히 검토하고, 안전한 AI 개발을 위한 지원을 아끼지 않는다면, 기술 발전과 사회적 가치 창출이라는 두 마리 토끼를 모두 잡을 수 있을 것입니다.