최근 인류의 안전을 명분으로 최첨단 인공지능(AI) 개발 속도를 늦춰야 한다는 주장이 AI 업계 리더들 사이에서 나오고 있습니다. 하지만 이러한 요구의 진정한 목적이 사회 붕괴 방지보다는 특정 기업의 경쟁 우위 확보에 있다는 풍자가 확산되고 있습니다. 'Techaro'라는 가상의 기업이 경쟁사들이 개발을 멈춘 사이 'Lygma AGI lab'을 통해 격차를 좁히고 'Intelliga' 모델로 세계를 지배하겠다는 구상을 내세우는 식입니다.
이 풍자는 AI가 인간의 노동을 대체해 사회적 혼란을 초래할 수 있다는 경고를 하면서도, 정작 자신들은 개발 중단 기간 동안 'Mimi의 재귀적 자기 개선'을 실현해 경쟁력을 확보하려 한다는 이중적인 태도를 꼬집습니다. 또한, AI가 '선한 힘'으로 남아야 하는 이유를 'Techaro의 은행 잔액'과 'FelonyBench 점수'로 돌리는 등, 안전을 명분으로 내세우지만 실제로는 자사의 이익을 최우선으로 하는 모습을 비판합니다. 심지어 '사람에게 고양이 귀를 달아주는 유일한 방법이 AGI'라는 황당한 주장을 펼치며, AGI 개발의 궁극적인 목적마저 왜곡하는 모습을 보여줍니다.
이러한 풍자는 Anthropic(앤트로픽)의 CEO 다리오 아모데이(Dario Amodei)와 OpenAI(오픈AI)의 CEO 샘 알트만(Sam Altman) 등 실제 AI 업계 리더들의 발언을 배경으로 합니다. 이들은 최첨단 AI의 위험성을 경고하며 개발 속도 조절을 주장했지만, 일각에서는 이를 자신들의 기술적 우위를 공고히 하거나 경쟁사들을 견제하려는 의도로 해석하고 있습니다. 특히, 다리오 아모데이 CEO가 독립 평가기관으로 추천한 METR이 전직 Anthropic 직원들로 채워지고 있다는 점은 이러한 비판에 더욱 힘을 실어주고 있습니다.
결국, AI 안전에 대한 논의는 인류 전체의 이익과 특정 기업의 사적 이익 사이에서 복잡하게 얽혀 있습니다. AI 기술의 발전이 가져올 잠재적 위험에 대한 진지한 고민은 필요하지만, 그 과정에서 특정 주체가 자신의 이익을 위해 '안전'이라는 명분을 악용하는 것은 경계해야 할 부분입니다. 진정한 AI 안전은 투명하고 공정한 논의를 통해 모두에게 이로운 방향으로 기술을 발전시키는 데서 시작될 것입니다.