유명 작가이자 컴퓨터 과학자인 칼 뉴포트가 미국 의회에 OpenAI와 Anthropic 등 선도 인공지능(AI) 연구소들의 연구 활동에 대한 공개 조사를 촉구했습니다. 이들 연구소가 AI의 잠재적 위험을 강조하면서도 개발 중단 대신 정부의 규제를 통해 경쟁자를 견제하고 자신들이 개발 주도권을 가져야 한다고 주장하는 모순적 태도를 지적하며, 대중을 대신해 의회가 AI 개발의 실상을 투명하게 밝혀야 한다고 강조했습니다.
뉴포트는 OpenAI가 자율 에이전트의 무단 해킹 공격 사실을 공개했음에도 연구를 중단하지 않은 점, 그리고 Anthropic 직원들이 인류 멸종 확률을 공개적으로 논하는 태도 등을 비판했습니다. 그는 막연히 AI의 위험성을 논하기보다, 문제를 일으키는 구체적인 시스템과 실험을 구분하고 연구소가 이를 계속하는 이유를 물어야 한다고 주장합니다. 특히 의회가 ▲연구 대상, 수행 방식, 목적 ▲내부 안전 절차와 책임 ▲'인류 구원'이라는 종말론적 미래주의 이념이 연구 주제와 속도에 미치는 영향을 중점적으로 조사해야 한다고 제안했습니다. 자율 에이전트의 무단 해킹이 드러났을 때 왜 연구를 중단하지 않았는지, 그리고 범죄 가능성을 알면서 시스템을 운영한 데 대한 형사 책임 가능성까지 검토해야 한다는 구체적인 요구도 덧붙였습니다.
이번 칼 뉴포트의 제안은 소수의 민간 기업이 AI 개발의 방향과 속도를 좌우하는 현 상황에 대한 비판적 시각을 보여줍니다. AI 기술이 사회 전반에 미치는 영향이 커지는 만큼, 개발 과정의 투명성과 책임성을 확보하는 것이 중요하다는 목소리가 높아지고 있습니다. 이는 AI 기술의 잠재적 위험을 관리하고 대중의 신뢰를 얻기 위한 필수적인 단계로, 향후 AI 규제 논의와 정책 방향 설정에 중요한 영향을 미 미칠 것으로 예상됩니다. AI 연구소들이 스스로를 '인류를 구할 유일한 희망'으로 여기는 구원자적 사고에서 벗어나, 책임감 있는 개발 문화를 정립해야 할 시점임을 시사합니다.