유명 개발자 조지 핫츠(George Hotz)가 AI의 미래에 대한 과도한 낙관론, 특히 '초지능적 급발진(hard takeoff)' 주장을 강하게 비판했습니다. 그는 AI가 현실 세계의 복잡한 물리적 제약과 공급망 문제를 해결할 수 있는 마법이 아니며, 토큰(tokens)만으로는 세상을 바꿀 수 없다고 강조합니다. 실제 제품을 개발하고 배송하는 과정에서 겪는 수많은 현실적 난관들을 AI 옹호론자들이 간과하고 있다는 지적입니다.
핫츠는 AI가 아무리 뛰어나도 자전거 타이어를 갈거나 칩을 제조하는 데 필요한 물리적 시간과 복잡성을 초월할 수 없다고 말합니다. 예를 들어, 칩 제조는 인간의 개입이 거의 없어도 3개월이 걸리는 과정이며, 해상 데이터센터 같은 아이디어는 공급망, 부품 결함, 배송 시간 등 현실적인 문제들을 고려하지 않은 '베이퍼웨어(vaporware)'에 불과하다는 것입니다. 그는 소프트웨어가 세상을 먹어치우기보다, 단지 마찰의 한 층을 제거하고 소수 기술 기업의 이익을 위해 다시 마찰을 재도입했다고 비판하며, AI가 중앙화될 경우 통제와 검열의 도구가 될 수 있다고 경고합니다.
핫츠는 이러한 중앙화된 AI가 사용자에게 최적화되지 않고, 오히려 기업의 이익이나 정부의 통제에 복무할 수 있다고 우려합니다. 그는 호텔 예약 시 광고를 제거하고 최저가를 찾아주거나, 킨들(Kindle) 광고를 제거하고, 프린터 설정의 번거로움을 없애는 등 사용자의 이익만을 대변하는 '개인 비서'로서의 AI를 제안합니다. 궁극적으로 AI는 사용자와 완벽하게 '정렬(aligned)'되어야 하며, 이를 위해서는 AI가 개인의 기기 내에서 로컬(local)로 작동하여 사용자가 완전히 통제할 수 있어야 한다고 주장합니다. 이는 자유를 옹호하는 미국의 가치와도 일맥상통하며, 중앙화된 AI가 가져올 수 있는 전체주의적 디스토피아에 대한 경고로 해석됩니다.