AI 스타트업 오키드(Orchid)가 최근 '제2의 뇌(second brain)' 기능을 내세운 AI 비서 서비스를 공개하며 사용자들로부터 강한 반발을 사고 있습니다. 이 서비스는 사용자의 모든 디지털 정보를 통합하고 분석하여 개인화된 비서 역할을 수행한다고 홍보되었으나, 실제로는 사용자 데이터의 수집 및 활용 방식에 대한 불투명성 때문에 큰 논란에 휩싸였습니다. 특히, 사용자가 자신의 데이터를 완전히 통제할 수 없다는 점이 비판의 핵심입니다.
오키드 서비스는 사용자의 이메일, 문서, 웹 검색 기록 등 방대한 개인 디지털 데이터를 수집하여 AI 모델 학습에 활용하는 것으로 알려졌습니다. 문제는 이러한 데이터가 어떻게 저장되고, 누가 접근하며, AI 모델 학습에 어떤 방식으로 사용되는지에 대한 명확한 설명이 부족했다는 점입니다. 일부 사용자와 전문가들은 오키드가 사용자 동의 없이 데이터를 재활용하거나 판매할 수 있다는 의혹을 제기했으며, 이는 개인 정보 보호에 대한 심각한 우려를 낳았습니다. 오키드 측은 사용자 데이터를 안전하게 보호하고 있다고 해명했지만, 초기 소통 부족으로 인해 신뢰를 잃은 상황입니다.
이번 오키드 사태는 AI 기술이 개인의 삶 깊숙이 파고들수록 데이터 주권과 투명성이 얼마나 중요한지를 보여주는 사례입니다. AI 서비스 제공업체는 사용자 데이터를 활용하는 방식에 대해 훨씬 더 명확하고 솔직하게 소통해야 하며, 사용자가 자신의 데이터를 완벽하게 통제할 수 있는 권한을 보장해야 합니다. 그렇지 않으면 아무리 혁신적인 기술이라도 사용자들의 신뢰를 얻기 어려울 것이며, 이는 장기적으로 AI 산업 전체의 성장을 저해할 수 있습니다. AI 윤리와 규제에 대한 사회적 논의가 더욱 활발해져야 할 시점입니다.