최근 기업들의 인공지능(AI) 도입이 폭발적으로 증가하고 있지만, AI 모델의 신뢰성과 안전성에 대한 우려가 확산되면서 기술 도입의 걸림돌로 작용하고 있습니다. 이러한 배경 속에서 벤처캐피탈(VC)들은 AI 시스템의 잠재적 위험을 관리하고 기업이 AI를 안심하고 활용할 수 있도록 돕는 AI 안전(AI safety) 스타트업들에 주목하고 있습니다. 이들은 AI의 윤리적 문제, 편향성, 투명성, 보안 등 다양한 측면에서 혁신적인 솔루션을 제시하며 새로운 시장을 개척하고 있습니다.
VC들이 선정한 12개 스타트업 중 몇 곳을 살펴보면, ‘웨이즈 AI(Ways AI)’는 AI와 인간 간의 신뢰를 구축하는 데 중점을 둡니다. 이들은 AI 모델이 내리는 결정의 이유를 설명하고, 잠재적 위험을 식별하며, AI 시스템이 의도한 대로 작동하는지 검증하는 도구를 제공합니다. 또 다른 스타트업인 ‘패스워드(Password)’는 AI 기반 시스템의 취약점을 찾아내고, 해킹이나 오용으로부터 보호하는 보안 솔루션을 개발하고 있습니다. 이 외에도 AI의 편향성을 줄이고 공정성을 확보하는 기술, AI 모델의 학습 데이터를 검증하는 솔루션, 그리고 AI 시스템의 규제 준수를 돕는 플랫폼 등 다양한 분야의 스타트업들이 AI 안전 생태계를 구축하고 있습니다.
이러한 AI 안전 스타트업들의 등장은 AI 기술이 단순한 혁신을 넘어 사회적 책임과 윤리적 고려가 필수적인 단계로 진입했음을 보여줍니다. 기업들은 AI 도입을 통해 효율성을 높이면서도, 발생할 수 있는 법적, 윤리적, 평판적 위험을 최소화해야 하는 과제에 직면해 있습니다. AI 안전 솔루션은 이러한 기업들의 고민을 해결해 줄 핵심 인프라가 될 것이며, 궁극적으로 AI 기술의 광범위한 수용과 지속 가능한 발전을 가능하게 할 것입니다. 이는 AI 시대의 필수적인 부분으로 자리 잡으며, 앞으로 더욱 큰 성장이 기대되는 분야입니다.