인공지능(AI)이 생물학 연구의 패러다임을 빠르게 변화시키고 있습니다. 대규모 언어모델(LLM)은 과학 정보 검색, 실험 계획 지원, 계산 분석을 돕고, 생물학 특화 파운데이션 모델(biological foundation models)은 단백질, 유전자, 게놈 서열을 예측하고 최적화하며 생성하는 수준에 이르렀습니다. 나아가 에이전트 시스템(agentic systems)은 다단계 연구 작업을 조율하고, 자동화된 실험실(automated laboratories)은 설계-구축-테스트-학습(design-build-test-learn) 사이클을 부분적으로 자동화하며 생물학 연구의 효율성을 극대화하고 있습니다.
이러한 AI 기술은 의학, 공중 보건, 생명공학 분야에 막대한 이점을 가져다줄 잠재력을 가지고 있습니다. 그러나 동시에 생물보안(biosecurity) 측면에서는 새로운 위협 요인으로 작용할 수 있습니다. 연구에 따르면, AI의 위험성은 단순히 AI가 무엇을 할 수 있는지뿐만 아니라, 누가 AI를 사용하는지, 그들의 전문성과 의도, 그리고 실험 도구 및 재료에 대한 접근성, 그리고 현재 마련된 안전장치에 따라 달라집니다. 현재 AI는 주로 디지털 작업에서 역량을 향상시키지만, 물리적 작업에서는 암묵적 지식(tacit knowledge)과 실제 실행이 여전히 중요한 장벽으로 남아있습니다.
AI는 정보 수집, 생물학적 설계부터 조달, 합성, 테스트, 스케일업(scale-up), 잠재적 방출에 이르기까지 생물학적 위협의 전 과정에 걸쳐 악용될 수 있습니다. 특히 일반적인 AI 모델의 정렬(alignment) 기술이 생물학적 모델에는 잘 적용되지 않는다는 점과, 유해한 기능이 실제로 제거되었는지 감사하기 위한 해석 가능성(interpretability)의 역할이 중요하게 부각됩니다. 따라서 연구자들은 AI 역량의 임계값(capability thresholds)과 비례하는 책임을 생물학 AI 생태계 전반에 걸쳐 연결하는 심층 방어 거버넌스(defense-in-depth governance)를 구축하여, 고위험 시나리오를 줄이면서도 AI의 유익한 활용을 보존해야 한다고 주장합니다.