AI 지도자들, AI 활용 생물무기 방지 위한 보호 강화 촉구
출처: The Verge
배경
AI 산업의 주요 경쟁자들이 서로의 불만을 제쳐두고 공통된 목표를 위해 손을 잡았습니다: 그들의 기술이 생물학적 무기 개발에 사용되는 것을 어렵게 만드는 것입니다. 미국 입법자를 향한 공개 서한에서 기술 지도자들은 전 세계적인 팬데믹을 촉발할 수 있는 위험한 바이오보안 격차를 메우기 위한 규칙 제정을 의회에 촉구하고 있습니다.
서명자
- Anthropic – 다리오 아모데이
- OpenAI – 샘 알트먼
- Microsoft – 무스타파 술레이만
- Meta – AI 책임자 알렉산드르 왕
- Google DeepMind – 데미스 하사비스 (AI 기반 단백질 예측으로 2024년 화학 노벨상 수상)
이 서한은 또한 저명한 과학자들, 국가 안보 및 정책 전문가들, 그리고 합성 유전 물질을 주요 판매하는 Twist Bioscience와 Ansa Biotechnologies 같은 바이오테크 기업의 임원들이 서명했습니다. 이 서한은 Foundation for American Innovation과 Institute for Progress라는 두 싱크탱크가 조직한 것으로 알려졌습니다.
과학적 우려
과학자들은 오랫동안 합성 생물학의 발전이 위험한 유기체를 만들거나 심지어 오래전에 사라진 병원체를 부활시킬 수 있는 가능성을 경고해 왔습니다. 역사적으로 이러한 힘은 정교한 실험실, 장비, 자원을 갖춘 숙련된 연구자들의 손에만 있었습니다.
하지만 이제 생물학적 도구가 저렴해지고 접근성이 높아지며 AI 모델이 더욱 강력해짐에 따라, 오용을 방지하던 장벽이 무너지기 시작했습니다. 전문가들은 AI가 화학 무기와 같은 다른 위협을 만드는 데도 활용될 수 있다고 지적합니다.
정책 권고
대부분의 대형 합성 DNA·RNA 공급업체가 이미 주문을 검열하고 있지만, 현재 이 검열은 자발적이며 의무화되어 있지 않습니다. 서한은 다음을 요구합니다:
- 위험한 병원체 제작에 사용될 수 있는 서열에 대한 의무 검열
- 초기 검열을 통과하지 못한 위협을 추적하기 위한 모든 주문에 대한 상세 기록 보관
“기술이 변화하는 속도를 고려할 때, 우리는 이 문제가 시급하다고 믿습니다,” 라고 서한은 말합니다. “이는 종종 대립하는 이해관계자들이 드물게 의견을 모은 순간입니다. 정책 입안자들이 결단력 있는 행동으로 이를 맞이해 주길 바랍니다.”