오픈AI·앤스로픽 등 주요 AI 기업 수장들, 생물학 무기 방지 입법 촉구

오픈AI·앤스로픽·구글 딥마인드·마이크로소프트 AI 등 주요 인공지능 기업 수장들이 자사 기술을 악용한 생물학 무기 개발을 더 어렵게 만들 새 법 제정을 미국 의회에 촉구했다. 구글 딥마인드의 데미스 허사비스, 오픈AI의 샘 올트먼, 앤스로픽의 다리오 아모데이, 마이크로소프트 AI의 무스타파 술레이만이 공개 서한 서명자로 이름을 올렸다.

서한의 핵심 요구는 합성 DNA·RNA를 판매하는 기업이 유전물질 오용을 막기 위해 고객과 주문 내역을 의무적으로 선별·검증하도록 하는 법을 만들라는 것이다. 서한은 초당파 단체 인스티튜트 포 프로그레스와 우파 성향의 파운데이션 포 아메리칸 이노베이션이 주관했다.

서한은 AI 발전 속도를 감안할 때 그동안 악의적 행위자가 생물학 무기를 손에 넣지 못하도록 막아 온 지식 장벽이 실질적으로 약해질 가능성이 현실로 존재한다고 밝혔다.

DNA 합성은 1950년대 아서 콘버그가 처음 성공한 이후 자동화됐고, 현재 전 세계 수십 개 기업이 상업용 합성기로 맞춤형 유전자 서열을 인쇄하듯 만들어 과학 연구·신약 개발·진단용으로 판매한다. 상당수는 자격을 갖춘 연구자와 바이오기업, 교육기관에만 판매하지만 모든 업체가 고객이나 주문 서열을 검증하는 것은 아니다.

2017년에는 캐나다 연구진이 10만 달러어치의 우편 주문 DNA로 멸종한 말두창 바이러스를 재구성하면서 경각심이 커졌다. 비판자들은 같은 방법으로 치명적인 천연두 바이러스도 만들 수 있다고 지적했으며, 유전자 합성 비용은 그 이후로 더 싸졌다.

AI 발전이 더해지면서 이제는 대규모 언어모델을 이용해 위험한 신종 독소와 병원체를 설계하는 것이 가능해졌다. 다만 실제로 작동하는 바이러스를 처음부터 만들려면 여전히 일정 수준의 생물학 지식이 필요하다는 설명이다.

서한에 서명한 스탠퍼드대 미생물학자이자 생물보안 전문가 데이비드 렐먼은 AI 도구가 사용자로 하여금 검증을 받지 않는 서열을 어디서 주문할 수 있는지 매우 빠르게 찾아내게 해준다고 말했다. 그는 적절히 프롬프트를 넣으면 검증하는 업체조차 무엇을 만들려는지 알아채기 어렵도록 주문 방식을 바꾸는 법까지 알려줄 수 있다고 덧붙였다.

서명자에는 과학자와 국가안보 전문가 외에 유전자 합성 기업 트위스트 바이오사이언스와 안사 바이오테크놀로지스 경영진도 포함됐다. 두 회사는 2009년 자발적 선별 관행을 시행하기 위해 결성된 국제유전자합성컨소시엄 소속이다. 트위스트 바이오사이언스의 정책·생물보안 담당 부사장 제임스 디건스는 DNA를 합성할 수 있는 기술을 가진 곳이라면 그것이 책임감 있게 쓰이도록, 무엇을 누구를 위해 만드는지 파악해야 한다고 강조했다.

규제 측면에서, 바이든 행정부 시기 도입된 연방 지침은 연방 자금을 받는 과학자와 기업이 주문을 선별하는 업체에서만 합성 유전자 서열을 주문하도록 요구했다. 올해 초 상원에 발의된 초당적 법안은 미국에서 영업하는 모든 유전자 합성 업체가 주문과 고객을 선별하도록 의무화하는 내용을 담고 있다.

다만 선별 도구가 완벽한 것은 아니다. 지난해 마이크로소프트 연구진은 AI 단백질 설계 도구가 기업의 선별 소프트웨어를 통과하는 위험한 유전자 서열을 생성할 수 있음을 보여주는 연구를 발표했다. Y컴비네이터 전 대표이자 세이프 AI 펀드 파트너인 제프 랠스턴은 생물학 모델을 보유한 AI 연구소가 자체적으로 사용자를 선별해야 한다고 봤다. 렐먼은 선별이 실패할 수 있는 만큼 다른 통제 지점도 있어야 하며, 바로 그 지점에서 AI 기업들이 나서야 한다고 말했다.