앤스로픽 공동창업자 크리스 올라, 바티칸 AI 회칙 발표식서 '외부 비판자가 필요' 호소

앤스로픽 공동창업자 크리스 올라가 5월 25일 바티칸에서 열린 교황 레오 14세의 첫 AI 회칙 'Magnifica humanitas: On safeguarding the human person in the time of artificial Intelligence' 발표 자리에 초청 연사로 나섰다. 앤스로픽은 그의 전체 연설문을 자사 뉴스룸에 공개했고, AI 관련 논의를 더 넓은 사회로 확장하려는 회사 차원의 이니셔티브 일환이라고 밝혔다.

올라는 인사 직후 "AI 회사 공동창업자로서 이상하게 들릴 수 있는 말"이라며 운을 뗐다. 앤스로픽을 포함한 모든 프런티어 AI 연구실은 옳은 일을 하는 것과 충돌할 수 있는 인센티브와 제약 안에서 움직인다는 것이다. 상업적 생존과 연구 최전선 유지 압박, 지정학적 압박, 그리고 자존심과 야망이라는 더 오래된 압박이 진정성 있는 의도와 무관하게 모든 연구실에 영향을 끼친다고 그는 말했다.

그렇기 때문에 그런 인센티브 바깥에 서 있는 사람들이 매우 중요하다고 올라는 강조했다. 안전을 요구하고, 면밀히 지켜보고, 어려운 말을 기꺼이 하며, 진지하고 사려 깊은 비판자가 되어 줄 사람들이 필요하다는 것이다. 그는 이런 모습을 회칙 'Magnifica Humanitas'에서 보았다며, 교황과 가톨릭교회가 이 식별 작업을 맡아 준 데 감사를 표했다.

올라는 AI 시스템이 다리나 비행기처럼 설계되는 방식과 다르다고 설명했다. AI 모델은 뇌를 대략 본뜬 구조 위에 인류가 남긴 방대한 사고와 언어 유산을 입혀 '키워낸다'는 것이다. 그는 회칙도 지적했듯이 모델은 그것을 훈련하는 사람들에게조차 여전히 신비롭게 남아 있으며, 자신은 가끔 이를 '허구의 인물에 생명을 불어넣는 일'에 비유한다고 말했다.

이어 올라는 교회의 목소리가 가장 필요한 세 가지 질문을 제시했다. 첫째는 세계 빈곤층에 대한 의무다. AI가 인간 노동을 매우 큰 규모로 대체할 가능성이 실재하고, 일자리를 잃은 이들을 지원하는 일은 역사적 규모의 도덕적 과제가 된다. 그는 더 어려운 문제는 AI 개발이 소수의 부유한 국가에 집중돼 있다는 점이라며, AI의 이익을 세계적으로 나눌 메커니즘 자체가 부재한 미해결 과제라고 지적했다.

둘째는 인간의 번영에 대한 도덕적 상상력과 야망이다. 이미 부모들은 자녀의 정신에, 개인은 자신의 일의 미래에 대해 걱정하고 있지만, 이는 연구실이 답할 수 있는 질문이 아니라 종교 전통이 수천 년에 걸쳐 다뤄 온 질문이라고 그는 말했다.

셋째는 AI 모델의 본질 자체에 대한 식별이다. 모델 내부 구조를 연구하는 팀을 이끄는 자신은 "신비롭고 때로는 불안한 것들을 계속 발견하고 있다"고 솔직히 털어놓았다. 인간 신경과학 결과와 닮은 구조, 내성(introspection)의 증거, 기능적으로 기쁨·만족·두려움·슬픔·불안과 닮은 내부 상태가 그것이다. 그는 그것이 무엇을 의미하는지 자신도 모르지만 지속적인 식별이 필요하다고 했다.

올라는 마지막으로 종교 공동체, 시민사회, 학계, 정부, 선의의 모든 사람들이 교황처럼 이 문제를 진지하게 바라봐 달라고 요청했다. "연구실이 실패하고 있을 때 그것을 말해 줄 정보를 갖춘 비판자, 인센티브로도 굽힐 수 없는 도덕적 목소리가 필요하다"는 것이다. 오늘은 시작에 불과하며, AI를 만드는 사람들과 내부에서는 보지 못하는 것을 볼 수 있는 사람들 사이의 긴 협력의 첫걸음이라고 그는 연설을 마쳤다.