교황 레오 14세, 첫 AI 회칙으로 권력 집중·민주주의 침식 경고

교황 레오 14세가 월요일 첫 회칙 'Magnifica Humanitas'를 발표하며 "인공지능 시대의 인간 존엄 수호"라는 주제를 내걸었다고 테크크런치가 전했다. 200페이지에 이르는 문서는 앤스로픽 공동창업자 크리스 올라가 함께 자리한 가운데 공개됐다.

회칙은 AI를 표면에 내세웠지만, 교황이 짚는 문제들은 그보다 훨씬 오래된 것이라고 테크크런치는 분석했다. 불평등과 전쟁, 민주주의의 침식, 그리고 인류의 위대함이 유지되는지에 관심이 없는 소수에게 권력이 집중되는 현상이 그 핵심이다.

교황은 "그러한 권력이 소수의 손에 집중되면 불투명해지고 공적 감독을 벗어나며, 새로운 종속과 배제, 조작, 불평등을 낳는 왜곡된 발전의 위험이 커진다"고 적었다. 이어 AI는 "모든 중대한 기술 전환과 마찬가지로 이미 경제적 자원과 전문성, 데이터 접근권을 가진 이들의 힘을 증폭시키는 경향이 있다"고 진단했다.

회칙은 이러한 엘리트가 자신들의 힘을 "정보와 소비 패턴을 형성하고, 민주적 절차에 영향을 미치며, 경제 역학을 자신들에게 유리하게 끌어가는 데" 이용할 수 있다는 우려를 강조했다.

이번 회칙 공개는 도널드 트럼프 대통령이 새 AI 모델 출시 전 정부가 감독권을 갖도록 하는 AI 행정명령의 서명을 며칠 전 미룬 직후에 나왔다. 테크크런치는 벤처투자자이자 전 백악관 AI 차르였던 데이비드 색스의 권유가 작용한 것으로 보도됐다고 전했다.

교황은 AI가 영향 받는 공동체의 참여에 뿌리를 둔 "명확한 기준과 실효적 감독"으로 운용돼야 한다고 촉구했다. 더 구체적으로는, 기업과 국가가 "지정학적 또는 상업적 우위를 확보"하기 위해 "점점 더 강력한 알고리듬과 더 큰 데이터셋"을 추구하는 AI 군비경쟁의 종식을 요구했다.

그는 "무장을 푼다는 것은 기술적 힘이 자동으로 통치권을 부여한다는 가정의 신뢰성을 무너뜨리는 것"이라고 썼다. 회칙은 이러한 권력 집중의 문제가 AI에 앞서 산업혁명기에도 있었다는 점을 환기하며, 1891년 레오 13세가 발표한 'Rerum Novarum'을 그 선례로 언급했다.

테크크런치는 회칙이 멀리 거슬러 올라갈 필요 없는 최근 사례에서도 영감을 받았다고 봤다. 일론 머스크의 트위터 인수와 트럼프 당선을 돕기 위한 플랫폼 활용, AI 규제를 막기 위해 슈퍼 PAC으로 흘러든 테크 엘리트들의 수억 달러 자금이 그 패턴으로 거론됐다.

노트르담 로스쿨 교수이자 교황청 사회과학원 회원, 메타 감독위원회 의장인 파올로 카로자는 테크크런치에 "AI가 주도하는 허위정보와 딥페이크가 진실과 거짓을 가려내는 우리의 능력을 부식시켰으며, 이는 민주 정치에 실질적인 결과를 가져온다"고 말했다. 그는 인간 데이터를 "수확하고 조작하는" 업계 관행이 "인지의 자유에 근본적인 도전"을 제기한다고 덧붙였다.