Pope Leo XIV calls for 'disarmament' of AI, warns against 'new form of slavery'

바티칸=연합뉴스) 민경락 특파원 = 레오 14세 교황이 25일(현지시간) 즉위 후 처음 발표한 최고 권위 교서에서 인공지능(AI)이 인간을 지배할 수 없도록 '무장해제'가 필요하다고 설파했다.

신기술과 데이터·알고리즘으로 만들어진 허위 정보가 전쟁을 둘러싼 양극화와 반감을 증폭시키고 있다며 '정당한 전쟁'은 없다고 선을 그었다.

디지털 경제가 보이지 않는 노동력 착취에 기반하고 있다는 점도 지적하며 이를 '새로운 형태의 노예제'로 정의하기도 했다. 그러면서 AI는 누구에게나 열려있어야 한다며 정치권에 기술·정보의 시장 독점 감시를 주문했다.

레오 14세는 교황청 시노드 강당에서 이런 내용이 담긴 회칙 '마니피카 후마니타스'(Magnifica Humanitas·위대한 인간성)을 직접 발표했다.

회칙은 교황이 전 세계 가톨릭 신자와 주교들에게 전하는 최고 권위의 사목 교서다. 다른 교황 문헌인 교황 교서, 권고, 담화, 연설, 강론 등과 비교해 가장 구속력이 강하다.

교황은 이번 회칙의 가장 중요한 표현으로 'AI 무장해제'를 꼽았다. 기술을 가진 권력자가 스스로 AI를 통치하도록 하는 권리를 거부한다는 뜻이다. 이런 의미에서 '무장해제'는 AI 기술에 대한 거부가 아니라 AI가 인간을 지배하지 못하게 하는 것이라고 교황은 강조했다.

교황은 AI 기술을 하늘에 이르는 탑을 세우다가 신의 분노를 샀다는 성경 속 바벨탑과 비교하기도 했다. 레오 14세는 "모두가 또 하나의 바벨탑 건설을 포기하고 공동선을 구축하는 데 힘을 모으기를 요청한다"고 말했다.

교황이 여러 차례 연설을 통해 부각한 반전·평화 의지도 회칙에 담겼다.

교황은 AI 시대 전쟁은 단순히 무력 충돌에 그치는 것이 아니라 기술이 만들어낸 허위 정보와 단순화된 서사, 이분법적 사고로 '문화적'으로도 형성된다고 지적했다.

전쟁은 이틈을 비집고 "필요하거나 불가피한 것, 심지어 정화된 것"이 되기도 한다고 비판했다. 교황이 거듭 비판해 온 이른바 미국·러시아 등 강대국의 '정당한 전쟁' 이론에 또 날을 세운 것이다.

교황은 "모든 종류의 전쟁을 합리화하는 데 너무 자주 사용돼온 '정당한 전쟁' 이론은 이제 시대에 뒤떨어졌다"며 "무력·폭력·무기의 사용은 관계의 빈곤을 반영한 것"이라고 강조했다.

그러면서 일부 자율무기 체계와 관련해 "사실상 인간이 통제할 수 있는 범위를 넘어섰다"고 우려했다.

신기술에서 파생된 알고리즘, 디지털플랫폼, 기술 인프라, 데이터 등은 '보편적 재화'에 포함해야 한다고도 했다. 디지털 혁명에 참여할 수 있는 사람과 그렇지 못한 사람들 간의 불균형을 최소화하기 위해서다.

교황은 "디지털 환경에서 플랫폼·데이터·인프라는 국가가 아닌 경제·기술자들이 통제한다"며 "이런 권력이 소수에 집중될 때 불투명해지고 의존·배제·불평등으로 왜곡될 위험이 커진다"고 우려했다.

교황은 이런 상황에서 시장의 자율 기능만으로 공공선에 가까운 균형은 사실상 불가능해졌다고 우려했다.

교황은 "AI와 로봇 시대에 시장의 '보이지 않는 손'에만 의존하는 것은 더 이상 가능하지 않다"고 못박았다. 그러면서 정치가 노동의 존엄성, 사회적 포용, 혁신 혜택의 공정한 분배를 이뤄야 한다고 강조했다.

디지털 경제의 노동력 착취도 언급하며 '새로운 노예제'라며 경고의 목소리를 높였다.

교황은 "디지털 경제의 상당 부분은 데이터 라벨링, 모델 훈련 등 보이지 않는 활동에 종사하는 수백만명의 조용한 노동에 의존하고 희토류 등 자원을 채굴하는 가혹한 노동도 있다"며 "새로운 형태의 노예제와의 싸움은 윤리적인 AI를 위한 결정적 시험"이라고 강조했다.

4만단어가 넘는 방대한 내용의 이번 회칙은 교황이 작년 5월 즉위한 이후 처음 발표하는 교서다. 총 82페이지 분량으로 245개 항으로 구성됐다.

교황이 직접 회칙을 발표하는 것은 이례적이다. 통상 회칙은 교황 명의로 공표되지만 발표 행사에는 교황청 부서 장관인 추기경들이나 신학자, 전문가들이 참석했다.

이번 발표 행사에는 크리스토퍼 올라 앤트로픽 공동 창업자도 참석했다. 앤트로픽은 AI 기술을 감시나 무기 개발에 사용할 수 없도록 해 트럼프 행정부와 갈등을 빚고 있다.

올라는 "앤트로픽을 포함한 모든 최첨단 AI 연구소는 종종 '옳은 일'과 충돌할 수 있는 유인과 제약 속에 있다"고 말했다. 그러면서 AI 기업들이 상업적 압박에 직면해 있으며 외부 감시가 필요하다고 강조했다.

교황은 지난 15일 이 회칙에 서명했다. 레오 13세의 회칙 '레룸 노바룸'이 공표된 지 135주년이 되는 날이다. '레룸 노바룸'은 산업혁명 시기 노동자의 권리와 자본주의의 한계 등을 다뤘다.

교황은 즉위 이전부터 AI에 대한 문제의식이 강했던 것으로 알려져 있다. 그가 교황명을 '레오 14세'로 정한 것도 이와 관련이 있다. 교황청은 레오 14세 즉위 당시 새 교황명이 노동권과 사회 정의를 강조한 레오 13세 교황(재위 1878-1903)을 계승하는 의미가 담겼다고 설명했다.

이번 회칙에는 자연과학 전공자로서 기술 권력에 대한 교황의 철학이 담겼다는 평가도 나온다. 그는 사제 훈련을 받기 전인 1977년 미국 펜실베이니아주 빌라노바대에서 수학 학사 학위를 받았다.