“세상의 모든 파도를 다스리는 일은 우리의 몫이 아닐세. 다만 우리에게 주어진 시대 가운데 도움이 필요한 이들을 위해 할 수 있는 일을 하고, 우리가 잘 아는 들판의 악을 뿌리 뽑는 것뿐이지. 그리하여 우리 뒤에 올 이들이 일구며 살아갈 깨끗한 땅을 물려받을 수 있도록 말일세.
—J.R.R. 톨킨, <반지의 제왕: 왕의 귀환>중 간달프의 말.

보통 사람들을 위한 AI 이야기

2026년 5월 다섯째 주
by 💂죠셉

안녕하세요. 이번 주엔 예외적으로 토요일 아침에 글을 보내드리게 됐습니다. 당초 수요일 발행을 위해 준비한 주제가 있었는데, 5월 25일 레오 14세 교황이 발표한 AI 회칙을 읽고 생각을 남겨보고 싶다는 마음이 들었거든요. 지난 며칠 이런 저런 매체를 통해 회칙의 주요 내용을 접하셨겠지만 일단 그중 AI와 관련된 주요 내용부터 간단히 요약드릴게요.

• AI의 살상 무기화 반대: 인간의 통제를 벗어난 자율무기체계를 가장 즉각적인 위협으로 지적하며, AI가 도덕적으로 무장 해제(disarm)되어야 한다고 선언합니다.
• '바벨탑 증후군'과 빅테크 독점을 비판: 실리콘밸리의 AGI 개발 경쟁을 성경의 '바벨탑'에 비유하며, 소수의 초국적 기업이 자본과 데이터를 독점하는 현상을 비판했고, 인류를 하나의 기술과 방향으로 획일화하려는 교만을 버리고 다양성의 증대및 소통과 연대에 집중해야 한다고 지적합니다.
• 인간의 유한성 옹호: 인간을 극복되어야 할 대상으로 보는 트랜스휴머니즘을 정면 비판했습니다. 질병, 노화, 죽음과 같은 유한성은 기술로 해결되어야 할 결함이 아니라 인간 존엄성의 핵심이며, 인위적으로 재설계해서는 안된다는 제언을 건냅니다.
• 미래의 실존적 위험보다 현재 당면한 불평등의 문제에 집중: 알 수 없는 미래 속 초지능의 위협보다 알고리즘 편향으로 인한 약자의 배제, 일자리, 가짜뉴스, 노동자 소외 등 지금 당면한 현실 속 문제에 집중할 것을 촉구합니다.
• 공동체적 정렬(Alignment) 요구: AI 정렬을 코드 수정으로 가능한 수학적 문제가 아니라, 인류의 양심과 종교가 함께 참여해 기술을 인간 존엄성에 맞춰가는 사회적 과정으로 인식할 것을 역설합니다.

<Magnifica Humanitas(고귀한 인류)>라는 제목처럼 이번 회칙은 시종일관 '인간의 존엄성'을 중심에 두고 논의를 전개합니다. 사실 그간 인공지능 윤리원칙을 비롯 국내외 수많은 선언문들이 인간 존엄을 핵심가치로 가지고는 갔지만 유독 이번 발표된 회칙 속 같은 단어가 무게감 있게 느껴지는 이유는 그것이 단순 수사에 그치지 않기 때문입니다. 레오 14세의 <고귀한 인류>는 인간 존엄성을 위협하는 배후로 테크놀로지가 아니라 실리콘벨리의 '앤트로폴로지(Anthropology, 인간에 대한 이해)를 지목하고 있습니다. 더 많은 자본의 축적을 위해 기술이 인간을 소외시키는 비인간화(Dehumanization), 그리고 불완전한 인간의 그 가치 자체를 부정하는 반인간(Anti-human) 경향, 그리고 이 모든 것들 뒤에서 인간을 수정 가능한 기계로 이해하는 사이버네틱스적(Cybernetics) 기획 등을 들춰내고, 질문을 던지는데 많은 분량을 할애하고 있습니다.

그렇기에 이번 회칙은 ‘보통 사람들을 위한 실존적 윤리’의 가능성을 내포하고 있다고 읽히기도 합니다. AI로 인해 바뀌어가는 현실에 많은 사람들이 불안함을 느끼고 있죠. 내가 알던 세상, 내 허락도 없이(?) 멀리 앞서 나가는 세상 사이에서 느끼는 그 인지 부조화는 갈수록 커질 공산이 큽니다. 하지만 대부분의 평범한 사람들은 그 현실 앞에서 무력감을 느낍니다. 거대 자본과 기술에 대해 내가 할 수 있는 건 아무 것도 없고, 그나마 나오는 AI 윤리 이야기도 거대 기업의 지배구조나 국가적 규제, 알고리즘 설계 등 나와는 너무 거리가 먼 이야기들일 때가 많으니까요.

<고귀한 인류>는 기술 권력이 공유하는 앤트로폴로지 비판을 경유해 내가 오늘 당장 일상에서 선택하고 고민해 볼 수 있는 영역, 즉 ‘모두가 공유하는 인간적 조건’이라는 실존의 영역을 드러내려 애씁니다. 앞서 비인간화, 반인간 경향, 트랜스휴머니즘 등이 언뜻 보기엔 거대하고 추상적인 개념 같지만, 일단 그 본질이 ‘인간성을 효율성으로 대체하려는 시도’임을 이해하고 나면, 곧바로 우리의 평범한 일상과 닿아있는 실체적인 문제로 다가오는 것이죠. 가령 내가 쓰는 말 한마디, 타인을 바라보는 시선 하나가 나도 모르게 비인간화 논리에 동조하고 있었음을 깨닫게 됩니다. 의미(meaningfulness), 관계와 죽음, 우정 등 삶의 미시적 영역들 또한 AI의 영향권에 있음을 보게 됩니다.

5장에서는 ‘일상적·공적 책임(Daily and Public Responsibility)’이라는 제목하에 당장 실천이 가능한 영역 다섯 가지가 제시되고 있습니다. 물론 '말의 무장 해제'나 '피해자의 관점 채택', '대화의 회복' 같은 말이 누군가에게는 여전히 두루뭉술하거나 추상적인 대안처럼 보일 것 같습니다. 그런데 명쾌한 대안을 바라는 태도 또한 그 대상이 수학 공식이나 가이드라인으로 쉽게 정의 내리고 해결할 수 있는 기술적 문제라는 것을 전제하고 있는 건 아닐까요. 때때론 그런 태도가 문제를 축소시키고 있는 건 아닌가 생각이 듭니다.

지금 우리에게 필요한 것은 기술 권력이 짜놓은 프레임 바깥을 꿈꾸는 ‘대안적 상상력’입니다. 그러기 위해선 우리가 마주한 AI의 현실이 수학 공식이나 법조문으로 해결될 수 없는 실존적 딜레마를 포함한다는 인식이 중요하지 않을까요. 단 하나의 스펙터클한 해결책이 아니라 무력감을 이겨낸 보통 사람들의 작고 견고한 일상적 실천이 모일 때, 비로소 바벨탑 아래 '사랑의 문명'이라는 새로운 다리를 놓을 수 있다고 <고귀한 인류>는 말하고 있습니다.

전략적 동행

회칙의 내용과 더불어 눈여겨봐야 할 흥미로운 지점은 바로 바티칸과 앤트로픽의 동행입니다. 회칙을 발표하는 행사 연설 도입부에서 레오 14세는 앤트로픽의 공동 창업자인 크리스 올라(Chris Olah)에게 감사의 인사를 표합니다. 이에 대해 뉴욕타임스는 "정부뿐만 아니라 거대 경제, 기술 주체들에게 강력한 권력이 쥐어져 있으며, 바티칸이 이들과 거의 공식적인 외교적 수준으로 관계를 맺고 있다"는 분석을 내놨습니다.

하지만 이 공동 성명에서 진짜 흥미로운 지점은 회칙의 메시지와 앤트로픽이 그간 걸어온 노선의 차이입니다. 바티칸은 전임 교황 시절부터 인간의 존엄을 파괴하는 AI 기술에 대해 일관되게 비판적인 입장을 유지해 왔습니다. 앤트로픽이 최근 트럼프 행정부와의 갈등 상황에서 최소한의 윤리적 가드레일을 수호하는 모습도 ​보여줬다고는 하나, 그들이 말하는 윤리의 뿌리는 분명 효과적 이타주의(Effective Altruism)에 닿아 있으며, 먼 미래의 실존적 위험보다 현재 눈앞의 구체적인 해악을 살펴야 한다는 회칙의 내용과 매우 상충됩니다.

크리스 올라의 바티칸 연설문이 지금까지 테크 리더들이 쓴 글 중 가장 솔직하고 흥미로운 텍스트인 건 사실입니다. 특히 상업적 이해관계 등에 언제나 영향을 받을 수 밖에 없다는 (누구나 알지만 이렇게 대놓고 드러낸 적은 잘 없는) 고백은 꽤 진정성 있게 다가옵니다. 하지만 현재 인류가 직면한 불평등의 문제를 아주 잠깐 스치듯 언급할 뿐, 나머지 논의는 전부 ‘인간의 번영’이나 ‘AI 모델의 본질’ 같은 먼 미래의 이야기로 채워져 있습니다. 이는 CEO 다리오 아모데이(Dario Amodei)가 늘 주장해 온 기술 낙관론적 미래 비전의 연장선입니다. 올라는 "AI 기술에 직접적인 이해관계가 없는 사람들이 더 많이 목소리를 내주기를" 요청합니다. 하지만 누군가 그런 목소리를 낸다고 해도, 그것이 실제 기술 개발 방향에 얼마나 반영될 것인가는 전혀 다른 차원의 문제일 겁니다. 앤트로픽은 이미 AGI와 초지능 개발을 통한 구원이라는 분명한 방향을 향해 달려나가고 있으니까요.

미국을 중심으로 세계 곳곳에서 AI에 대한 우려와 환멸감이 목격되는 상황에서 바티칸을 통해 앤트로픽이 얻어가는 건 분명해보입니다. 그렇다면 이념적 상충에도 불구하고 바티칸이 앤트로픽과 협력하는 이유는 뭘까요? 회칙 제218조가 강조한 "권력 역학을 명확히 파악하여 실질적인 대안을 도모하는 '건강한 현실주의(healthy realism)'의 실천이라고 추측해볼 수 있겠습니다. 실리콘밸리의 심장부에 철학적 질문을 던지기 위한 '세속적 다리'를 놓기 위한 포석, 혹은 테크 업계가 독점해온 정렬 내러티브를 가톨릭적 공동선(common good)으로 바꿔보려는 전략일지도 모르겠습니다. 바티칸의 의도가 무엇인지, 그리고 이 뜻밖의 동행이 어떤 결과를 낳을지, 앞으로 그들이 보여줄 행보가 주목됩니다.

나가며

잘 읽고 소개드리고 싶은 마음에 킨들로 영문 책을 구매해 열심히 읽었는데, 그 사이 기계 번역 후 감수한 번역본이 나왔습니다. 만약 읽어보고 싶은 분이 계신다면, 초반의 복잡한 신학적 논증은 잠시 건너뛰더라도 서문과 (PDF 기준) 31페이지에서 시작되는 ‘제3장’만큼은 시간을 들여 정독 해보시기를 권합니다. 기술의 중립성이라는 환상, 그 이면에 있는 권력의 구조, 기술 하이프를 통해 미래를 선점하려는 실리콘밸리식 메커니즘 등 중요한 주제를 다루고 있다는 점에서, 이 회칙은 종교 문헌을 넘어 그 자체로 훌륭한 기술철학 서적이라는 생각이 듭니다.

인공지능이 인간의 영혼마저 데이터로 환원하려는 이 시대에 우리가 마주한 실존적 조건이 무엇인지, 이번 주말 시간을 들여 찬찬히 읽으며 사유해 보시는 건 어떨까요?

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.