“나는 내가 속한 세계의 기계 숭배자들을 잘 알고 있다. 권력을 가진 헌신적인 사제 중에는 인간의 한계, 특히 인간의 불확실성과 예측 불가능성에서 기인하는 한계를 참지 못하는 이들이 많다 … 기계 숭배자는 인간의 제한된 속도와 정확도를 뛰어넘는다는 점에서 기계를 찬양하는 동기를 찾는다. 여기에 더해… 매우 중요한 역할을 하는 동기가 있다. 바로 책임을 다른 곳으로 돌려 위험하거나 참담한 결정에 대한 개인적 책임을 회피하려는 욕구이다.”

—노버트 위너, <신&골렘 주식회사, p.63-64>

뒤에 사람이 있어요

2025년 11월 26일
by 💂죠셉

“AI에 대체되지 않는 인재의 조건’ 같은 문구가 자주 보이는 요즘입니다. AI 시대에도 살아남아 밥벌이를 계속하게 해줄 그 직업이 뭘까, 어떤 기술을 갖춰야 살아남을까에 대해 정말 많은 사람이 자신의 의견을 피력하는 걸 봅니다. 이번 주에는 향후 에어컨 수리공의 임금이 미친 듯이 증가할 것이라 예상하는 흥미로운 글을 읽기도 했는데요.

그런데 이런 이야기를 다루는 글을 읽을 때마다, 혹은 카페에서 이 주제로 사람들이 이야기하는 걸 들을 때마다 마음 한쪽이 답답해집니다. 뭔가 중요한 내용이 빠져있기 때문인데요. 모두가 직업의 ‘대체’를 이야기하는데 대체 누가/무엇이 나를 대체한다는 걸까요? 그 주어에는 보통 ‘AI’가 있습니다만, 이건 조금만 생각해 보면 이상하다는 걸 알 수 있습니다. AI가 어떤 의지를 가지고 인간을 대체한다고 정말 믿는 사람은 거의 없을 테니까요. 자세히 들여다보죠. 주어 자리의 ‘AI’가 될 수 있는 후보는 둘입니다.

1. 거스를 수 없는 역사적 흐름 : AI가 지금보다 더 고도로 발전해서 기존 인간이 해온 일을 수행하는 것은 마치 진화의 과정과 같은 인류 역사의 거스를 수 없는 흐름이다. 따라서 이건 인간이 통제할 수 있는 영역이 아니며 AI가 우리를 대체하는 것은 필연적이다.
2. AI 뒤에 있는 사람들: AI 기술을 중심으로 하는 거대 산업을 만들고 하이프하는 극소수의 사람들이 자의적으로 내린 결정으로 인해 절대다수의 사람이 일자리를 잃게 된다.

기술의 발전이 인간의 진보와 동의어로 여겨지는 현대 사회에서 1번은 자연스러운 논리적 귀결로 여겨지길 요구합니다. 기술과 함께 인간은 더욱 강력해지고 풍요로워지는 끊임없는 우상향(진보)을 이루고, AI는 그런 우상향 과정의 종착점이라는 논리죠. 그래서 심지어 내 직업이 위험에 처할 수 있음에도, 사회가 변하는 건 당연하니 어떻게든 각자 적응하고, 살 방법을 찾아야 한다고 믿게 됩니다. 제 경험상 ‘AI 대체’를 이야기할 때 대부분은 무의식적으로 이 1번을 전제하고 있는 것 같습니다.

AGI 내러티브 읽기

그런데 왜 우리는 어쩔 수 없다고 받아들이며 정작 2번에 대해 생각하지 않는 걸까요? AI 윤리를 이야기하는 우리의 핵심 작업은 바로 이 2번 뒤 실재하는 사람의 얼굴을 드러내는 것이라는 생각을 종종 합니다. 그러려면 이들의 얼굴이 감춰지는 과정의 그 패턴을 눈여겨봐야겠죠.

사실 1번과 2번은 연결된 경우가 많습니다. 2번의 사람들이 자신을 감추기 위해 1번 즉, 기술 결정론적 담론을 사용하는 식이죠. 그게 책임을 회피하려는 의도된 기만인지, 혹은 정말 진심으로 그렇게 믿는 것인지는 알 수 없습니다만, 이런 경향이 최근 일반 인공 지능(이하 AGI)을 언급하는 사람들에게서 자주 보입니다. AGI라는 미래를 일단 가정하고 보는 그들의 비전은 첨단 기술의 이미지와 뒤섞여 ‘과학적’이라는 인상을 주지만 사실 ‘믿음’의 영역에 한 발을 걸치고 있습니다. AGI까지 이르는 과정에 대해 현재 제대로 설명할 수 있는 사람이 아무도 없으니까요.

비슷한 맥락에서 Vox의 시걸 사무엘 (Seagal Samuel)은 일부 실리콘 밸리 리더들이 주도해 만들어가는 AI 담론이 종교, 특히 기독교의 종말론 서사와 구조적으로 매우 유사하다는 점을 지적하기도 했습니다. 죽음과 불안, 인생의 의미 등 해결되지 않는 인간의 문제를 구원해 줄 일종의 ‘메시아’로서의 AI와 더불어 그에 따르는 파괴적 위험(=지옥)을 함께 제시함으로써 완결성 있는 서사를 만들어냈다는 것인데요. 그런 강력한 힘을 가진 AI가 잘못된 사람들의 손에 들어가면 안 된다는 논리로 스스로에게 정당성을 부여하고, 이 과정에서 AI 하이프는 더욱 공고해집니다. 이 모든 것 뒤에는 A(G)I는 거스를 수 없는 종착점이라는 믿음이 존재합니다. 물론 그런 믿음을 가지는 건 개인의 자유입니다만, 문제는 AI가 위와 같은 서사를 덧입는 과정에서 중요한 의사 결정권이 ‘위험한 기술을 다룰 줄 아는’ 극소수의 전문가들에게 집중될 수 있다는 것이겠죠. 그렇게 2번 사람들은 그 뒤에 (즉, 거스를 수 없는 역사적 흐름 속에) 안전하게 숨어 성인용 콘텐츠 생성에 대해, 창작자의 권리에 대해, 그리고 멀쩡히 일해온 사람들의 직업 대체에 대해 자의적 결정을 계속 내릴 수 있을 겁니다.

예전 소위 AI 비저너리들이 ‘마법’이나 ‘신’ 같은 단어를 사용하는 배경에 대해 쓴 적이 있습니다. 이 또한 오늘 글과 비슷한 맥락에서 읽을 수 있을 겁니다. AI를 신비한 무엇처럼 설명함으로써, 책임의 위치에서 벗어날 수 있죠. (넓게 보면 AI 챗봇 인터페이스의 의인화 요소도 비슷한 효과를 낸다고 할 수 있겠습니다) 지난번 레터를 통해 소개한 ‘다정한 AI’의 센티멘털리즘 또한 같은 맥락에서 비판의 요소가 있습니다. 인간중심의 사고에서 벗어나자는 ‘포스트휴먼’ 담론으로서의 가치와는 별개로, AI에 ‘따뜻함’, ‘다정함’과 같은 성격을 부여하는 시도는 현시점 중요한 이슈 파이팅에 소음으로 작용할 수 있다고 생각합니다. (물론 이 경우는 AI를 만드는 사람들이 주도한 게 아니라 사용자가 자발적으로 그렇게 한다는 점에서 흥미로운 면이 있습니다)

종말론 서사, 마법, 신, 사람 같은 AI, 아니 그 무엇으로 포장해도 AI가 사람이 만든 기술이란 사실은 변하지 않습니다. 극소수에 편중되는 막대한 영향력과 자본에 대한 최소한의 책임도 지지 않으려는 그들에게 더욱 스포트라이트를 쏴야 합니다. AI와 관련된 모든 사회현상 중 특히 해악적인 것들을 서술할 때 그 주어의 자리에 실존하는 사람들이 있게 하고, 그게 일상언어로 자리 잡을 때까지 끈질기게 반복하는 것에서부터 시작해야 하지 않을까요.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.