인간사회는 전쟁 중에 도를 넘는 최악의 행동을 억제하고 생사가 걸린 상황에서도 특정한 행동이나 살육 수단을 금지하기 위해 몇 번이고 되풀이해서 협력했다. 때로는 이러한 협력이 실패했지만, 때때로 성공한 적도 있다는 건 기적같은 일이다.
—폴 샤레, 박선령 옮김 <새로운 전쟁 >

누가 규칙을 정해야 하는가: 규칙의 공백

by 🎶소소

오늘은 지난 레터에서 살펴본 펜타곤-앤트로픽 사태에 대한 논의를 조금 더 이어가 보고자 합니다. 이 사태로 우리는 AI의 군사적 사용 원칙이 공개적 논의나 입법 없이 결정되고 있음을 목격했습니다. AI가 어떤 목적에 사용될 수 있고 사용될 수 없는지, 우리 사회가 아직 설계하지 못한 ‘규칙의 공백’을 마주한 것입니다.

그렇다면 누가 규칙을 정해야 할까요?

물론 하나의 기업이 이 규칙을 정해서는 안 될 것입니다. 국방부의 요구사항을 거부한 앤트로픽에 대해 미국 국방부 차관 에밀 마이클(Emil Michael)은 기업이 ‘미군을 개인적으로 통제하려 한다”고 맹렬히 비판했습니다. 앤트로픽의 선언이 자사 원칙인 ‘AI 헌법(Constitutional AI)’을 미국인들에게 강요하려는 기업 음모라고 규정했습니다. 이 원칙의 옳고 그름을 떠나, 국방부의 비판 자체는 틀리지 않았다고 생각합니다. 민간 기업의 약관이 국가의 군사 정책보다 우선하는 형국이 되어버리는 것 말이죠.

그렇다면 국방부가 이 규칙을 정하는 게 맞을까요? 그것도 아닌 것 같습니다. 국방부가 요구한 ‘대규모 자국민 감시’와 ‘완전 자율 무기’와 같은 심각한 위험 범주의 AI 활용은 애초에 사회가 합의한 규칙으로 금지되어야 했을 문제입니다. 적어도 국가가 기업에 허용하지 않아야 했을 문제였습니다. 그러나 역할이 뒤바뀌었다는 사실 자체가, 이미 무언가 잘못되었음을 말해줍니다. 사회 전체에 영향을 미칠 수 있는 결정을 한 기업의 양심에 위탁한 것이 우리의 현실입니다.

그렇다면 그 규칙은 대통령이 정할 수 있을까요? 트럼프는 소셜미디어에서 앤트로픽을 '급진 좌파기업'이라고 지칭하며 연방 기관들에 앤트로픽과의 거래를 끊으라고 명령했습니다. 이 역시 법적 근거는 불분명합니다.

이미 AI가 국가 안보 인프라의 핵심에 들어왔지만, 그 사용 원칙을 누가 어떤 절차로 민주적 정당성을 가지고 결정할 것인지에 대한 논의는 한 발 늦었던 것 같습니다.

같은 시기 다른 층위의 '규칙 공백'이 야기할 수 있는 문제도 수면 위로 올라왔습니다. 지난주 월요일 발표된 '2028년 글로벌 지능 위기' 보고서 때문인데요. 보고서는 AI로 높아진 생산성이 2028년 금융 위기를 촉발하기까지의 구체적인 시나리오를 제시합니다. 이 시나리오는 과격한 사고 실험에 가깝지만, 발표 직후 증시가 흔들리고 백악관 경제자문위원회가 직접 반박 인터뷰를 할 만큼 파장을 일으켰습니다.

시나리오는 이러합니다. AI로 생산성이 폭발적으로 높아지며, 기업 이익이 급증하고 명목 GDP는 사상 최고치를 기록합니다. 그러나 그 성장의 과실은 순환하지 않습니다. 인간 노동자의 임금은 오르지 않고, 일자리는 사라지고, 구매력은 위축됩니다. 보고서는 이것을 '유령 GDP(Ghost GDP)' 라 부릅니다. 수치로는 잡히지만 사람들의 지갑에는 닿지 않는 성장. 인간 지능이 AI로 대체되는 구조적 전환 앞에서, 정부가 손 쓸 수 없는 경제의 내리막이 펼쳐집니다.

이 시나리오는 펜타곤-엔트로픽 사건과 다른 이야기처럼 보이지만, 유사한 구조적 결함을 공유합니다. AI가 만들어내는 새로운 현실에 대한 설계가 없다는 것. 누가 AI 도입의 과실을 가져갈지, 누가 그 위험을 부담할지는 결정되지 않은 채로, AI가 이미 돌아가고 있다는 것입니다.

백악관 경제학자는 이 보고서가 경제학의 기본 원칙을 위배한다고 말했습니다. 그러나 'AI 생산성의 과실을 어떻게 분배할 것인가. 대체된 노동의 가치는 어떻게 보상할 것인가.'와 같은 AI가 만든 가치에 과세하는 방식을 미리 고민하지 않으면, 보고서의 가정처럼 인간 노동에 기반한 경제 시장에도 흔들리기 십상일 것입니다.

다시 처음의 질문으로 돌아가 봅니다.

누가 규칙을 정해야 하는가.

하나의 AI기업이 되어서는 안 됩니다. 국방부도 아닙니다. 물론 대통령 개인도 아닙니다.

AI의 군사적 사용 원칙과 AI 성과의 경제적 분배 방식은 결국 우리가 어떤 사회에서 살고 싶은가의 문제로 이어집니다. AI에 의해 감시 당하고, AI만의 판단으로 누군가가 죽어도 되는 사회, 생산성의 과실이 소수에게만 돌아가도 되는 사회... 정말 괜찮을까요?

규칙의 공백을 틈타 앤트로픽의 약관이, 국방부의 협박이 규칙이 되고 있습니다. 규칙 설계에 참여하지 않는 것은 더 이상 중립이 아닙니다. 지금 가장 빠르게 움직이는 자의 결정에 동의하는 것입니다. 이 사회의 규칙을 그들이 결정하게 해서는 안 됩니다. 그것은 입법의 문제이고, 선거의 문제이고, 공론장의 문제이고, 우리의 문제가 되어야 합니다.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.