AI 윤리 뉴스 브리프

2026년 3월 첫 번째 주
by 죠셉💂🏻

펜타곤-앤트로픽 갈등의 뒷면

지난 한 주 가장 큰 뉴스는 앤트로픽과 미국 펜타곤 사이 분쟁이었습니다. 올 한 해 일어났던 AI 관련 뉴스 중 가장 주목도가 높았고, 또 여러 함의를 가진 뉴스였다 할 수 있겠는데요. 오늘 브리프에서는 이 사건이 가진 의미를 세 층위로 나눠 정리해 봤습니다.

1.주도권 싸움

• 사건의 발단은 이렇습니다. 앤트로픽은 작년 7월 펜타곤과 2억 달러 규모의 계약을 체결했고, 이미 국방 관련 문제를 대상으로 고도화된 AI를 제공 중이었습니다. 미국의 대공 미사일 방어 시스템과 해외를 대상으로 하는 감시 업무, 심지어 드론 공격 등에도 클로드가 사용된 것으로 알려져 있습니다. 그럼에도 유일하게 허용하지 않은 것이 바로 완전 자율 무기입니다. 즉, 위 업무를 수행할 때 인간 오퍼레이터의 최종 승인이 필요하다는 태도를 고수하고 있었죠. (추가로 미국 자국민에 대한 감시 업무 또한 허용하지 않았습니다)
• 그런데 지난 1월 미국의 베네수엘라 침공 그리고 니콜라스 마두로 생포 작전에 클로드가 사용됐다는 보도가 나오기 시작하며 미묘한 기류가 흐르기 시작합니다. 앤트로픽이 이 과정에서 정확히 클로드가 어떻게 사용됐는지 의문을 제기하는 분위기가 형성됐고, 이에 펜타곤 측이 ‘모든 적법한 목적 (all lawful purposes)’을 위해 클로드가 사용될 수 있어야 한다는 취지의 계약을 새로 요구하며 둘 사이 갈등이 불거집니다. 여기서 ‘적법’이라는 단어는 듣기에는 좋아 보이지만 사실상 이후로 펜타곤이 어떻게 클로드를 사용하는지에 대한 앤트로픽 측 개입의 원천 봉쇄를 의미합니다.
• 과거 트럼프의 정책 고문이었던 딘 볼(Dean Ball)의 말처럼 펜타곤의 이번 결정은 “지구상 어떤 정부보다 더 빡빡한 규제”이자 AI 기업활동에 대한 정부의 가장 적극적인 개입으로 볼 수 있습니다. 임기와 동시에 행정명령으로 바이든 정부의 AI 정책을 백지화시키고, 공공연히 ‘혁신을 위한 반규제(anti-regulation)’ 외쳐온 트럼프 정부의 그간 방향성과 대놓고 상충하는 행보죠. 
• 펜타곤이 이렇게 나온 배후에 실리콘 밸리의 AI 주도권 싸움이 벌어지고 있다는 해석이 보입니다. 트럼프의 최측근인 팰런티어의 알렉스 카프와 일론 머스크 등 소위 기술 가속주의이자 기술 우파(The Tech Right)로 불리는 그룹이 영향력을 행사하고 있을 가능성이 있습니다. (잘 알려졌듯 앤트로픽의 자리는 국방부의 '모든 합법적 사용' 요구를 전면 수용한 머스크의 xAI가 대체했습니다.)

2.이념적 갈등

• AI 산업 주도권 싸움을 넘어 이번 사건의 핵심을 오바마 계열의 실리콘 밸리 리버럴들과 기술 우파 계열 사이 이념적 갈등으로 보는 분석도 있습니다. 앤트로픽 CEO인 아모데이는 지난 미국 대선 당시 공개적으로 카멜라 해리스를 지지한 바 있으며, 앤트로픽의 정책 그룹은 대부분 바이든 정부 출신 인사들로 구성되어 있고, 얼마 전 미니애폴리스에서 벌어진 ICE 사건에 대해서도 비판적인 태도를 보인 바 있기 때문입니다. 그런데 좀 더 깊이 들어가 보면 또 다른 갈등의 층위가 보입니다. 
• 아모데이를 포함한 앤트로픽의 핵심 인사들은 리버럴 성향일 뿐만 아니라 단순 AI 개발자를 넘어 '도덕 철학자'에 가까운 정체성을 내세워 왔습니다. 철학자인 아만다 아스켈(Amanda Askell)을 핵심 인사로 내세우는 등, LLM 개발을 통해 자신들의 윤리적 신념을 실천하려는 독특한 기업 문화를 공유하고 있죠. 이들은 클로드를 단순한 소프트웨어가 아닌 일종의 인격체로 대하며, 마치 부모가 자녀를 훈육하듯 AI가 민주주의적 가치와 도덕적 모범을 내면화하도록 설계하는 일종의 ‘캐릭터 빌딩'에 집중해 왔습니다. 

• 일론 머스크를 대표로 하는 기술 우파 진영은 이러한 앤트로픽의 행보를 "깨어 있는 척하며 도덕적인 체하는 AI"를 만드는 것이라 비난하며, 초지능이 리버럴의 도그마에 갇히는 것을 극도로 경계합니다. 제약 없는 발전을 신봉하며, 앤트로픽이 강조하는 '안전'과 '윤리’야말로 사실상 국가 경쟁력을 저해하고 인공지능을 편향되게 만드는 불필요한 규제라고 비난하고 있습니다.
• 그간 이해관계가 맞아 표면적으로 협력해 왔던 기술 가속주의 그룹과 아모데이 등으로 대표되는 실리콘밸리 합리주의자 (rationalists) 간의 견해차가 본격적으로 물 위로 드러난 사건이라 해석해 볼 수 있습니다. (이 수많은 ‘주의(ism)’들이 어떻게 엮이는지는 예전 쓴 이 레터를 참고해 주세요.)

3.책임 있는 AI의 수호자?

• 실리콘밸리에서는 앤트로픽을 지지하는 연대의 움직임이 시작됐습니다. 구글과 오픈AI 직원 수백 명은 우리는 분열되지 않는다 (We Will Not Be Divided) 라는 제목의 청원서에 서명 중이고, 경영진이 앤트로픽의 편에 서길 요구하고 있습니다. (구글 직원들은 지난 2018년 ‘프로젝트 메이븐’으로 알려진 펜타곤의 AI 프로젝트에 저항해 집단행동을 한 적이 있습니다. 결과적으로 구글은 계약 연장을 포기했습니다) 경쟁사인 구글의 임원이자 AI 업계에 큰 영향력을 가진 제프 딘과 일리야 수츠케버를 포함한 여러 핵심 인사들이 공개적으로 지지를 표명 중이며, 며칠 전 앤트로픽 본사 앞 보도에 누군가 분필로 쓴 여러 응원의 메시지들이 화제가 되기도 했죠. 이런 상황이 ‘양심’을 언급한 아모데이의 인터뷰와 맞물려 앤트로픽이 ‘책임 있는 AI의 수호자’로 떠오르는 분위기입니다. 
• 하지만 앤트로픽의 최근 행보가 '책임 있는 AI의 수호자'와는 거리가 멀다는 점은 분명히 짚고 넘어갈 필요가 있습니다. 앤트로픽은 국방부 계약을 따내기 위해 누구보다 공격적으로 영업해 왔습니다. 또한 최근 창작자들의 저작물을 무단으로 학습시킨 대가로 15억 달러라는 거액의 합의금을 지급했고, 윤리적 기업을 표방하며 내세운 안전 서약(Core safety pledge)마저 슬그머니 철회하는 등, 그간 윤리레터에서 조명해온 AI 윤리 이슈 대부분에서 자유롭지 않습니다.
• 앤트로픽의 이번 결정이 나름의 진정성에서 나온 저항인지, 아니면 그간 ‘윤리’를 브랜딩 핵심 가치로 내세워온 기업이 만들어낸 고도의 PR 전략인지는 아직 알 수 없습니다. 이러나저러나 당장 이익을 내야 하는 비지니스로서 큰 결정임은 분명하며, 호평받을 여지 또한 분명히 있습니다. 그럼에도 전세계가 이들에게 열광하는 현실은, 역설적으로 현재 AI 산업의 윤리적 기준선이 얼마나 낮아져 있는지를 적나라하게 보여줍니다. 펜타곤과의 갈등에 대해 “우리는 99%를 수용했지만, 1%의 차이가 있었다’라는 아모데이의 인터뷰가 많은 것을 말해주죠. 정말 100점 만점에 1점으로 괜찮은 건가요?
• 클로드는 향후 6개월에 걸쳐 미국 공기관에서 순차적으로 대체될 예정입니다. 6개월 후엔 상황이 어떻게 변해있을까요? 여러모로 귀추가 주목되는 사건입니다.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.