기술패권 경쟁이란 직접적인 충돌(열전) 대신에 중요한 분야에서 상대방을 배제시키고 절대적인 기술적 우위를 향유하기 위해 다양한 경제적, 비경제적 수단을 동원하는 경쟁(냉전)으로, 기술패권을 바탕으로 지정학적 우위를 차지하고 글로벌 차원에서 국가적 목적을 달성할 수 있다.
—최계영, <차가운 평화의 시대>

소버린 AI 시대 떠오르는 행위자: 국가

by 🍊산디

AI 역시 여느 기술과 마찬가지로 사회 속에서, 사회의 기대와 반응에 영향을 받으며 발전합니다. 🦜AI 윤리 레터의 독자님들을 포함한 다양한 행위자들이 AI 기술의 발전에 영향을 미치고 있지요. 그러니 지금의 AI는 이용자들과 노동자, 기업 등 다양한 행위자들이 기술과 상호작용한 결과일 것입니다.

문제는 기술에 영향을 미칠 수 있는 권력이 매우 불평등하다는 데 있습니다. 그리고 요즘 유독 권력을 휘두르는 주요한 행위자가 있으니, 바로 국가입니다. AI가 경제, 군사적 측면에서 국가 패권을 결정짓는 황금 열쇠로 떠올랐다는 인식은 세계 주요 국가들이 AI 기술 개발에 전력으로 뛰어드는 데 정당성을 부여하고 있죠. 세계 질서가 균형을 잃고 불안정해질수록 AI에 대한 각국의 간절함은 더욱 커지고 있습니다. 국가 경쟁력을 확보하기 위해 AI에 대한 규제는 유예하고, 더 많은 지원 계획을 발표합니다. 군사 부문 AI 도입에 박차를 가합니다. AI가 곧 국가 주권인 시대, ‘소버린 AI’의 시대입니다.

미국의 전쟁부는 이스라엘과 함께 이란을 침공하기 전부터 AI 가속화 전략(AI acceleration strategy)을 발표했습니다. AI 가속화 전략은 책임 있는 AI를 ‘유토피아적 이상주의’이자 AI 가속화를 방해하는 장애물로 인식하며 제거 대상이라 지목합니다. 최근 ‘완전히 자율화된 무기’의 허용 여부를 둘러싸고 벌어진 팬타곤과 앤트로픽 간 논쟁, 그리고 미국 연방정부 및 국방 업무에서 클로드 퇴출 조치는 “전쟁을 방해하는 AI는 도입하지 않겠다”는 미국 전쟁부의 이념이 갈등으로 구체화된 사례입니다. 이 모든 정책은 미국이 패권 경쟁에서 패배해서는 안 된다는 담론으로 정당화됩니다.

한국도 마찬가지입니다. 한국의 AI 파운데이션 모델은 국가가 앞장서서 정의하고, 평가하여 지원하고 있죠. AI의 건전한 발전과 신뢰 기반 조성을 위해 필요하다던 AI 기본법은 이제 “AI 산업의 발전에 방점을 두고” 사실조사, 과태료 부과 등의 규제를 1년 이상 유예하기로 했습니다. 미국과 이스라엘의 이란 침공 후 국가AI전략위원회는 국방의 AI 전환을 “가속화”한다며 AI 기업과의 협력을 대외적으로 내세웠습니다. AI 도입에 반대하는 것은 “굴러 오는 거대한 수레”를 피하려는 어리석은 일로 공식 언급되기까지 합니다. 어떤 수레가 왜 굴러 내려와야 하는지, 그 수레 밑에 왜 내가 깔려야 하는지 문제 제기할 수 없다는 듯이 말입니다.

국가가 기술 발전에 개입하는 것 자체를 잘못이라고 비판할 수는 없습니다. 기술 발전이 산적한 사회 문제 해결에 적용될 수 있도록 그 방향과 속도를 통제해야 한다는 사회적 요구가 등장할 수밖에 없고, 기술 발전에 개인이 미칠 수 있는 영향력에는 한계가 있기 때문이죠. 기술이 발전할 수 있는 무수한 선택지 중 무엇이 정답인지 알지 못해 미래를 그저 운(serendipity)에 맡겨야 하는 상황에서, 국가는 경제 성장, 환경 보호, 질병 극복 등 나름의 비전과 정책 수단을 제시해왔습니다. 정도의 차이가 있을 수는 있어도, 국가는 언제나 기술 개발에 영향을 미치는 주요한 행위자였습니다.

하지만 ‘소버린 AI’는 국가를 AI 기술 발전에 영향을 미치는 압도적인, 심지어는 유일무이한 행위자로 추켜 세우는 오류를 범합니다. 긴박한 ‘주권적’ 문제에 직면해 있으니 기업의 자율 규제도, 민주적 숙의도 중요하지 않으며, 국가를 중심으로 하는 가속화된 정책이 당장 필요하다는 것이지요. 그 과정에서 국가의 기술에 대한 영향력은 점점 더 커져만 갑니다. 그런데 지금의 지정학적 갈등이 정말 불가피한 것들이었나요..?

AI를 비롯한 모든 기술은 민주적 규범을 전제로 합니다. 특정 기술이 전쟁터에서 인명 살상과 자국민의 생존에 영향을 미치는 경우라면 더욱 그러합니다. 주권의 궁극적인 근원이자 기준은 국가가 아닙니다. 주권이 국민의 것이라면, 소버린 AI는 국가 권력을 확장하는 도구가 아닌 시민들이 직접 기술의 향방을 결정하고 감시하는 민주적 거버넌스의 담론이어야 합니다.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.