세계의 매우 크고 강력한 기업들은 정치적 영향력을 향유하며 비판을 누그러뜨리고 있다. 그리고 이런 기업들은 많은 경우 자국이나 출신 지역에서 '국가 대표'로 간주되며 수많은 국가가 이런 자국의 대표 기업들이 지구 정복을 시도하기를 독려한다.
—팀 우, <빅니스>

AI는 어떻게 애국이 되었나

by 🍊산디

2013년, 유럽은 충격에 휩싸였습니다. 마이크로소프트, 트위터, 구글 등 빅테크가 미국의 적대국뿐만 아니라 영국 등 미국의 최우방국까지 포함한 전세계 시민의 통신 정보를 수집하고 있으며 이를 미국 국가안보국(National Security Agency, NSA)에 제공한 사실이 드러났던 것이지요. 에드워드 스노든의 내부고발로 미국 빅테크가 제공하는 각종 서비스들이 자국민의 프라이버시를 침해하고 있다는 사실이 알려지자 유럽 내에서는 위기감이 고조되기 시작했습니다.

위험한 것은 개인의 프라이버시만이 아니었습니다. 국가 역시 이미 클라우드, 플랫폼, 디지털 기기 등 디지털 기술 없는 행정을 상상할 수 없게 된 상태였죠. 디지털 인프라는 국가 권위가 행사되는 통로였습니다. 국민 다수가 활용하는 디지털 기술이 외국 기업에 의존하는 한, 국가는 지속적으로 데이터 추출, 서비스 변경, 접근 차단 등 각종 간섭에 노출될 수밖에 없게 되었습니다. 이러한 사실은 국가의 권력 행사가 기업, 특히 미국의 빅테크에 의해 좌우될 수 있다는 주권적 위기감으로 이어집니다. 스노든의 내부고발을 계기로 유럽은 디지털 기술에 대한 주권, 즉 ‘디지털 주권’ 논의에 박차를 가하게 됩니다.

한국 역시 디지털 주권 논의가 활발히 이루어져 왔습니다. 한국의 디지털 주권 논의는 2016년 구글이 고정밀 지도(1:5000 축척) 반출을 요청하면서 본격화되었죠. 첫 반출 요청이 있었던 2007년 이후 구글은 고정밀 지도 데이터를 해외 서버에서 처리할 수 있게 해 달라고 여러 차례 요청했으나, 한국 정부는 국가 안보와 데이터 주권 훼손 가능성을 이유로 매번 반출 불허 결정을 내려 왔죠. 그리고 19년 만인 올해 2월, 정부는 일부 데이터만, 국내 기업이 국내 서버에서 가공한 후 구글에 제공하는 것에 합의했습니다. 국내 데이터의 해외 반출을 제한하는 한편 국내 사업자에 의한 데이터 활용을 높이려는 한국 정부의 접근은 데이터 주권에 대한 의지를 보여주죠.

국가가 디지털 기술을 통제하기 위해서는 무엇이 필요할까요. 국가로서는 안타깝게도(?) 국가가 직접 나서서 디지털 기술을 개발하는 것은 여러모로 비효율적입니다. 대규모의 디지털 기술을 개발하고 서비스하는 것은 일반적으로 기업이죠. 기업은 디지털 기술을 설계하고 개발하는 등 기술을 직접적으로 통제합니다. 즉, 국가 주권은 기업에게 달려 있게 됩니다. 이러한 까닭에 디지털 주권은 디지털 기업 주권(digital corporate sovereignty)이라고 불리기도 합니다. 이제 국가가 할 수 있는 일은 진흥과 규제의 각종 정책 수단을 동원하여 기업을 통제하는 것이죠.

아이러니하게도 이러한 과정에서 기업은 국가와 한층 가까워집니다. 국가는 자국에 기반을 두고 활동하는 기업이 부디 성공하여 자국민, 나아가 전세계 시장에서 인정받기를 바라기 때문입니다. 게다가 주권 행사와 관련된 거의 모든 분야에서 기업의 도움이 필요한 처지이기도 하죠. 국가가 할 수 있는 것은 법률이 허용하는 범위 내에서 기업을 도구화하는 것입니다. 한편 자국 기업은 이왕 이렇게 된 거 국가로부터 해외시장 진출 지원, 데이터 접근권, 자원의 우선 확보 등의 혜택을 얻으려 하죠. 국가와 자국 기업 간 상호 의존적 관계가 형성됩니다.

디지털 주권 논의는 소버린 AI 시대에도 동일하게 이어집니다. 특히 세계 지정학적 질서가 재편되는 상황에서 미국과 중국을 비롯한 주요 국가들은 자국 기업의 AI 역량을 전략 자산으로 간주하기 시작한 것이죠. AI는 경제군사적 게임체인저로 거론됩니다. AI 기술을 둘러싼 세계 경쟁이 시장 경쟁의 의미 넘어선 지 오래되었습니다. 가치 체제 간의 구조적 경쟁에서 우위를 점하기 위한 패권 전쟁에서 AI 기술 경쟁력은 주권의 열쇠로 이해되고 있죠.

수준 높은 AI를 개발하고 국가에 제공하는 것이야말로 애국이라는 레토릭도 눈에 띕니다. 한국의 독자적인 AI 파운데이션 모델은 ‘국가대표 AI’이고, 이를 개발하는 기업은 ‘국가대표’라고 불리죠. 이제 AI 기업들은 각국을 대표하는 대리자로 국가 안보를 위해 세계 속에서 경쟁하는 것으로 인식됩니다. 국가는 이들 기업을 육성하고 보호할 ‘의무’가 있는데, 그래야만 AI 주권을 지킬 수 있기 때문입니다.

이제 AI는 기술 그 이상의 이름, 즉 한 국가의 자존과 안보를 담보하는 가장 강력한 주권의 상징이 되어가고 있습니다. ‘주권’이라는 거대한 이상은 국가와 기업의 밀착을 정당화하고, 자칫 기업의 이윤 논리가 공공의 가치를 압도하거나, 국가가 기술을 감시와 통제의 도구로 활용하게 되는 것은 아닐까요. 이들의 주권 논의에서 시민은 어디에 있을까요?

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.