무서운 것은 다른 견해를 가진 사람들을 죽이는 게 아니다. 그들의 견해가 옳을지도 모른다는 게 무서운 것이다.
—조지 오웰, <1984>

소버린 AI도 국민추천 받으면 안되나요

by 🥨채원 & 🤖아침

월요일 브리프에서 전해드린 것처럼, 네이버 클라우드 출신의 하정우 AI 혁신센터장이 AI미래기회수석에 내정되며 그가 주장해 왔던 소버린 AI에 대한 내용도 재조명되는 듯합니다. 근래 중요한 주제였던 만큼 🦜AI 윤리 레터에서도 관련 내용을 종종 전해드렸습니다. 

소버린 AI는 보통 각 국가가 자체 데이터와 인프라를 가지고 그 국가의 특수한 문화, 가치관 등을 반영하여 구축한 AI를 의미합니다. 하정우는 소버린 AI를 ‘한국 가치관’을 잘 대변하는 AI, 스타트업 생태계를 살려 경제의 선순환을 만드는 AI 등으로 일컬어 왔습니다. 미국이나 중국 등 제3국에 기대지 않고, 자체적인 인프라와 데이터를 갖추는 것이 국가 경쟁력이라는 논의와도 맞닿아 있다는 점에서 '소버린 AI'는 'AI 국가주의'로도 읽힙니다.

AI NOW 연구소에서 2024년 발간한 에세이집 <인공지능 국가주의 AI Nationalism(s)>는 미국, EU, 인도, 영국, 남아공, 아랍에미리트 등의 국가 주도 AI 육성 정책을 살펴봅니다. 각국 산업 정책의 공통점은 어떤 것이 있을까요?

우선 AI 분야 공공-민간 협력 사업을 통해 AI 업계의 수익은 보장하고 리스크는 국가에 전가하는 경향을 볼 수 있습니다. 이러한 진흥책은 [AI=혁신, 규제=경쟁력 약화] 프레임에 힘입어 이른바 탈규제와 함께 AI 산업 정책의 골자를 이룹니다(예전 호에서 지적했듯이 규제 완화가 반드시 무개입을 의미하는 것은 아니며, 오히려 자국 산업을 보호하기 위한 적극적 조치로도 읽을 수 있습니다).

AI 산업은 진입장벽과 초기비용이 많이 들기 때문에 독점화 경향이 크며, 역사적으로 각국 정부는 이러한 독점산업을 국가권력의 확장으로 다루려 해왔습니다. 이런 관점에서는 AI 기술과 AI 기업을 국가 경제/안보 측면에서 중요 자산으로 간주합니다. 예컨대 아랍에미리트는 '절대적 주권', '진보', '미래 전쟁 우위'를 가져다줄 AI에 대한 기대(환상)로 국가 역점 사업을 추진하고 있다는 것이죠. 여기서는 미-중 2강 구도를 벗어난 아랍어 LLM을 통해 미개척 시장을 확보하는 것 또한 중요한 전략이 되는데, 이 또한 하정우식 소버린 AI 구상이 떠오르는 대목입니다.

AI 국가주의 산업 정책은 AI가 사회적, 지정학적으로 중요하며, 따라서 AI를 국가가 육성해야 한다는 논리를 강화합니다. 하지만 정말 AI가 우리 모두를 잘 살게 해줄까요? 챗지피티의 흥행 이후로 기술 진보에 관한 낙관적 전망은 차고 넘치지만, (의학/기상연구 등) 단편적인 사례를 제외하면 AI 산업 특히 생성형 AI에 대한 투자가 구체적으로 얼마만큼의 혜택을 가져오는지 학문적, 정책적으로 체계적 근거가 있다고 보기는 어렵습니다. 반면 복지, 교육 등 실생활과 밀접한 분야에서 인력 대체 및 예산 삭감을 추진하고, 감시 기술로 인권이 침해되는 등 위험과 피해는 빠르게 현실화하고 있습니다.

소버린 AI와 같은 AI 국가주의 정책은 AI 기술의 잠재력에 대한 강한 낙관에 근거해 AI를 경제적/지정학적 필수 국가 자산으로 간주하고, 민간 분야 즉 AI 업계와 국가 경제를 운명공동체로 결합합니다. 이 거대한 베팅을 통해 생겨나는 이익은 AI 업계에 돌아가고, 각종 리스크는 국가와 사회 전체가 함께 집니다.

이번 정부에서 AI 및 유관 산업에 막대한 자금이 투입되는 것은 어느 정도 정해진 순서로 보입니다. 하지만 그럴수록, 그 과정에서 누가 어떤 혜택을 얻게 되며 또 누가 어떤 위험에 처할 것인지 우리는 더 구체적으로 따져봐야 합니다. 한국의 소버린 AI에 반영되어야 할 ‘한국의 가치관’은 무엇일까요?

‘국민주권정부’라고 불릴 이재명 정부에서는 국민참여제로 장관 추천을 받고 있습니다. 마침, 소버린(sovereign)도 주권(sovereignty)이라는 뜻을 가진 단어죠. 국민이 AI 주권을 가진다면 그건 어떤 모습일까요. ("대한민국의 주권은 국민에게 있고, 모든 권력은 국민으로부터 나온다" - 헌법 제1조 제2항입니다.) 소버린 AI도 장관 추천 같은 창구를 통해 국민의 의견을 들어보는 건 어떨까요? 시민사회가 제안하는 AI 관련 정책도 검토하고요. 그 전에 독자 여러분께 먼저 여쭤봅니다. 한국의 소버린 AI는 챗지피티나 클로드와 어떤 점이 어떻게 달라야 할까요?

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.