공약 된, 공약 되지 않은 AI 이야기

나쁘거나 잘못됐음을 암시하는 도덕주의적 판단으로 생각하도록 훈련을 받을수록, 사람들은 무엇이 옳고 그르고 좋고 나쁜가 하는 판단의 기준을 외부의 권위자에게 구하게 된다. ... 그러나 인간으로서 스스로의 느낌과 욕구를 분명히 인식할 때, 우리는 더 이상 온순한 하인이나 착한 노예가 되지 않는다.

—마셜 B.로젠버그 (캐서린 한 역), <비폭력대화>

공약 된, 공약 되지 않은 AI 이야기

by 🎶소소

안녕하세요. 🦜AI 윤리레터 독자님들! 다가오는 6월 3일 대한민국 제21대 대통령 선거를 앞두고, AI 윤리레터가 대선 AI 공약 특집을 준비하고 있습니다. 특정 후보의 공약을 분석하기보다는 자주 등장하는 AI 공약 키워드와 정책 관련 담론에 대한 생각을 풀어보고자 합니다. 오늘은 몇 가지 주제를 맛보기로 소개하고, 독자님들이 관심 있는 이야기도 들어보고자 합니다.

AI 공약의 주요 논의

1. 산업 진흥: AI 주권과 안보, 그리고 추격론

주요 후보들은 'AI 3대 강국 도약'을 공약으로 내세우고 있습니다. 100조 단위 대규모 투자 계획을 발표하기도 했는데요. AI가 국가 산업 경쟁력뿐만 아니라 안보의 핵심 기술이라는 취지에서입니다. 최근 딥시크(DeepSeek)의 등장으로 우리도 (상대적으로) 저비용으로도 고성능 AI 모델을 만들 수 있다는 낙관론도 이를 부추기고 있습니다. 대선 후보들은 지금이 효율적이고 집약적인 투자를 통해 기술 격차를 극복할 수 있는 골든타임이라고 주장합니다.

이러한 산업 진흥 분위기 속에서 ‘규제 완화’ 주장도 더욱 힘을 얻고 있습니다. 올해 초 통과된 ‘AI 기본법’의 규제 항목은 발효되기도 전에 ‘3년 유예’를 주장하는 추가 법안이 발의된 상황이 이를 분위기 변화를 여실히 보여줍니다.

2. AI 복지 국가

'전 국민 챗GPT 무료 제공'도 대선 공약으로 등장했습니다. '한국형 ChatGPT'를 개발해 국민 모두에게 선진국 수준의 AI를 무료로 제공하겠다는 것인데요. 이와 더불어 'AI 배당금' 개념도 등장하고 있습니다. AI 기술 발전으로 인한 이익을 사회 구성원들에게 분배하자는 것입니다. 이러한 공약이 실제로 디지털 격차를 해소하는 데 효과적일까요?

3. AI 전담 조직 신설

AI 전담 부처나 청 신설에 대한 논의도 활발합니다. AI의 중요성이 커지는 상황에서 정책적 집중도를 높이기 위한 시도로 볼 수 있지만, 이에 대한 우려의 목소리도 존재합니다. 새로운 정부 조직 신설은 항상 양날의 검입니다. AI 전담 부처가 생긴다면 정책적 집중도와 전문성은 높아질 수 있습니다. 하지만 관료제적 경직성과 부처 간 영역 다툼이라는 고질적 문제를 야기할 가능성도 있습니다.

현재 대선 AI 정책 담론은 주로 ‘성장', '강국 도약', ‘100조’ 등 화려한 구호를 외치고 있습니다. 한 편, AI가 우리 사회에 가져올 구조적 변화와 중요한 문제들이 논의의 사각지대에 놓여 있습니다. 우리가 어디로 가고 있는지, 그 길이 안전한지, 모두가 함께 갈 수 있는지에 대한 논의는 부족합니다. 그리하여 AI 윤리레터에서는 다음 주부터 대선 전까지 국내 주류 정책 담론에서 다루는 내용뿐만 아니라, 간과되고 있는 중요한 이슈들에 대해서 살펴보고자 합니다.

AI 공약에서 다뤄지지 않는...

1. AI 안전성

아직 해결되지 않은 AI의 잘못된 정보 생성, 딥페이크, 오류나 편향으로 인한 피해 문제가 이제 대선에서도 거의 다뤄지지 않고 있습니다. 얼마 전 AI 기본법이 통과될 당시만 해도 핵심 의제로 다뤄졌던 안전성 검증, 투명성 확보를 위한 고민들이 몇 개월 만에 모두 뒷전으로 밀려난 상황입니다.

2. 기후 및 환경 영향

AI 기술, 특히 대규모 언어 모델의 개발과 운영은 막대한 에너지를 소비합니다. 후보들은 AI 데이터센터 건설을 통한 'AI 고속도로' 구축, 'GPU 5만 개 이상 확보' 등을 공약으로 내세우고 있지만, 이에 따른 환경 영향과 지속가능성에 대한 이야기는 거의 보이지 않습니다.

3. 젠더 편향

AI 시스템에 내재된 젠더 편향은 기술적 문제를 넘어 사회적 불평등을 강화할 수 있는 문제입니다. 특히 여성 후보자가 단 한 명도 없는 이번 대선에서는 젠더 관점에서의 AI 정책 논의도 상대적으로 부족합니다.

4. 저작권의 공정이용과 창작자 권리 침해

AI 학습 데이터로 활용되는 창작물에 대한 저작권자의 권리, AI가 생성한 콘텐츠의 저작권 문제 등이 해결되지 않은 상태입니다. 특히 창작 노동의 가치가 AI에 의해 위협받는 상황에서, 창작자들의 권리를 보호하고 창작 생태계를 지켜내는 제도적 장치가 논의되어야 합니다.

5. 일자리 격변과 노동 대체

콜센터 상담원부터 신입 개발자의 자리까지 모두 AI의 일자리 대체 위협에서 자유롭지 않습니다. 또한 AI 개발을위한 데이터 작업 등 마이크로노동이라는 새로운 형태의 불안정 노동도 확산되고 있습니다. 이러한 노동시장의 변화에 우리 사회가 어떻게 대응해야 할지에 대한 논의가 필요합니다.

여러분은 우리에게 어떤 AI 정책이 필요하다고 생각하시나요? 위에서 다룬 주제들 외에도 중요하게 논의되어야 할 AI 정책 이슈가 생각나신다면 아래 버튼을 눌러 저희에게도 알려주세요. 나눠주신 이야기를 바탕으로 다음 호에서 더 심도 있는 논의를 이어가겠습니다.