커먼즈는 세계를 하나의 방향성으로 '진보'시키고자 하는 시도가 아닙니다. 커먼즈는 세계가 언제나 우발적인 복수의 프로젝트임을 인지하고 세계의 가변성에 몸을 적극적으로 집어넣어서 다른 방식의 세계 짓기를 지금, 여기서 시작하는 것입니다.
—한디디, <커먼즈란 무엇인가> (빨간소금, 2024)

선거가 끝나도 계속 할 이야기

by 🤖아침

내일은 제21대 대통령선거 본투표일입니다. 12·3 비상계엄으로부터 정확히 6개월 지난 시점에 한국 정치가 다음 발을 내딛습니다. 독자 여러분은 누구에게 표를 던질지 마음을 정하셨나요? 이미 투표하셨을 수도 있겠습니다.

모르긴 몰라도, AI 공약을 최우선 기준 삼아 지지 후보를 고른 사람은 거의 없을 것 같네요. AI라는 단어가 참 많이도 사용되었지만, 그것이 선거운동 과정에서 정말 중요한 의제였는지는 의문입니다.

그렇긴 해도 주요 후보, 특히 양당 후보는 AI를 대문짝만하게 내세우며 많은 정책공약을 실제로 제시했습니다. 공약 중 적어도 일부는 현실이 될 겁니다. 이들 정책은 단지 AI 산업이나 과학기술연구 분야뿐만 아니라, 각종 AI 시스템이 진입 중인 사회의 수많은 영역이 앞으로 어떤 영향을 받을지 조정하는 키 역할을 합니다.

그런데 대부분의 논의는 한국 AI 산업을 어떻게 육성할 것인지에 집중합니다. AI 산업이 경제성장을 가져올 것이라는 전제는 당연한 것처럼 깔려 있고, AI 기술과 인프라에 약속하는 막대한 투자의 기회비용이나, AI 기술과 연관되어 생기는 각종 사회적 문제는 잘 이야기되지 않습니다. 그나마 민주노동당 권영국 후보가 AI에 대한 민주적 통제, AI로 취약해지는 시민 권리 보호, 기후 문제 대응 등을 공약한 정도입니다.

AI 윤리 레터는 대선을 맞아 5월 중순부터 AI 정책 담론과, 정책에서 누락된 담론을 집중적으로 살펴봤습니다.

• 시급한 기술 실업 대응책, 기술의 영향을 받는 노동자도 의사결정에 참여할 수 있으려면?
• AI 산업이 창작 노동에 미치는 악영향과 대응책은?
• AI 정책은 기후 정책이고, 기후 정책은 AI 정책일 수밖에 없는 이유
• AI 오남용 및 의존성 등 심화하는 윤리·안전 문제 대응과, 의견 수렴을 위한 거버넌스는?
• 규제 완화는 “산업 육성을 위한 전략적인 재규제”, 시장 자유화가 아니라 오히려 기업과 국가의 결속 강화
• R&D, AI 투자, 플랫폼 규제 등 공약이 실효성을 가지려면?

여기 적힌 것 말고도 중요한 이야기가 많습니다. 예컨대 AI의 군사적 활용과 이른바 ‘국방 AI’라는 키워드로 추진되는 예산 투입도 다퉈볼 여지가 많은 주제죠. 그밖에 어떤 쟁점이 있을까요? 선거 이후 우리 사회는 AI 기술과 어떤 관계를 맺어 나갈까요? 산업 육성 논리가 모든 논의를 집어삼키지 않으려면 우리는 어떤 이야기를 해야 할까요?

시민사회가 이번 선거 국면에서 제시한 정책 제안서들이 도움이 될 것 같습니다. 이들 요구안은 각 시민단체가 평소 쌓아온 활동을 바탕으로, 현재 한국 사회에서 다루어져야 하는 정책적 쟁점을 제시하는 문서니까요. 아래 AI 관련 내용을 추려봤으니 살펴보시면 좋겠습니다. 선거가 끝난다고 정책 담론도 사그라드는 게 아니라, 오히려 더욱 본격화하고 풍성해지길 기대합니다.

📌30개 인권·노동·언론·환경·소비자 등 시민사회단체
<21대 대통령선거 디지털·AI 시대 민주주의 정책 요구>

• AI 안전과 실업 문제에 대한 국가적 대응 체계
  • AI 실업 문제에 대응하는 국가적 협의기구 설치
  • AI 거버넌스에 시민·노동자의 민주적 참여 보장
  • AI 위험과 침해에 대응하는 국가 규제 보장
  • 국가 감시 및 공권력 집행의 AI화 통제
  • AI 피해에 대한 구제 보장과 국제조약 가입
  • 공공 AI의 민주성 보장
• 알고리즘 편향과 디지털 차별 방지
  • 알고리즘 차별을 방지하는 차별금지법
  • 디지털 공론장 및 디지털 성폭력에 대한 플랫폼 책무성 강화
  • AI 격차 해소 및 리터러시 보장
• 빅테크의 데이터 및 자원 남용 방지
  • 빅테크 기업의 투명성 및 책무성 보장
  • AI 개발과 활용에서 개인정보 오남용 방지
  • 지속가능한 환경을 보장하는 AI 국가

📌윤석열 즉각 퇴진 사회대개혁 비상행동 (사회대개혁특별위원회)
<사회대개혁 과제>
디지털 환경에서 빅테크 기업의 책임성 강화와 시민 인권 보호, 젠더 폭력 방지

• 개인정보보호법 개정 및 개인정보보호위원회의 독립성 강화
• 인공지능의 위험으로부터 시민의 안전과 인권을 보호할 수 있는 제도 마련
• 정보통신 기술에 젠더 관점 개입을 위한 제도적 기반 마련
• 기술 매개 젠더폭력 인터넷서비스 사업자 책임 강화
• 디지털 공간 내 성적 괴롭힘 처벌법 입법
• 빅테크 플랫폼의 사회적 책무성을 강화하는 제도 마련

📌문화연대
<우리의 인공지능은 정녕 민주주의와 멀어지려는가>

• 사회적 검증과 숙의를 통한 AI 시민권 보장책 마련
• AI 확산이 초래할 사회적 피해 대비
• 사회적 약자 눈높이의 AI 기술 설계 수립
• 인권·생명 중심의 AI 철학과 정책 전제
• AI 노동권 보호를 위한 실질적 대책 마련
• ‘AI 주권’의 플랫폼 기업 남용 경계
• 예술·문화 영역의 창작 생태계 보호
• AI의 군사적 위험성에 대한 국제 논의 참여

📌녹색에너지전략연구소·녹색전환연구소·플랜1.5
<2025 다음 정부에 제안하는 ‘시민의 삶’을 지킬 30대 기후정책>
기후와 경제를 모두 살리는 ‘그린 AI’ 구현

• RE100 데이터센터 구현
• 고효율 저전력 데이터센터 의무화
• 기후에 대응하는 인공지능 기본법 개정
• 녹색 AI 지원할 녹색산업 정책 도입

📌참여연대
<내란을 넘어 더 단단한 민주주의로>
안전과 인권, 민주주의 보장하는 인공지능

• 비윤리적, 비도덕적 AI 금지 및 규제
• 국민의 인권과 안전에 미치는 위험에 대응하기 위한 적정한 규제체계 마련
• AI를 독립적이고 효과적으로 관리할 수 있는 독립적 감독기구 설립
• 기술 전문가, 관료 이외에 영향을 받는 시민들을 포함하는 거버넌스 구성
• 공공에 도입되는 AI의 투명성, 책임성 및 설명가능성 보장
• AI 개발과 활용에서 개인정보 오남용 방지
• 알고리즘으로 인한 공론장 왜곡을 막기 위해 플랫폼기업의 책임성, 투명성 강화
• AI 개발과 운영에 드는 에너지 정보 및 환경과 기후에 미치는 영향 공개 및 평가, 적정한 규제
• AI 피해에 대한 구제 절차 마련 및 AI 리터러시 강화

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.