[개발의 지속가능성에 대한] 문제를 제기한 사람들의 주장은 경청되기는커녕 우리를 동굴로 다시 보내려 한다며 공격과 조롱을 받았다! 물론 일부 혁신이 원치 않는 결과를 초래할 수 있다는 점이 겉으로는 인정되었지만, 기술과학적 진보가 반드시 그 피해를 해결할 방법을 찾아낼 것이라는 말이 덧붙여졌다. 그 점을 의심하는 것은 곧 진보를 의심하는 것이다! 그리고 우리가 알다시피, 그러한 의심은 불경스러운 것이다.
—이자벨 스탱게르스 (김연화, 장하원 역), 『다른 과학은 가능하다, '느린 과학' 선언』 (에디토리얼, 2025)

<🦜AI 윤리 레터> 성과보고회에서 나눈 고민

by 🤖아침

지난 7월 열린 2025 한국인터넷거버넌스포럼(KrIGF)에서 “<🦜AI 윤리 레터> 성과보고를 통해 살펴보는 한국 AI 윤리 대중담론의 현재와 미래”라는 다소 거창한 제목의 세션을 진행했습니다. 한국어로 된 (아마도 최초의) AI 윤리 중심 콘텐츠 채널로서 <🦜AI 윤리 레터>가 다뤄온 주요 주제와 뉴스레터 안팎으로 진행한 각종 활동, 그리고 지향점과 고민을 소개했습니다.

이 년간 170여 통의 뉴스레터를 보내며 느낀 점이 몇 가지 있습니다. 하나는 산업/정책의 언어에서 한쪽엔 ‘초지능의 존재론적 위협’, 다른 쪽엔 ‘만능 자동화 기반 AI 국가주의’를 내세운 AI 하이프가 수그러들 줄 모른다는 것입니다. 한편 각 분야에서 예상과 비판이 제기된 AI 기술의 실질적이고 사회적인 위험과 해악은 현실화, 본격화하는 추세입니다. 마지막으로 현 상태에 답답함을 느끼고 비판적 대안에 관심 있는 사람은 많지만 단절된 편입니다.

AI 관련 전략/가이드라인 문서 종류를 살펴보면 ‘기술 개발 과정에 이해당사자가 참여해야 한다’라는 내용이 곧잘 등장합니다. 하지만 현실이 그러한가요? AI 기술의 기획, 생산, 활용 전 과정에서 다양한 목소리가 정말 반영되고 있다고 보기는 어려울 것 같습니다. 오히려 대부분의 사람은 소비자나 기술의 영향을 받는 처지에 머무르며 기술 산업이 정해주는 미래를 받아들이는 것 외에 별다른 선택지가 없어 보입니다.

뉴스레터 내부 회의록을 복기하다 보니 이런 메모가 남아 있더군요. “대안과 실천, ‘무엇을 할 것인가’에 대한 상상이 더 많으면 좋겠습니다.” KrIGF 세션 토론자 두 분도 이러한 상상과 연결되는 사전 질문을 건넸습니다.

• “기술의 이면에 대해 비판적으로 사고하는 사람들이 모여 대화하고, 질문과 아이디어를 공유하며, 이를 프로젝트나 활동, 행동으로 이어가는 것에 대해 (함께) 어떤 노력이나 제안을 상상/시도할 수 있을까요?” (송수연)
• “인간으로 표현되는 기술 이면의 사람, 그 사람들이 지향하는 가치의 충돌. 다른 가치를 지향하며 현실을 인내하는 사람들을 어떻게 모을까?” (권오현)

결국 다른 기술, 다른 미래를 위해서는 비판과 대안을 실천하는 사람들이 연결하고 협력할 수 있어야 하고, 이러한 연결과 협력을 어떻게 만들어낼 것인지가 앞으로 제가 풀고 싶은 숙제이기도 합니다. 이에 관해 송수연, 권오현 두 패널리스트와 나눈 이야기를 독자 여러분과도 공유하고 싶습니다. 아래는 가독성을 위해 간추린 편집본입니다.

발표 슬라이드 자료
세션 녹화본

2025 KrIGF 토론 내용 요지

송수연: 기술과 뉴미디어로 작업을 하며 비판적 대안에 관심이 있는 사람으로서 AI 기술 변화 속도가 너무 빠르다는 것을 체감하고 있다. 이런 상황에서 여러 주제를 다뤄온 ‘AI 윤리 레터’는 시의적인 쟁점을 접하게 해 준 채널이었다.

기술은 종종 블랙박스에 비유된다. 작동 방식을 모르는 상태에서 기술을 깊이 있게 이해하기는 쉽지 않다. 하지만 공학적 이해만 옳은 것은 아니며, 사회적·문화적인 맥락에서 은유적·비판적 해석과 비판이 다양하게 축적·교차하면서 대중적 담론이 형성된다. 기술적 현안에 대해 사회적 응답이 필요할 때 여러 관점에서 볼 수 있도록 비판적 기술 담론의 다층화, 즉 다양한 목소리가 필요하다고 생각한다. 매년 <포킹룸Forkingroom>이라는 행사를 통해 예술의 접점에 있는 분들과 함께 중요한 기술 이슈를 논의하는 작은 담론의 장을 기획해 오고 있는데, 진행할수록 기술, 사회, 예술의 접점에서 유의미한 담론의 자리는 어떤 형태일지 고민은 계속 남는다. 기술에 관해 비판적인 관점을 가진 사람들이 많이 있다고 말씀해 주셨는데, 그들이 개별의 경험·공통의 경험을 서로 순환시키고 유기적으로 연결하기 위해 어떤 활동을 할 수 있을까? 그것이 한국의 맥락 위에서 시작된다면 무엇이 좋을까?

고아침: 말씀하신 것 같은 문화예술 영역의 커뮤니티 활동도 중요한 실천이고, 학술적인 논의나 언론 보도 역시 활발하다. 다만 학술·언론 등 전통적 담론 공간이 다양한 목소리를 충분히 담아내고 있는지는 의문이며, 그렇다면 어떤 대안이 더 필요한지 찾아보고 있다. 뉴스레터는 AI 윤리 북클럽에서 출발한 느슨한 커뮤니티 프로젝트인데, 이 프로젝트를 더 가시화하거나 형식화하는 활동이 필요할지 고민 중.

권오현: 발제자가 ‘AI 국가주의’라고 표현한 현실에서 한국의 발전을 위해서 AI는 무조건 해야 하는 것이고 AI 3대 강국을 달성해야 한다는 전제에 온 국민이 휩쓸리는 상황이다. 이런 담론 불균형 상태를 개선하려는 노력이 마치 땡볕 아래서 물을 뿌리고 있는 듯한 느낌도 들지만 그래도 의미 있는 일이라고 본다. 주류 빅테크 담론의 배후로 많이 지목되는 피터 틸의 말을 끌어오자면, 0에서 1을 만드는 [기존에 없던 새로운 것을 창조하는] 일이 엄청난 가능성을 가진다고 본다.

적지 않은 사람들이 ‘나 요즘 AI에 관심있다’고 이야기 할 때, 그 관심에 담긴 내용은 AI 기술이 가져올 사회 변화와 이에 대한 각자 혹은 사회의 대응은 무엇이 가능한지에 대한 질문이다. AI 기술을 어떻게 만들고 활용할까를 실천하기 전에 우리가 반드시 다뤘어야 할 주제다. 현재 AI 만능론이 지배적인 상황에서 대안적인 논의, 즉 위험 규제나 소비자 권리 보호 수준을 넘어서는 [다른 상상력을 제시하는] 담론을 어떤 식으로 호명할 수 있을까? 어떤 기술이 공동체에 어떻게 기여하고, 생태적 한계 안에서 어디까지 발전시켜야 하고, 기술을 빅테크가 아니라 시민들이 공동으로 소유하고, 이러한 지향점에 (단순히 ‘다양한 목소리’라는 추상적인 표현을 넘어서) 이름을 부여하고 담론을 만들어 나갈 필요가 있다.

AI 의인화의 문제도 지적했는데, 인간으로 표현되는 기술 이면의 사람들이 가진 가치들이 충돌하고 있는 것 같다. AI 만능론자들이 AI 뒤에 숨어서 여러 가능성을 약속하고 있는 상황에서 그 가치와 다른, 시민들이 추구하는 가치는 어떤 이름을 붙일 수 있을까? 그런 가치를 막연하게 느끼면서 현실을 인내하고 답답해하는, 비판적 대안에 관심을 가진 사람들을 어떻게 모을 수 있을까? 이런 것들이 중요한 과제로 보인다.

고아침: AI 만능론의 중요한 한 형태는 거대 모델 만능주의다. 대규모 데이터와 연산을 투입한 모델이 예상보다 잘 작동하는 추세가 앞으로도 계속될 것이라는 가정에 크게 베팅하고 있는 상황. 한국에서 구축하려는 ‘AI 고속도로’(데이터센터 인프라)도 만약 현재 기술 패러다임의 천장이 생각보다 빠른 시점에 온다면 산업적 판단 미스가 될 위험이 있다. 경제 성장만 좇지 말고 사회적 가치를 챙기는 것도 중요하지만, 동시에 기술에 접근하는 방식 자체의 다양성 또한 필요하다. 나아가 AI 기술의 혜택이라는 관념 자체를 재정의할 필요가 있다. 한국이 소버린 AI를 만들어서 특정 기업이 잘 만든 상용 서비스를 전 국민이 이용하면 그게 공익일까?

권오현: AI 기술 발전에 노력을 기울이지 말자는 이야기를 하기는 어렵지만, AI나 그 이전의 정보화 기술이 경제성장에 정말 기여했는지 의문을 제기하는 주장도 다양하다. 기술 발전이 지금 약속하는 경제 발전마저도 기여하지 못할 가능성에 대해서도 공동체는 마치 보험을 들듯이 다양한 시도와 관점을 준비해야 한다. 근본적으로는  우리가 기술을 가지고 정말로 뭘 할 것인지, 우리 공동체를 위해서 어떤 이득을 줄 것인지에 관한 다양한 가능성을 상상하는 논의도 늘어나기를 기대한다.

송수연: 기술 접근 방식의 다양성이 필요하다는 말에 깊이 공감한다. 요즘 주로 생성형 AI를 쓰면서, 대기업이 만든 도구에만 의존하면 성과는 빠르더라도 그 기술을 비판적 거리를 두고 보기는 어렵다. 로컬 환경에서 작은 모델로도 충분히 시도할 수 있는 방법도 가능하다. 기술에 대한 개인의 자율성이 높아져야 한다.

• 송수연 님이 속한 팀 ‘언메이크랩’은 국립현대미술관 서울관에서 열리는 《올해의 작가상 2025》의 작가로 선정되어 전시에 참여중입니다(~2026-02-01).
• 필자가 2020년에 언메이크랩과 진행한 인터뷰
• 권오현 님은 디지털 공론장을 설계하는 일에 힘쓰며 사회적협동조합 빠띠를 10년째 이끌고 있습니다.
• 권오현 빠띠 대표 인터뷰 (한겨레)

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.