우리에게는 불행을 초래할 의도가 아니라, 불행을 초래할 의지가 있다. [중략] 우리가 성차별이나 인종차별주의에 관해 이야기하는 것은 사람들을 불행하게 만들려는 의도에서가 아니다. 설령 그것이 사람들을 불행하게 만들지라도 우리는 성차별이나 인종차별주의에 관해 이야기할 의지가 있는 것이다.
— 사라 아메드 (김다봄 옮김), <페미니스트 킬조이>, 37쪽 (북이십일 아르테, 2023)

'실용주의와 근본주의'에 보태는 글

by 🤖아침

오늘은 독자님이 남겨주신 의견으로 글을 열어봅니다.

제 개인의 입장은 실용주의자에 가까우면서도, 근본주의자들이 필연적으로 존재해야 실용주의자의 의견도 유의미할 수 있다는 생각이 드는데요. 얼핏 생각해보면 실용주의자는 온건적인 입장으로 합리적 의사결정을 내리는 것 같지만, 극단에 위치한 사람의 의견이 계속 도출되어야 생각 못한 부분을 인지할 수 있지 않을까 싶습니다. 비슷한 관점에서, 정치에 있어서도 소수당의 대선 도전과 그들을 향한 지지자들의 연대가 늘 더 건강한 민주주의를 만드는 데 도움이 될 거라 생각해서요. 그래서 필연적으로 근본주의자들의 의견이 묵살되지 않게, 다수는 실용주의자의 방향을 걷더라도 소수의 근본적 의문이 계속해서 가시화 될 수 있게 그 다양성을 유지하는 방법이 중요하지 않을까 싶습니다. (이태현 님)

소중한 이야기 감사합니다. 참고로 10/15일자 뉴스레터에서 채원님이 다음과 같이 표현한 바 있는데요.

‘근본주의자’들은 AI라는 기술 자체가 근본적으로 잘못되었으므로, AI를 사용하는 것 자체에 비판적입니다. [중략] 한편 ‘실용주의자’들은, 우리가 어떻게 생각하는가와 관계없이 AI는 이미 존재하고 널리 쓰이는 기술이므로, 공공의 이익을 위해 AI를 활용할 방법을 찾아야 한다고 생각하는 사람들입니다.

남겨주신 의견을 다시 요약하자면 현재 존재하는 AI 기술을 인정하고 공익적인 활용 방안을 찾는 온건한 입장을 강조하되, AI 기술 자체의 근본적인 문제를 제기하는 소수 입장도 고려하여 관점의 다양성을 확보해야 한다는 말씀으로 볼 수 있을 듯합니다.

설문조사를 돌려본 건 아니지만 짐작컨대 많은 분들이 독자님과 비슷하게 생각하실 것 같습니다. 저도 양쪽 관점이 모두 유의미하다고 생각합니다만, 실용주의=온건=다수, 근본주의=극단=소수라는 프레이밍에는 동의하지 않는데요. 어떤 의미에서는 소위 '근본주의적' 입장이라고 표현한 관점이야말로 실용적이며, '실용주의적' 입장이 오히려 근본주의적(negative)일 수 있다고도 봅니다.

기술을 '거부'한다는 말의 뜻

단순화한 이분법이지만 편의를 위해 계속 이용하자면, AI에 관한 비판적 관점 중 '실용주의'와 '근본주의'를 구분하는 중요한 차이점은 현존하는 AI 기술을 받아들일지 아니면 거부할지에 있다고 할 수 있습니다. 여기서 하나 강조하고 싶은 게 있는데요. ‘기술을 거부한다’거나 ‘AI 사용에 비판적이다’라고 할 때, 저는 이 말이 ‘내가 개인으로서 챗지피티를 이용하지 않는다’와는 별개의 이야기라고 봅니다. AI를 근본적으로 비판하는 사람 중에서도 AI 도구 이용자와 비이용자가 섞여 있겠죠. 방점은 ‘사용하느냐 마느냐’보다는 기술이라는 것을 근본적으로 어떻게 보는지에 있다고 생각합니다.

'실용주의'에서 AI 기술은 주어진 것, 적응 내지는 대응해야 할 대상으로 상정되며 그것을 거부하는 일은 불가능하거나, 적어도 비현실적인 일이 됩니다. 그렇다면 기술 자체의 활용 여부를 왈가왈부하기보다, 기술을 해로운 방향보다는 유익한 방향으로 활용하는 일이 중요하겠죠. '근본주의'에서는 AI 기술을 거부하거나 적어도 지금과 다른 형태로 재발명하는 가능성을 바라봅니다. 기술을 유익하게 활용하는 데 그치는 게 아니라, 기술 자체를 다시 만들 수 있으며 그래야 한다는 것이지요.

그렇다면 실용주의와 근본주의의 차이점은 AI 기술이 만들어지는 과정에 우리가, 즉 (소수 테크 기업이나 정부가 아닌) AI 기술의 영향을 받는 다수의 사람들이 영향을 미칠 수 있는지 없는지에 관한 입장 차이이기도 합니다. 실용주의에서는 우리가 어떤 AI 기술이 만들어지는지에 관여할 수 없거나, 관여하려는 시도가 실효성을 갖기 어렵습니다. 대신 우리가 할 수 있는 역할은 기술을 잘 이용하거나 기술을 둘러싼 사회규범을 만들어내는 것이 됩니다. 반면 근본주의에서는 어떤 AI 기술을 만들지에 우리가 관여해야 하며, 관여할 수 없는 구조 자체를 바꿔야 한다고 지적합니다.

"다를 수도 있다": 어디에 개입할 것인가?

여기서 '실용주의'에 대해 다음과 같은 질문을 던져봅니다. 기술 자체를 바꿀 수 있다는 믿음 없이도 그 기술이 작용하는 사회를 바꿀 수 있을까요? (기술이 다른 모든 것을 결정한다는 말을 하려는 것은 아니지만요) 우리가 영향을 미칠 수 있는 영역을 ‘주어진 기술의 활용’으로 제한하고 ‘어떤 기술이 주어지는지’에 개입하지 못한다면, 너무나 많은 결정권을 잃게 되는 것 아닐까요. 어쩌면 주어진 기술을 받아들이면서도 보다 나은 사회를 만들 수 있다는 관점이야말로 이상주의적이며, 기술을 불가침의 영역으로 상정한다는 의미에서 근본주의적이지 않나요?

과학기술학에는 '다를 수도 있다(It could be otherwise)'는 유명한 격언이 있습니다. 이 말의 함의는 현재 우리가 사용하고 우리를 대상으로 사용되는 기술이 어떤 필연적이고 불가피한 원리에 의해 그렇게 된 것이 아니라, 여러 정치적・역사적 맥락과 물질적 조건의 결과로서 만들어진 것이라는 뜻입니다. 기술은 사회적으로 구성되기에, 어쩔 수 없는 기술 같은 것은 없으며 기술은 지금과 다를 수도 있다는 것입니다.

'마음만 먹으면 그 어떤 기술이건 가능하다'라는 이야기는 아닙니다. 많은 권력과 자본이 지식생산 시스템과 맞물려 작동한 결과로 생겨나는 것이 기술이기에, 제가 아무리 개인적으로 굳건히 결의를 다져본들 기술 패러다임이 달라지거나 하지는 않겠죠. 하지만 중요한 것은 AI 기술의 활용뿐만 아니라 그것이 만들어지는 복잡한 과정 역시 결국은 사람이 하는 일이라는 사실입니다. 사람이 하는 일에는 개입하여 바꿀 여지가 있습니다. 좋은 쪽이건 나쁜 쪽이건 어떤 방향으로 그것을 끌고 갈 수 있고, 실제로 기술을 특정한 방향으로 끌어가기 위해 (AI 업계를 포함해) 많은 사람이 막대한 노력을 기울이고 있습니다. 그 노력의 과정을 테크 기업이 알아서 하도록 할 것이 아니라, 더 다양한 사람이 함께 관여해야 합니다.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.