우리가 누군가를 사랑할 때 우리는 그를 특정 짓는 목록들을 사랑하는 것이 아니다. 그 목록이 그 사람을 다른 사람과 완벽하게 구분하고 세세한 특징들을 다 포함한다고 해도 그렇다 (...) 가장 완벽한 모사도 그 ‘무언가(something)’를 포착 하는 데는 실패한다. 그리고 사랑의 본질은 바로 이 ‘무언가’, 모든 것을 말하지만 아무것도 설명할 수 없는 이 어설픈 단어에 있다. 나는 스스로를 세계에 창조자 또는 재창조자로 설정하려는 사람들이 세계에 거주하는 존재들의 무언가에 대해서는 아무것도 모른 채 오직 그 존재들을 묘사하는 특징에 목록만을 가지고 있다는 사실이 무척 두렵다. 만약 나노기술의 꿈이 현실이 되고 세계의 모든 존재가 시뮬레이션이 된다면 우리가 오늘날 사랑이라고 부르는 것은 결코 이해할 수 없는 것이 되고 말 것이다.

— 장-피에르 뒤피, <마음은 어떻게 기계가 되었나>

AI 시대 철학 하기

by 💂죠셉

AI 윤리레터 북클럽은 지날 세 달간 ‘AI의 시대 철학 하기’라는 주제로 함께 읽었습니다. 정보 철학의 굵직한 계보를 따라가는 <인공지능 시대의 철학자들>로 시작해 사이버네틱스의 역사를 추적하는 <마음은 어떻게 기계가 되었나>를 차례로 읽었는데요. 여러모로 현재의 인공지능을 이해하는 데 사이버네틱스(cybernetics)가 그 중요성에 비해 많이 언급되지 않고 있다는 걸 다시 한번 생각하는 계기가 됐습니다.

이 단어가 낯선 분들을 위해 간략히 요약해 보자면, 사이버네틱스는 1940년대 등장한 학문 분야로, 생물체와 기계 시스템에서 공통으로 나타나는 정보 처리, 피드백, 제어 메커니즘을 연구한 다학제 연구를 통칭합니다. ‘정보’를 기계와 인간의 핵심 요소로 보는 관점을 기반으로 언어를 쓰는 인간뿐만 아니라 기계 또한 인간이나 동물, 다른 기계들과 소통할 수 있다는 아이디어를 제시했죠. 비교적 우리에게 익숙한 노버트 위너와 폰 노이만을 포함한 당대 최고의 수학자, 철학자, 심리학자, 생물학자 등 다양한 연구자들이 참여해 한때 시대정신이라고 불릴 만큼 큰 파급력을 만들어낸 지적 흐름이기도 했습니다. 비록 이젠 독립된 학문으로서는 어느 대학 커리큘럼에서도 찾아보기 힘든 이름이 됐지만, 정보 이론, 인공지능, 인지과학부터 환경과학과 현대 경제 이론까지 수많은 학문 분야의 토대가 됐다는 평가를 받습니다. 

의미의 유실을 무릅쓰고 거칠게 요약하자면 ‘인간은 기계와 다르지 않다’를 과학으로 증명하고 정립하기 위한 시도라 할 수도 있겠습니다. 그런데 <마음은 어떻게 기계가 되었나>를 쓴 장-피에르 뒤피에 따르면 사이버네틱스의 목표는 흔히 생각하듯 기계를 인간처럼 만드는 게 아니라, ‘마음을 기계로 만드는 것’이었다고 합니다. 저는 이 지점이 특히 주목할 만하다고 느꼈습니다.

“사이버네틱스는 마음에 대해 두 가지 신조를 가지고 있었다. 하나는 마음은 계산이고 계산은 알고리즘이라 불리는 특별한 기계에 의해 수행 된다는 신념이고 다른 하나는 마음은 어떤 신비한 실체에 의존 하지 않고 물리법칙으로 온전히 설명 될 수 있다는 신념이다 (...) 그 꿈이 실제로 이루어질 것인가와 상관 없이 그것들은 사람들의 마음에 스며들어 있다는 사실 만으로 사람들이 세계와 자신을 바라보는 방식을 바꿔 놓는다.” <마음은 어떻게 기계가 되었나> 중

그렇기에 과거 사이버네틱스의 이상이 지금 인공지능이라는 결과물을 통해 어떤 식으로 현재에 영향력을 끼치고 있는지 살펴보는 작업은 흥미롭고, 중요합니다. 달리 말하면 인공지능이 어떻게 ‘인간에 대한 인간의 이해’를 변경하고 있는지를 살펴보는 일이라 할 수 있겠는데요.

헐값에 팔아요

장강명 작가의 <먼저 온 미래>를 세 번째 책으로 선정한 이유입니다. 이 책을 읽지 않았다고 해도 아마 많은 사람들이 최근 이세돌 사범의 인터뷰를 통해 2016년 알파고 이후 바둑계에 일어난 변화에 대해 들어봤을 겁니다. 바둑을 두는 방식부터 소비하는 방식, 매체가 중계하는 방식까지 아우르는 이 변화를 단순한 산업 구조의 재편 정도로 보는 시각은 표면적이라고, 풍부한 자료 조사와 관계자 인터뷰를 통해 이 책은 말하고 있습니다. 특히 바둑에 있어 어떤 이들에게는 승부만큼이나 중요한 가치였던 기풍(바둑을 둘 때 드러나는 각자의 개성, 혹은 그렇다고 믿었던 것)을 둘러싼 사람들의 생각과 경험이 어떻게 인공지능의 등장과 함께 도전받고, 새롭게 정의되어 가는지를 읽다 보면 우리는 ‘어떻게 마음은 기계가 되었는가?’, 즉 사이버네틱스를 떠올리지 않을 수 없습니다. 바둑의 기풍처럼 쉽게 정의 내리거나 수량화될 수 없는 많은 것들, 가령 이 책에서도 언급되는 ‘재미’라든지 ‘문학성’ 같은 것들의 미래는 어떨까요?

AI가 얼마나 인간과 비슷해졌는지에 놀라고, 여전히 인간만이 할 수 있는 것에 주목하는 각종 매체 기사와 콘텐츠에서 볼 수 있듯 우리는 많은 경우 ‘인간 같은 기계’에 주목합니다. 하지만 그 반대(기계 같아지는 인간)에 관한 이야기는 상대적으로 적습니다. 눈에 보이는 성능이나 벤치마크 숫자 등으로 확인되는 전자와는 다르게 후자는 점진적, 질적인 변화이기 때문이겠죠. 기계 같은 인간이 꼭 사이보그 신체를 의미하진 않습니다. 가령 생산성과 효율성을 최고의 가치로 내재화한 인간, 그것이 자신을 평가하는 유일한 잣대가 되어버린 인간을 의미할 수도 있겠죠. 혹은 자신을 숫자로 환원될 수 있는 정보 그 이상의 무엇으로 상상하기를 멈춰버린 인간을 뜻할 수도 있습니다. AGI와 초지능에 투자되는 자본과 전 세계적 주의는 계속 증가하는데, 인간에 대한 인간의 이해는 어떤가요? 그걸 마음, 정신, 영혼, 창발…뭐라고 부르던 우리는 스스로 만들어낸 기계의 놀라움에만 정신이 팔려 정작 종으로서 스스로 가능성을 제한하고 있는 건 아닐까? 하는 생각이 들었습니다.

이는 단순히 ‘AI가 하지 못하는 무언가’를 개발하는 생존의 문제를 넘어 존엄의 문제이기도 합니다. 1980년 ‘전문가 시스템’으로 한차례 붐을 맞았던 AI를 관찰했던 인도 출신 철학자인 지두 크리슈나무르티(Jiddu Krishnamurti)가 인간 스스로가 자신의 마음(mind)에 무관심해졌을 때의 위험을 경고하기 위해 사용한 표현이 의미심장합니다. ‘인간은 자신을 헐값에 넘겨주고 있다 (We’re selling ourselves short)’ 바둑계에 일어난 변화는 바로 그런 의미에서 먼저 온 미래, 참고해야 할 케이스 스터디라고 할 수 있겠습니다.

윤리로서의 윤리

탄탄한 리서치로 겹겹히 논증을 쌓은 초중반부를 이어 받는 책의 결론부, 즉 9/10장이 너무 추상적이었다는 평을 봤습니다. 작가의 입장에서 생각해보자면 어쩔 수 없는 선택이었을 것 같습니다. 기술 비평에 익숙한 독자가 보기엔 비교적 온건한(?) 9/10장의 비판적 성찰로 인해 저자의 ‘러다이트’ 논란이 제기될 정도로 현재 AI를 둘러싼 담론은 (절대적 양과 영향력 모두에서) 한 쪽으로 많이 기울어져 있기 때문이죠. 기술에 대한 비판이 무력한 목소리로 여겨지는 분위기에서 ‘가치가 이끄는 기술’에 대해 이야기하고 기술의 중립성이라는 신화에 이의를 제기하려면 현실이 아닌 대안적 미래를 이야기하게 되고, 그 작업은 개념적, 사변적일 수 밖에 없습니다. 

하지만 저는 9/10장이야말로 이 책의 중요성을 드러내 주고 있다고 생각합니다. 

기술이 개발되고, 사용되는 과정에서 유실되는 어떤 ‘가치’들에 더 주목해야 한다고 말하며 저자가 ‘좋은 삶’에 대한 이야기를 꺼내기 때문인데요. (가령 통신 기술이 제공한 연결이 우리가 외로움을 견디는 힘을 훼손하고 왜곡한다면, 삶이 더 좋아졌다고 말할 수 있는가? 같은 질문) ‘좋은 삶이 무엇인가?’라는 질문이 윤리의 핵심임에도 지금의 AI 윤리 담론에서 크게 간과되고 있는 게 사실입니다. (예전 지면을 빌려 이걸 ‘개인 층위’ 개념으로 소개해 드린 바 있습니다) 엄밀한 의미에서의 윤리보다는 규범, 즉 효과적 규제에 초점을 맞춰 왔죠. 이해가 되지 않는 건 아닙니다. 거대 자본이 움직이고, 국가 단위 개입이 이뤄지는 상황을 보며 개인 단위의 윤리와 실천을 이야기하다 보면 무력감을 느끼기 쉽습니다.

실제로 지난 몇 년간 AI에 대한 기술 비평을 시도한 굵직한 저작 중 해결책으로 규범을 내세우는 경우가 많았습니다. <권력과 진보>나 <시스템 에러>가 그랬고, AI를 직접적으로 다루지는 않았지만, 많이 읽힌 <도둑맞은 집중력>과 같은 책도 결론은 비슷했죠. 그런데 지난 몇 년간 위와 비슷한 책들을 여러 북클럽에서 많은 사람과 함께 읽으며 느낀 건, 대부분의 일반 독자가 시스템 단위 규제를 강조하는 결론에서 무력감을 느끼기도 한다는 사실입니다. 아, 내가 당장 할 수 있는 건 아무것도 없구나. 거대 시스템 앞에서 나의 행동과 결심은 대세에 어떤 변화도 줄 수 없구나. 어떻게 해도 무력감을 느껴야 한다면, AI의 미래는 오로지 규제 정책을 만들어갈 수 있는 사람들의 몫인 걸까요?

챗GPT가 세상에 공개된 지 어느새 3년이 되어갑니다. 폭주 기관차처럼 돌진하는 AI 하이프에 대한 규제가 중요했던 초반이었지만 이젠 더 복합적이고 다양한 시도가 필요한 게 아닐까요. 가령 위 그림에서 말하는 개인 층위(윤리)와 규제 층위(규범)의 시너지 효과를 위해서는 ‘윤리로서의 윤리’를 말하는 시도가 더 많아져야 합니다. 그런 의미에서 좋은 삶을 고민하는 개개인에게 주목한 <먼저 온 미래>는 하나의 유의미한 시작이자 분기점이라고 믿고 싶습니다. 이전에 비슷한 방식의 기술 비평을 시도한 책이 없었던 건 아니지만, 1) 저자 정도의 영향력을 가진 이가, 2) 이런 주제로 낸 책이, 3) 한국에서 이 정도의 반향을 일으키고 있다는 사실은 비슷한 목소리를 내어온 저를 포함한 많은 이들에게 응원의 메시지처럼 느껴집니다.

쓰지 않으면 도태된다는 메시지의 융단 폭격 속에서 나는 AI를 어떻게, 어디까지 사용해야 내가 살고 싶은 ‘좋은 삶’에 부합하는지의 고민은 중요합니다. 그럴 시간이 없다면 지금 내가 중요하게 여기는 어떤 가치는 어느 순간 바둑의 기풍처럼 형태를 알아볼 수 없게 사라져 있을지도 모르니까요. ‘먹고살기에 바쁜데 그럴 시간이 어딨냐’, ‘엘리트주의적이다’라는 비판에 일부 동의합니다. 하지만 그렇다고 해서 윤리가 갑자기 덜 중요해지는 건 아닙니다. 이전엔 저런 고민을 해본 적이 없는 사람 중 몇 사람이라도 그럴 수 있다면 누군가는 계속 목소리를 내야겠죠. 무엇보다 각자의 고유한 삶의 맥락 속에서 나는 AI를 사용하며 어떤 고민을 하고 있고, 어떤 결정을 내렸고, 그로 인해 얼마나 좋은 삶이 되었는지 공유하는 작고 소심한 목소리가 더 많아지면 좋겠습니다. 지난번 공유한 샹 바오 소장의 말처럼 ‘AI가 우리를 지배할 것처럼 이야기하는 기사나 SNS가 아닌 다른 방식으로 세상을 볼’수 있도록, ‘일상의 아름다움이나 평범한 사람들의 힘, 강인함을 이미지와 언어로 만들어낼’ 구체성을 가진 개인의 목소리 말이죠.

저는 작년 11월 이세돌 사범의 서울대 강연을 다녀와 ‘알파고가 지나간 자리’라는 제목의 글을 여기 남긴 적이 있습니다. 당시 글의 취지와 맞지 않아 소셜 미디어에만 남긴 글로 오늘 글을 마무리하겠습니다.

"AI 관련 행사에서 섣부른 미래 예측과 책임질 수 없는 숫자 대신 축적된 시간을 살아낸 '사람'에 주목할 수 있는 드문 기회였다는 생각이 듭니다. AI라는 현상을 마주한 이후 고민하고, 좌절했고, 인생의 방향이 바뀐 사람. 그 무게감에 기인한 영감이 분명 있었어요. 모두가 혼란스러운 세상에서 지금 필요한 건 바로 이런 개인의 맥락, 서로의 윤리적 상상력을 확장해 줄 이야기의 공유라고 느꼈습니다."

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.