과도하게 오만한 야심과 과학적 인본주의의 자부심, 이 상반된 태도가 하나로 합쳐져 지어내는 이 기이한 역설은 곧장 인간은 낡고 쓸모 없는 존재라는 결론으로 우리를 이끌고 바로 이 역설의 빛, 아니 그림자 속에서 인간의 의한 인간공학과 관련된 온갖 윤리적적인 질문들이 생겨난다 (…) 자연이나 신에 의해 부여 된 금기를 위반 했다는 사실은 그 자체로 윤리적 문제가 될 수 없다. 하지만 그들이 아무런 제약도 받지 않는다는 점은 확실히 문제다. 자기 제약의 원리의 기본하지 않는 자유롭고 자율적인 인간 사회는 존재할 수 없기 때문이다.
—장피에르 뒤피 <마음은 어떻게 기계가 되었나>

더 나은 미래를 생각하며

by 💂🏻죠셉

전 구글 CEO인 에릭 슈미트(Eric Schmidt)의 책 <새로운 디지털 시대(The New Digital Age)>은 여러 의미로 저에게 이정표와 같은 책입니다. 시민권, 국가의 미래, 전쟁과 국방 문제 등 사회 전반에 걸쳐 디지털 기술이 어떤 변화를 불러올지 예측을 시도한 책인데, 아마 이 책에서 가장 많이 쓰인 영어 단어는 ‘better’가 아니었을까 합니다. 슈미트와 공저자인 제러드 코헨은 디지털 기술이 가져올 장밋빛 미래를 상세하게 그리고 있는데, 책을 다 읽은 저에겐 그들이 제시한 미래의 그 무엇도 지금보다 나아 보이지가 않았습니다. (정확히 기억나지는 않지만, 딥마인드의 창업자인 데미스 하사비스가 ‘알약으로 식사를 대체하는 효율적 미래’를 웃으며 이야기하는 걸 보며 느끼는 감정과 비슷했던 것 같습니다) 아, 기술의 미래를 선도해 나가는 리더들이 그리는 세상은 이렇게 다르구나. 아무것도 하지 않고 있다 보면 내가 살고 싶은 좋은 세상과는 사뭇 다른 세상이 자연스레 도래해 있겠다. 그런 의미에서 놀라움을 안겨준 책이었죠. 

지난 한 주 소셜 미디어에서 크게 바이럴 된 연구 결과가 있었습니다. 

- MIT 미디어랩의 연구진이 넉 달 동안 실험 참가자 54명을 세 그룹(1.LLM, 2. 웹 검색, 3. 아무 도구 없이 본인 두뇌만을 사용)으로 나눠 SAT 스타일의 에세이를 작성하게 하며 관찰

- 뇌의 전기적 활동을 측정하여 뇌 기능을 평가하는 EEG 테스트를 분석한 결과 LLM을 사용한 참가자들의 뇌 연결성이 가장 낮았음.

- LLM 사용자 중 83%는 방금 자신이 쓴 내용을 기억하지 못함 (vs AI를 사용하지 않은 경우는 11%)

- 단기적 생산성 향상을 얻은 대가로 장기적 사고 능력이 감소하는 이 현상을 연구자들은 인지 부채 (cognitive debt)라고 부름.

- 특히 우려스러운 건 인지 부채가 누적된다는 점으로, LLM 사용자가 이후 AI 없이 글을 쓰려하면 앞서 받은 영향이 여전히 남아 여전히 낮은 뇌 연결성을 보임. 

- 연구의 흥미로운 발견 중 하나는 AI 없이 자기 두뇌만을 사용한 그룹이 마지막 세션에서 LLM을 사용한 경우 오히려 뇌의 다양한 부위가 재활성화되는 모습을 보였다는 점. 

소식을 접한 사람들은 예상 가능한 결과였다고 말하면서도 자신의 두뇌만을 사용해 실험에 참여했던 참가자들에게 LLM을 얹었을 때 나온 결과에 고무되어 이 발견을 어떻게 교육 현장에서 활용할 수 있을지에 집중하자는 반응을 주로 보였습니다.

실제로 (모국어가 아닌) 영어로 아티클을 쓰는 걸 업으로 하는 저는 먼저 시간을 들여 글을 쓴 이후 일부 교정에 LLM을 사용하는 방식을 통해 많은 도움을 받아온 케이스입니다. 그런데 두뇌만을 사용하는 초반 작업의 시간이 갈수록 버거워지는 걸 느낍니다. 대충 원하는 걸 던져주면 알아서 뚝딱 만들어주는 ‘마술 지팡이’가 있단 걸 알아버렸기 때문이죠. 언제부턴가 굳이 안 해도 되는 고생을 하고 있다는 생각도 스멀스멀 생깁니다. 30년 넘게 AI 없이 글을 쓴 경험이 있어도 이런데, 학교에 입학해 과제란 걸 처음 할 때부터 각종 LLM을 사용할 수 있는 사람들은 어떨지 궁금해집니다. 이미 한번 편의를 경험한 사람들이 다시 이전으로 돌아갈 수 있을까요? 

그럼에도 제가 여전히 쓰는 이유, 글쓰기의 경험이 괴로우면서도 즐거움인 이유를 위 실험에 빗대어 생각해 보면, ‘뇌의 다양한 부분이 연결되는’ 느낌을 체화했기 때문인 것 같습니다. 글을 쓰다 보면 과거 어디서 본 것, 들었던 것, 생각했던 것들이 떠올라 연결되고, 처음엔 예상치도 못했던 방식으로 글이 완성되어 나가는 방식에서 얻는 유익이 포기하기 어려울 만큼 실제로 다가오기 때문이죠. 이는 더 나아가 나에게도 일종의 블랙박스와 같은 내면이 존재한다는 걸 상기시키는 방식이고, 일종의 존엄성을 지켜나갈 수단으로 여겨집니다. 

여러분은 어떠신가요? 낭만적이라고 느껴지겠지만 저는 어떤 방식으로든 이러한 삶의 방식이 가능한 많은 사람들에 의해 유지되고, 오히려 더 발견되어 나가면 좋겠습니다. 서두에 쓴 에릭 슈미트의 책 이야기로 돌아가 보자면, 이게 바로 제가 보고 싶은 더 나은 (better) 삶의 모습인 거겠죠. 하지만 내가 해냈다라는 느낌, 나의 세계가 또 한 번 확장되었다는 성취감 또한 누군가에겐 효율과 편의성을 위해 희생시킬 수 있는 가치입니다. 이렇듯 세상은 수많은 ‘더 나은(better)’의 각축전이 벌어지고 있는 현장이란 생각을 해봤습니다. 윤리가 궁극적으로 ‘좋은 삶’에 대한 성찰이란 점을 떠올려보면 우리가 쓰는 글, 매일의 대화 또한 윤리적 공론장, 일종의 권력 투쟁의 현장이라고 할 수 있겠죠. 

그런 의미에서 LLM이 뇌에 끼치는 영향을 숫자로 보여주는 객관적인 연구 결과도 유의미하지만, 이러한 기술이 개개인의 삶의 맥락과 결합해 영향을 미치는 다양한 양상을 보고 싶다고 생각하게 됩니다. 더 많은 사람들이 세심하고 주관적인 언어로, 다양한 작업 방식과 매체를 통해 들려주는 이야기를 듣고 싶습니다. 며칠 전 독일 막스 플랑크 사회인류학연구소장인 샹 바오의 인터뷰에서 읽은 인상 깊은 구절이 이런 제 바램을 잘 표현해 주는 것 같아 인용하며 마칩니다.

“새로운 문화 질서가 필요하다. 학자든 교육자든 예술가든, 우리는 더 다양한 작품·책·개념·기사를 만들어야 한다. AI가 우리를 지배할 것처럼 이야기하는 기사나 SNS가 아닌 다른 방식으로 세상을 보게끔 도와야 한다. 일상의 아름다움이나 평범한 사람들의 힘, 강인함을 구체적인 이미지와 언어로 만들어낼 사람들이 필요하다. 현재 AI가 강력하게 느껴지는 이유는 정책 언어로 쉽게 이야기할 수 있기 때문이다. 예를 들어 증시를 보면, 사람들이 AI 관련 주식을 엄청나게 산다. 이건 경제적인 현상뿐 아니라 상징적 효과도 있다. 모든 자본을 빨아들이는 것을 보고 사람들은 ‘와, AI는 진짜 강력하구나’ 생각한다. 또 전쟁에서 AI가 무기를 강화하는 것도 미디어로 접하며 마치 자신의 삶이 아무 의미 없는 깃털이나 나뭇잎처럼 느낀다. 그런데 작은 나뭇잎에도 아름다움은 있다. 그걸 표현할 수 있는 언어가 있어야 하고, 감수성을 길러야 한다. 이게 바로 교육자, 예술가, 학자의 역할이다. 또 개인 차원에서도 땅에 발을 딛기 위한 노력도 필요하다.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.