이것은, 이 시대에 태어난 아이들이 '당신은 알고 있었으면서 무엇을 했습니까?'라고 물을 때 우리가 들려줄 수 있어야 할 종류의 이야기이다.
— 이자벨 스탱게르스 (김연화, 장하원 역), <다른 과학은 가능하다: '느린 과학' 선언>

<AI 2027>과 <정상기술로서의 AI>

by 🤔어쪈

지난 AI 윤리 레터에서는 구독자분들과 함께 두차례에 걸쳐 비판적 AI 담론의 두 입장, ‘실용주의’와 ‘근본주의’에 주목해서 대화를 이어갔습니다. 보통 이러한 논의는 정해진 답은 없으니 다양한 관점 사이의 적절한 중간 지점을 찾아야 한다는 말로 끝마치게 되곤 하죠. 오늘은 실용주의나 근본주의와 직접적인 관련은 없지만 원 저자의 말을 빌리자면 ‘아예 세계관이 달라 결코 양립할 수 없는’ 다른 차원의 두 진영과 그 사이의 논쟁을 소개해보고자 합니다. 이미 예전에 두차례에 걸쳐 다뤘던 프린스턴 대학의 아르빈드 나라야난(Arvind Narayanan)과 사야쉬 카푸어(Sayash Kapoor)의 <정상기술로서의 AI(AI as Normal Technology)>와 오픈AI 출신 연구자 다니엘 코코타일로(Daniel Kokotajlo)가 함께 쓴 것으로 유명세를 탄 AI 기술의 발전과 그에 따른 사회에 대한 미래 예측 시나리오 <AI 2027>입니다.

지난 4월 AI를 보통 내지는 정상 기술(normal technology)로 바라보자는 제안서를 발표했던 나라야난과 카푸어는 최근 뜨거운 반응에 힘입어 해당 명제를 재차 풀어 설명한 가이드 문서를 공유했습니다. 2022년부터 운영하던 뉴스레터 제목 역시 <AI Snake Oil>에서 <AI as Normal Technology>로 바꾸었죠. 저자들은 보통 또는 정상이라는 표현 때문에 발생하는 오해를 바로잡는 것으로 글을 시작합니다. 하지만 앞서 AI 윤리 레터를 통해서 접한 분들이라면 이미 충분히 다룬 부분이라서 넘어가도 괜찮을 것 같습니다. 이어지는 뒷부분은 AI를 정상 기술로 보는 관점이 어떻게 <AI 2027>류의 관점과 무엇이 어떻게 다르며 두 세계관이 왜 양립불가능한지를 서술하고 있습니다.

<AI 2027>은 AI 윤리 레터에서 소개한 적은 없지만 마찬가지로 지난 4월 발표 후 적잖은 파급력을 가져온 시나리오형 보고서입니다. 2027년에 초지능(superintelligence) 내지는 초인적인(superhuman) AI가 탄생할 것이라는 예측뿐만 아니라 그 과정과 시점별 사회상을 그럴 듯하게 그려냈죠. 여기서는 더 부연하기보다 아래 그림으로 설명을 대체하도록 하겠습니다. 참고로 OpenBrain은 글에 등장하는 허구의 AGI 기업 이름이고 (당연하게도 미국 회사이며, 글에는 DeepCent라는 중국 기업도 등장합니다), 글은 독자로 하여금 2027년 10월을 기준으로 오정렬(misalignment) 위험이 있는 AI 에이전트 개발 및 활용을 지속할지 멈출지를 선택하고 그에 따라 다른 결말에 이르도록 쓰였습니다.

이 구도는 결코 새롭지 않습니다. 한쪽에서는 AI 역시 그저 보통의 기술일 뿐이고 사회적 영향 역시 우리가 기술을 어떻게 개발하고 활용하는지에 따라 달라질 뿐더러 실질적인 변화는 기술 발전 속도보다 훨씬 느릴 것이라고 주장합니다. 초지능이라는 개념 자체에 의문을 표하며 설사 초지능이 등장하더라도 그로 인해 인류가 멸종하는 것과 같은 최후의 심판일은 오지 않는다고 잘라 말하죠. 반면 다른 한쪽에서는 이대로라면 초지능의 등장은 시간 문제이며, AI가 초지능을 향해 발전하고 있는만큼 더이상 이를 기술이라고 부르기 어렵거나 최소한 여타 기술과는 질적이나 양적으로 전혀 다른 존재라고 믿습니다. 기술 발전에 따른 파급력과 변화가 너무나 크고 빠른만큼 신속하고 정확한 예측과 대응이 중요하다고 강조합니다.

두 관점은 어찌보면 한 스펙트럼의 양쪽 끝에 놓인 것처럼 보입니다. 여론 역시 오픈AI를 비롯한 AI 기업들이 최신 모델을 내놓기 직전 호들갑을 떨며 하이프를 일삼을 땐 <AI 2027>과 같은 시나리오를 그리며 상상에 가득찬 기대와 우려로 가득하다가, 막상 출시 이후 실망하는 목소리가 주를 이루거나 관련 기업들의 주가가 하락하며 AI 거품론이 고개를 들 때 즈음엔 AI도 다른 기술과 크게 다르지 않다는 분석에 더 귀를 기울이죠. 실제로 <정상기술로서의 AI>는 GPT-5 출시 이후 그 성능에 대한 논란이 불거지면서 주목을 더 크게 받은 바 있습니다.

하지만 나라야난과 카푸어는 단호하게 GPT-5에 실망해서 자신들의 주장에 귀를 기울이기 시작한 사람이라면, 이른바 정상기술론을 잘못 이해한 것일 수 있다고 말합니다. <정상기술로서의 AI>는 AI의 가능성 또는 한계와 그에 따른 초지능 달성 가능 여부를 두고 <AI 2027>과 궤를 달리하는 것이 아니기 때문입니다. 그보다는 기술 발전이 어떻게 사회적 영향과 파급력을 가져오는지에 대한 인과관계를 이해하는 관점과 방식이 아예 다르다는 점을 강조합니다. 간략히 정리하자면 아래와 같습니다:

• 기술이 사회적 파급력을 가져오는 메커니즘과 속도
  • AI 정상기술론: 기술의 사회적 영향은 기술 개발과 배포·보급보다 채택·확산에 달려있음. 해당 과정에서는 기술 외적 요소가 더 크게 작용하며 이는 기술 발전 방향이나 속도에만 의존하는 것은 아님.
  • AI 2027: AI 기술의 성능이 발전함에 따라 즉각적이고 필연적인 사회적 변화가 발생함. 현재까지의 발전 속도를 고려할 때 2020년대 이내에 산업혁명에 비견될만한 미래가 올 것임.
• 예측가능성과 필요성, 위험 대응 방안
  • AI 정상기술론: 기술의 사회적 영향은 예측불가능함. 현재 기술 수준을 최대한 정확히 추적하며 그에 따른 위험은 개발보다 활용 시점과 현장에 초점을 맞춰 관리되어야 함.
  • AI 2027: 근미래에 대해 최대한 자세히 발생할 수 있는 일을 예측하고 그에 따른 준비가 필요함. 대응에 필요한 시간을 고려하여 시점을 정확히 맞추는 게 중요함.
• 초지능에 대한 입장과 실현 가능성
  • AI 정상기술론: 지능은 단선적이지 않기에 단순히 현재 AI 기술이 발전한다고 초지능이 등장한다고 볼 수 없음. AI의 자가학습은 순수하게 기술발전만으로는 불가능함.
  • AI 2027: 지금의 속도라면 AI의 자기학습이 머지 않았으며 해당 수준에 도달하는 순간 초지능의 탄생은 필연적임.

나라야난과 카푸어는 이전 글에서 잘못 생각한 지점을 바로잡기도 합니다. 우리가 새로운 AI 기술의 발명 시점에 있기 때문에 발전과 변화의 크기나 속도를 과대평가하고 있다고 주장했던 부분이죠. 기술이나 제품의 배포 내지는 보급(deployment)이 곧 채택(adoption)과 적응(adaptation), 즉 확산(diffusion)을 의미하는 것은 아니지만, 현재의 AI 기술은 대중에게 한번에 배포될 수 있는 환경을 갖췄기 때문에 채택 및 확산 속도 역시 실제로 빨라졌을 뿐 아니라 인지 편향을 제하더라도 변화가 훨씬 크게 체감되는 것은 사실이라고 적고 있습니다. 교체 주기가 훨씬 길었던 PC나 상당한 인프라 개발이 필요했던 인터넷의 보급과 달리 현 시대의 AI 모델은 한꺼번에 많은 사람들에게 지속적으로 배포되고 있다는 점을 언급하죠. 그럼에도 불구하고 우리가 걱정하는 경제나 일자리에 미칠 파급력이나 안전성과 같은 사회적 영향은 여전히 기술 그 자체에만 의존하기보다 사회와의 상호작용에 달려있다는 게 저자들의 핵심 주장입니다.

<정상기술로서의 AI> 저자들은 기술결정론을 거부한 자신들의 세계관은 <AI 2027>의 그것과는 결코 양립불가능하다고 선언합니다. 하지만 우리가 사는 현실에선 분명 두 세계관이 양립할 순 없을지언정 공존하고 있습니다. 저자들이 지적하듯 특정 세계관을 공유하는 사람 사이에선 그들의 가치, 개념, 논리 등은 전혀 미심쩍은 부분 없이 정합성이 들어맞기 마련입니다. 반대로 서로 다른 세계관 사이에서는 이러한 이해가 통용되지 않기 십상이죠. 하지만 둘 모두 엄연히 실존하며 특정 세계관에 속하지 않은 사람에게도 충분한 영향력과 생각할 거리를 던집니다. 이러한 상황에서 우리가 AI 정책이라는 이름으로 내리는 결정들은 현실적으로 양자택일이기보다 그 둘의 알 수 없는 혼종이 되기 쉽고, 일관적이기보다 모순적이기 일쑤일 겁니다. 요컨대 우리 모두는 서로 다른 세계관을 갖고 있지만 같은 세계에 살고 있기에 어떻게든 공동의 선택을 할 수 밖에 없는 상황입니다.

여기서부터는 양쪽 진영 모두 딱히 언급하지 않는 ‘어떤 AI를, 또 어떻게 만들 것인지’가 중요해집니다. AI 정책은 AI의, AI에 의한, AI를 위한 기술 정책이기 전에 어쩌면 너무 당연하게도, 사회 정책입니다. 두 관점이 기술의 사회적 영향을 둘러싼 논쟁을 벌일 때 간과하는 것은 AI가 누구의, 누구에 의한, 누구를 위한 기술인지에 대한 물음입니다. 앞으로도 계속해서 새로운 AI 모델이 등장하고 또 그에 따른 어떤 사회적 변화가 일어나거나 체감될 때마다 우리는 두 세계관을 소환하여 논쟁을 벌이게 될 겁니다. 하지만 우리가 잊어선 안되는 또다른 기술과 사회의 관계의 이면은 바로 기술을 개발하는 주체가 다름 아닌 우리, 즉 사회라는 사실과 이에 대한 각종 결정 (누가, 언제, 어디서, 무엇을, 어떻게, 왜) 역시 우리-사회에게 달려있다는 사실입니다.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.