글을 쓰면 그 즉시 형제가 손을 내밀고, 한 그루 나무가 정당성을 얻고 사랑이 태어난다. 절망한 문학은 그 말 자체가 이미 모순이다.
—알베르 카뮈, <안과 겉·결혼·여름>

지식을 생산하는 일과 AI 과학자

by 🥨채원

AI가 등장한 이래 많은 직업을 바꾸고 있죠. AI 윤리 레터에서도 이번 주 월요일 레터를 비롯, 이전부터 꾸준히 전해드린 소식이기도 합니다. AI가 할 수 있는, 혹은 할 수 있다고 믿어지는 분야가 늘어남에 따라서 콜센터 상담원, 회계사, 소프트웨어 개발자 등 여러 직업의 정의가 변하고 있습니다. 이러한 직업에 종사하는 사람들이 해야 하는 일들도, 갖춰야 한다고 기대되는 능력도, 미래의 전망도 변화하고 있습니다. 과학자라는 직업 또한 예외가 아닙니다.

‘바이브 코딩’이라는 말을 들어보셨을까요? 사람의 개입을 최소한으로 하는, AI 에이전트들에게 많은 권한과 업무를 위임하여 복잡한 일들을 처리하는 프로그래밍 방식을 일컫습니다. 프로그래밍에서 촉발된 이러한 자동화의 유행은 들불처럼 사회 여기저기에 퍼지고 있습니다. 과학이라는 분야 또한 마찬가지입니다. AI 과학자는 과학적 탐구, 특히 논문 작성을 자동화하는, 이른바 ‘파이프라인’을 구축하는 방식을 제안합니다. 해당 개념을 제안하고 널리 퍼뜨린 논문이 2024년에 크게 화제가 된 이래, 구글 스콜라 기준 현재 900회 이상 인용되었을 정도로 여전히 많은 관심을 받고 있습니다.

지난주에 전해드렸던 소위 ‘논문공장’ 문제에서도 볼 수 있듯이, 분명 논문을 작성하고 학회나 학회지에 발표하는 것은 과학자라는 직업이 수행해야 하는 가장 중요한 일 중 하나입니다. 그러므로 논문공장들이 하듯 이런 구조를 ‘해킹’하려는 시도가 있는 것이죠. 단순한 몇 문장만 넣어도 수 초 내에 그럴듯한 결과를 만들어줄 수 있다면, 어찌저찌 잘 해서 복잡한 연구 과정 또한 자동화해 줄 수 있지 않을까? 그렇다면 AI가 과학자 자체가 될 수 있는 것이 아닌가, 하는 질문을 던지는 것입니다. 어떤 주제를 탐구할 것인지 아이디어를 고민하는 단계부터 실험을 설계하고, 수행하고, 분석한 뒤, 최종 결과를 공유할 논문을 쓰는 것까지 모두 AI를 통해 자동화한다는 것이죠.

그렇다면 이러한 과학의 자동화가 인류 발전을 가속할 수 있을까요? 만약 과학자의 업이 그저 논문을 생산하는 것이라면, 분명 이러한 일의 속도가 빨라지기는 할 수도 있겠습니다. 그러나 과학자라는 직업의 가장 중요한 일은 뭘까요? 논문을 쓰고 발표하는 것이 일의 일부이기는 하지만 그것이 궁극적인 목표는 아닙니다. 논문은 각자가 연구한 내용을 공유하고 전하는 가장 보편적인 수단일 뿐, 업의 본질이라고 하기는 어렵습니다.

과학이라는 업의 본질은 진리를 탐구하고 지식을 생산하는 데에 있습니다. 그리고 지식 생산이라는 과학자들의 노동 또한 AI가 변화시키고 있는 것이 사실입니다. 그렇다면 과학자라는 일 또한 AI로 대체될까요? 현존하는 최고의 바둑 기사를 뛰어넘고, 새로운 단백질 구조를 발견하고, 사람이 찾지 못했던 사이버 보안 취약점을 찾는 AI라면 다른 것도 할 수 있지 않을까요?

그러나 이러한 관점이 대개 간과하는 사실이 있습니다. 과학은 우리가 살아가는 시대의 맥락 속에서 존재한다는 것입니다. 전 세계가 팬데믹을 겪을 때 백신을 개발하고, 전쟁에 사용할 무기를 개발하는 등의 응용 연구뿐만 아닙니다. 몇천 년 전 지구에서 일어난 일들을 탐구하고, 우주에서 새로운 별을 찾고, 물리적 현상을 설명하기 위한, 추상적 수의 세계를 이해하려는 기초 과학 또한 시대적 맥락에서 벗어나지 않습니다. 특히 공적 자금을 기반으로 설립된 교육, 연구 기관이라면 더더욱 그렇습니다.

지식 생산 과정에서 가장 어렵고, 중요한 단계는 바로 연구가 시작되기 전, 무엇을 연구할지 결정하는 단계입니다. 소위 ‘질문을 위한 질문’을 던지는 단계입니다. 연구자 개인 차원으로는 짧게는 몇 년, 길게는 평생 천착할 주제를 찾는 단계이자, 좀 더 광범위한 과학이라는 제도의 보편적 관점에서 보면 우리 사회의 지식이 진보할 방향성을 정하는 단계입니다. 그리고 이러한 결정은 수많은 변수를 기반으로 만들어집니다. ‘지금 가능한 연구 방법은 무엇인가?’, ‘내가 지금 잘할 수 있는 연구는 무엇인가?’ 등 수많은 질문이 따르겠지만, 특히 ‘지금 우리 사회에 필요한 지식은 무엇인가?’ 하는 고민을 빼놓을 수는 없을 것입니다.

결국 무엇을 연구할 것인가 하는 질문은 지금 우리 사회에 필요한 지식이 무엇인지 파악하는 것이고, 그것은 본질적으로 가치판단이 필요합니다. 여기에는 분명한 정답도 오답도 없고, 끊임없이 사회와 소통하며 진실에 최대한 가까워지기 위해 노력해야 하는 무한한 진행형의 문제입니다. 그러므로 과학이라는 업은 논문 작성뿐만 아니라 대중과 소통하고, 왜 이런 연구가 필요한지 설득하고, 그에 따라 어떤 정책이 만들어져야 하는지 제안하는 것까지도 포함합니다. 내가 지금 살고 있는 세상과 완전히 무관한 연구는 없습니다. 연구란 어딘가의 자원이 없이는 이루어질 수 없고, 그런 자원들은 특정한 가치판단에 의해서 분배되기 때문입니다. 우리 사회의 지식 생산을 ‘AI 과학자’가 대신할 수 없는 이유입니다.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.