나는 콜센터를 떠올리며 그렇다고, 이런 일자리는 그냥 사라지는 게 더 낫겠다고 생각했다. 하지만 상상이 현실이 된 광경을 보니 그것이 얼마나 철없는 생각인지 깨달았다. 없어져도 상관없는 것에, 없어지는 게 오히려 나을 수도 있는 무언가 때문에, 사람들이 영하의 길거리에서 그것을 돌려달라고 소리치고 있을 리 없었다.
—한승태, <어떤 동사의 멸종: 사라지는 직업들의 비망록>

AI 윤리 뉴스 브리프

2025년10월 셋째주
by 🎶소소

AI 윤리 레터 구독자 여러분, 긴 추석 연휴 충전의 시간 보내셨길 바랍니다. 저는 오랜만에 둘러앉은 친척들과 Sora 2로 만든 영상을 보며 신기함과 우려하는 마음을 나누기도 했는데요. 할아버지, 할머니부터 손주들까지 AI 이야기를 나눌 만큼 AI가 일상이 된 시기임을 실감했습니다. 물론, 이제 갓 백일 된 아가를 돌보는 저에게는 AI 따위보다는 아가를 봐주는 친척들 손 하나하나가 더 소중했지만요.

1. 야, 너도 만들 수 있어 AI

추석 연휴 동안 오픈AI의 개발자 콘퍼런스 데브데이(DevDay)가 열렸습니다. 오픈AI는 AI를 ‘더 쉽고 빠르게’ 개발할 수 있도록 하는 몇 가지 업데이트를 발표했습니다. 몇 분 안에 동작하는 AI 에이전트를 만들고, 직접 쓰는 코드 한 줄 없이 실시간 음성으로 프로그래밍하는 데모가 꽤 인상적이었습니다.

샘 올트먼은 “지금이 역사상 무언가를 만들기에 가장 좋은 시기”라고 말했습니다. 3년 만에 전 세계 8억 명이 쓰게 된 챗GPT를 포함해, 오픈AI가 만드는 생태계는 더 확장될 것으로 보입니다. 그리고 우리는 오픈AI가 새로운 생태계의 심판이자 선수가 될 수 있음에는 유의해야겠습니다. 이미 소라 2는 출시 직후 저작권 침해 논란에 또 휘말렸습니다.

같은 날 애플의 전설적인 디자이너 조니 아이브는 샘 올트먼과의 대담에서 "우리를 행복하고 충만하게 하며, 더 평화롭고 덜 불안하고 덜 단절된 상태로 만들어주는 도구를 만들고 싶다"고 말했습니다. 그들이 만드는 도구가 진정으로 우리에게 평화를 줄 수 있기를 바랍니다.

2. AI가 언제든 나를 대체할 수 있다면

서울교통공사가 암 투병 중인 강희선 성우의 목소리를 AI로 대체할 계획을 세웠다는 사실이 알려지며 논란이 일었습니다. 강희선 성우는 지난 29년간 서울 지하철 역사 내 안내 방송을 맡아왔는데, 최근 암 투병으로 마이크를 내려놓게 되었습니다.

한국성우협회와 동료 성우들은 “당사자의 동의 없이 인공지능으로 학습해 목소리를 사용하는 것은 명백한 인격권 침해”라며 강하게 반발했습니다. 서울교통공사는 “AI 도입을 공식 검토한 바 없다”고 해명했지만, ‘AI가 언제든 대체 가능한 인간’의 또 다른 형태를 보여준 사건입니다.

연휴 동안 친척 한 분이 물었습니다.

“AI가 발전하면서 일자리가 줄어든다는데, 그럼 우리 아이들은 어떤 분야로 가는 게 좋을까?”

AI 분야에서 일하며 수없이 듣는 질문이지만, 막상 진로를 고민하는 동생을 위한 답변이라고 생각하니 어떻게 대답해야 할지 망설여지더라고요. 저는 "지금으로서는 대체되지 않을 거라고 확신할 수 있는 분야는 없다"라는 모호한 답변을 할 수밖에 없었습니다. 이제 분야보다 중요한 것은 언제든 다른 분야에서 새로 시작할 수 있는 ‘유연성’이 아닐까 하는 생각이 듭니다. 그러나 29년을 한 분야에 종사해 온 노동자에게도 유연성을 갖추라고 이야기할 수 있을까요? 급변하는 노동 시장 변화에 개인이 적응할 수 있도록 하는 지원이 우선이겠지요.

3. AI가 만들면, 인간이 다시 고치는 현실

동료가 보낸 업무 메일을 읽다가 ‘이거… AI로 대충 쓴 거 같은데?’라는 의심이 들 때가 종종 있습니다. 동료에게 어떻게 말해야 하나 고민하곤 했었는데요. 저만의 경험은 아닌듯합니다. 미국 내 여러 산업 분야의 직원 1,150명을 대상으로 한 조사에서 40%가 ‘AI로 생성된 저품질 업무 콘텐츠’를 경험했다고 합니다. 이른바 ‘워크슬롭(Workslop)’이라는 ‘겉보기엔 일을 완성한 것처럼 보이지만 실제로는 과업 달성에 도움이 되지 않는 일’이 늘고 있다는 것입니다.

AI가 생성한 엉성한 문서나 이메일을 받은 동료는 그것을 다시 읽고, 수정하고, 검증해야 합니다. 결국 AI가 일의 효율을 높이기는커녕, 노동의 부담을 다른 이에게 전가하는 결과를 낳고 있는 것입니다. 산업 전체가 ‘AI는 지름길’이라는 환상에 사로잡혀있지만, 그렇지 않은 현실을 계속해서 지켜봐야 하겠습니다.

4. 법정에 등장한 가짜 판례

드디어(?) 우리나라에서 법정에서도 AI의 환각이 문제를 일으켰습니다. 최근 한 변호사가 생성형AI가 만든 허위 판례를 법원에 제출했다가 발각된 것입니다.

법원행정처 관계자는 “AI가 만들어낸 허위 판례 제출 사례가 늘고 있어 대응 방안을 검토 중”이라고 밝혔습니다. 법조계에서는 고객도 파트너도 AI를 써 통에 진위 판단 업무가 엄청나게 늘었다고 합니다. AI가 모두를 전문가로 만들어 준다더니, 이제는 기존의 전문가도 믿을 수 없는 세상이 되고 있습니다.

위에서 말한 워크슬롭의 또 다른 형태일 수도 있겠습니다. AI가 만든 오류를 사람이 다시 검증하느라 더 많은 노동이 필요해지는 역설적인 상황입니다. 이제 AI로 “무엇을 만들 수 있는가?”가 아니라 “어떻게 책임질 것인가?”를 더 깊이 고민해야 할지도 모르겠습니다.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.