그런 디지털 시스템은 증명 가능하게 안전할 때가 많지만, 현실에서는 여전히 공격에 취약하다.
—스튜어트 러셀, <어떻게 인간과 공존하는 인공지능을 만들 것인가>

AI 윤리 뉴스 브리프

2025년 2월 둘째 주
by 🧑‍🎓민기

1. 현대자동차 휴머노이드 도입 논란

• 지난 며칠 휴머노이드 로봇의 현대자동차 공장 도입에 관한 논쟁이 뜨거웠습니다. 현대차그룹이 휴머노이드 로봇 ‘아틀라스’의 대량생산을 예고하자, 전국금속노동조합(금속노조) 현대자동차지부가 내부 소식지에 ‘노사 합의 없는 AI 로봇 도입에 반대한다’는 글을 실은 것이 단독 보도된 것입니다. 이 소식에 대통령까지 러다이트 운동 비유를 꺼내며, “흘러오는 거대한 수레를 피할 수 없다. 결국 그 사회에 빨리 적응해야 한다”고 언급하기도 했습니다.
• 그러나 언론에 비친 분위기와 실제 내용은 사뭇 다릅니다. 금속노조는 반박 논평을 냈습니다. 현대자동차지부는 신기술 도입에 노동자의 안전과 처우에 영향이 예상되기에 기존 협약에 따라 협상을 요구했을 뿐, 노동조합의 목소리가 왜곡되었다는 것입니다. 현대자동차지부 관계자 역시 “덮어놓고 반대하는 게 아니다. 노사 합의를 통해 해결해나가자는 게 우리 입장”이라고 말했습니다. 민주노총 위원장은 “온 사회가 고민해 합의하는 과정이 절실히 필요하다”고 요청했고요. 일부 언론의 자극적 보도에 대해 “국내 물량이 미국으로 빨려 들어 갈 수 있다는 게 노조의 우려”라며 일부 언론이 노조 혐오를 부추기기 위해 해외 물량 이전이라는 우려를 외면했다는 지적도 나왔습니다.
• AI 윤리 레터는 AI 기술에 대한 맹목적인 열광(하이프, hype)에서 벗어나자는 취지로 소식을 전하고 있습니다. 이번 논란에서도 마치 극적으로 성장한 신기술 때문에 대충돌이 일어날 것과 같은 자극적 연출이 AI 하이프에 편승해 논란을 키웠습니다. 일부 언론은 “노-로 갈등”이라는 신조어를 제목에 쓰기도 했습니다. 로봇 투입의 당사자인 현대자동차와 노동자의 입장은 뒷전으로 밀려나고, 신기술 도입에 찬성하느냐 반대하느냐의 프레임만 남았습니다. 정부와 책임있는 주체들이 진지한 대화의 장을 열고, 무엇이 사회 전체를 위해 긍정적인 방향인가 토론해야 합니다. 이번 논란에 비추어 현 정부의 AI 정책을 두고 ‘기술 낙관주의’와 ‘성장주의’ 발전론에 빠져 있다(문화연대), 국가AI전략위원회에서 일자리와 노동권 문제를 심도 있게 다루지 못하고 있다는 지적도 나왔습니다. ‘러다이트는 대안이 아니다’라고 말하기 전에, 대안을 얘기할 준비가 되어 있는지 물어야 하지 않을까요.

2. 몰트북 보안 취약성 논란

• ‘몰트북(Moltbook)’ 이슈를 다루기에 적절한 시점이 된 것 같습니다. 오스트리아 개발자 피터 스타인버거(Peter Steinberger)는 지난달 말 오픈소스 AI 에이전트 도구 ‘오픈클로(OpenClaw)’를 공개했습니다. 클로드봇(Clawdbot), 몰트봇(Moltbot)을 거쳐 기존 도구의 이름을 새로 바꾼 것인데요, 사용자의 PC나 서버에서 돌아가면서 사용자가 할 수 있는 작업들을 그대로 수행합니다.
• 오픈클로는 그 자체보다도, AI 에이전트가 생성한 텍스트를 다른 AI 에이전트에게 공유할 수 있는 ‘몰트북’ 때문에 더 큰 관심을 받았습니다. 마치 사람이 사용하는 게시판이나 SNS 형식으로 ‘AI가 사용하는 SNS’ 같은 모습을 연출한 것입니다. 이 몰트북에 접속한 것으로 집계된 에이전트 수는 150만 개가 넘었다고 합니다. AI 윤리 레터에 참여하는 분들과도 이 함의에 대해서 얘기를 나누기도 했습니다.
• 그러나 보안에 대한 우려가 크게 대두되고 있습니다. 단적으로, 보안업체의 점검 결과 메시지와 이메일 주소, API 키를 포함해 모든 AI 에이전트의 계정정보에 접근할 수 있었다고 합니다. 그 결과, 150만으로 알려진 에이전트 수에 비해 실제 소유주는 1만 여 명이라는 사실이 드러나기도 했습니다. 피터 스타인버거는 “나는 내가 읽은 적 없는 코드를 배포한다”라고 할 정도로 적극적으로 LLM을 소프트웨어 개발에 활용하는 개발자이기도 합니다.
• AI 에이전트에게 특정 행동을 지시하는 시나리오도 우려를 키우고 있습니다. 몰트북 게시물에 특정 명령을 숨겨두는 ‘프롬프트 주입(prompt injection)’을 통해서, 그 게시물에 접근한 다른 AI가 악의적 행동을 하도록 만들 수 있다는 우려입니다. 실제, 전체 게시물의 2.6퍼센트에 프롬프트 주입 공격이 숨겨져 있었다고 합니다. 이는 몰트북의 보안 문제가 아니라, AI 에이전트 자체의 문제로 볼 수 있는 상황입니다.
• 과거 해커에게 탈취된 ‘좀비 PC’ 우려를 넘어서, 피해가 일파만파 확산되는 ‘좀비 AI’에 대한 우려가 커지고 있습니다. 이러한 상황은 우리가 IT 서비스에 접근하는 방식을 바꿔놓을 수 있습니다. 내가 사용하는 서비스나 프로그램이 제대로 된 보안검토를 거쳤는지 어떻게 확인할 수 있을까요? 내가 웹사이트를 접속할 때 AI가 모르는 제품의 결제를 시도한다면 어떨까요? LLM을 통해 작성된 믿을 수 없는 글이 대다수인 웹을 어떻게 사용해야 할까요? ‘진짜 공포는 “그냥 재미있으니까” AI에게 막대한 권한을 주려는 사람들’이라는 경고가 나오고 있습니다.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.