선생님은 말씀하셨다. 인생은 아름다운 거야, 강아. 그렇게 생각하지 않니? 나는 그렇게 생각한다. 나는 네가 그걸 알았으면 좋겠어. 인생은 아름다운 거다. 난 정말 그렇게 생각한다. 내가 그걸 영영 알지 못할까봐, 그게 가장 큰 걱정인 것처럼 그렇게 반복하셨다.
—한강, <아름다운 것에 대하여－최인호 선생님 영전에>

AI 윤리 뉴스 브리프

2026년 2월 넷째 주
by 🤔어쪈

1. 미국 전쟁부와 AI 기업의 손에 달린 군용 AI

연초 미군의 니콜라스 마두로 베네수엘라 대통령 체포 작전 당시 미국 전쟁부는 팔란티어에서 제작한 플랫폼을 통해 앤트로픽의 클로드 모델을 이용하고 있었습니다. 앤트로픽은 이른바 ‘헌법 기반 AI (Constitutional AI)’를 내세우며 그동안 다리오 아모데이 CEO가 공언한대로 완전한 자율 살상 무기와 미국 시민 대상의 대규모 감시에서 만큼은 클로드를 활용할 수 없다는 입장을 표해왔죠. 이러한 이용정책에는 예외가 없음을 분명히 하기 위해 팔란티어 측에 미군이 클로드를 어떻게 쓰고 있는지 문의한 사실이 펜타곤의 귀에 들어갔고, 결국 작전 상황에서 클로드의 답변 및 작동 거부를 받아들이기 힘든 미군의 심기를 건드렸습니다.

미 전쟁부가 앤트로픽을 공급망 위험 업체로 지정하는 것까지도 고려한다는 보도가 나온 이후, 현재는 한창 물밑 협상이 이뤄지고 있는 것으로 보입니다. 미군은 이미 오픈AI, 구글, xAI와도 국방·안보 분야 AI 개발 계약을 맺고 있어 앤트로픽으로서는 대등한 입장에서 협상하기 쉽지 않은 상황이죠. 아모데이 역시 수차례 회사가 채택한 안전 가이드라인을 지키기 위해 작지 않은 상업적 압박에 시달리는 중이라고 불평한 바 있습니다. 회사가 한창 상장을 앞두고 대규모 투자 유치를 진행했다는 사실도 잘 알려져 있죠.

이는 마치 AI 기업이 국가 안보라는 명분을 가진 군과 자본의 논리를 앞세운 시장으로부터 윤리적 가치를 수호하려 애쓰는 구도처럼 보이기도 합니다. 하지만 잊지 말아야 할 점은 클로드가 이미 군용 AI로 활용되고 있을 뿐더러 500조원에 가까운 기업가치를 기록중이라는 사실입니다. 시민으로서 더 걱정해야 하는 부분은 우리 모두와 불가피하게 직간접적으로 연관될 수 밖에 없는 근미래 전시 및 사변의 모습이 군 조직과 기업 간 밀실 협상 테이블 위에 놓여 있다는 점입니다.

2. 이미지 AI를 통한 성착취 금지 촉구 성명 발표

지난 2월 10일 “안전한 인터넷의 날(Safer Internet Day)”을 맞아 온라인 아동 성착취물 대응에 힘써온 WeProtect 국제 얼라이언스를 비롯한 7개 국제기구가 주도한 딥페이크 누드 합성물 근절을 촉구하는 성명서가 발표되었습니다. No to Nudify라는 제목의 캠페인에는 우리나라 방송통신미디어심의위원회를 포함하여 전세계 100여개의 기관과 일부 전문가가 서명했습니다.

올해 1월 X(구 트위터)가 AI 챗봇 그록(Grok)을 통해 누구나 쉽게 플랫폼 상의 사진으로 딥페이크 누드 합성물을 만들 수 있게한 후 성착취물의 온상이 되었다고 비판을 받은 바 있죠. 프랑스를 중심으로 X에 대한 국가 차원의 수사가 시작되긴 했지만 성명서는 특정 서비스 뿐만 아니라 해당 기술 자체가 새로운 성착취 경제를 구현하고 있다며 보다 총체적인 대응과 선제적인 규제가 필요하다고 지적합니다.

보다 구체적으로 캠페인은 각국 정부와 의회에 향후 2년 안에 딥페이크 누드 합성 기술의 개발과 배포, 상업적 이용을 금지하라고 목소리를 높입니다. 플랫폼을 비롯한 업계에는 당장 서비스 설계 시점부터 이러한 기술 이용을 원천 차단하도록 촉구하고, 시민사회 역시 관심을 갖고 적극 신고하도록 요청하고 있습니다. 전에 AI 윤리 레터에서 지적했듯, 우리는 너무도 예측하기 쉬웠음에도 불구하고 이미 누군가에겐 지옥인 현실을 마주하고 있습니다. 우리나라 정부 역시 단순히 기업에 이용자 보호 계획을 세우라고 수동적으로 대응하는 것을 넘어 보다 적극적인 문제 해결에 나서기를 바랍니다.

3. 설 연휴 앞뒤로 이어진 우리나라의 AI 정책 스퍼트

• 지난달 본격 시행된 AI 기본법(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법)과 관련하여 과학기술정보통신부의 주요 2개 고시가 행정예고를 거쳐 제정을 앞두고 있습니다. 그간 AI 윤리 및 안전 분야에서 관심을 한 몸에 받던 「고영향 인공지능과 관련한 사업자의 책무 고시」, 「인공지능 안전성 확보 의무의 이행방법 등에 관한 고시」에는 용어 정의 뿐만 아니라 규제 대상 정의나 위험 관리 방법과 같은 세부 사항이 담겼습니다. 아직 사실상 유보 기간이기도 하지만 위반 시 제재나 처벌이 약하게 규정되어 기업들의 문의가 끊겼다는 AI안전연구소장의 인터뷰가 있었습니다.
• 국가 AI 정책 청사진이 될 약 200쪽에 달하는 문서를 두고 연말연시에 단 20일동안 의견수렴을 해서 적잖은 시민을 힘들게 했던 AI행동계획 역시 이번주 수요일(2/25) 최종안 발표가 예정되어 있습니다. 이미 국무회의를 통해 대통령 및 부처 장관들에게 한차례 보고가 이뤄졌고, 100일간 100여차례 회의와 대국민 공개 의견수렴을 통해 99개 실행과제를 도출했다는데요. 의견수렴 과정에 참여한 분들은 제출했던 내용이 반영되었는지 확인해보시기 바랍니다.

• AI 정책에 대한 시민사회 의견수렴이 부족하다는 우려에 답하듯 설 연휴를 앞두고 두차례 관련 간담회가 개최되었습니다. 전체 영상(국가AI전략위원회, 과기정통부)을 공개한 점은 칭찬할만하지만, 후속 절차가 어떻게 이뤄질지는 미지수입니다. 한편 앞서 AI행동계획 보고가 이뤄진 국무회의에선 적지 않은 부처 장관 및 위원장들이 손을 들고 AI전략위원회에 자신이 빠져있다며 참여를 요청했습니다. 시민 대상의 의견수렴이 충분치 못했던 것을 넘어 행정부 안에서도 교통정리가 필요한 상황이라면 AI 정책이 잘 시행될 수 있을지 걱정은 더 커질 수 밖에 없겠죠.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.