우리는 혼란스러운 상태에 불편함을 느끼기 때문에 의미를 이해했다고 판단하면 마음을 닫아버리는 성향이 있으며, 스트레스가 심한 상황에서는 이러한 성향이 더욱 심화된다. 또한,인간은 선천적으로 모순을 빠르게 해결하고 비정상적인 것을 배제해버리는 특징을 가지고 있다.
—제이미 홈스 지음, 구계원 옮김 <난센스: 불확실한 미래를 통제하는 법>

AI 윤리 뉴스 브리프

2025년 11월 둘째주
by 🎶소소

매년 이맘때쯤이면 내년의 트렌드를 전망하는 책이 쏟아집니다. 그중 『트렌드 코리아 2026』은 첫 번째 키워드로 '휴먼인더루프(Human in the Loop)'를 꼽았습니다. AI에 대한 의존이 갈수록 심해지며, 인간의 역할이 없어지는 건 아닐까 하는 걱정이 반영된 것입니다. 인간이 업무에서 완전히 배제되지 않는 방법을 찾아야 한다는 일종의 위기의식을 트렌드에서도 찾아볼 수 있는 가운데, 몇 가지 소식 전합니다.

1. AI가 훔친 예술: 반복되는 저작권 문제

일본의 콘텐츠해외유통촉진기구(CODA)가 오픈AI에 ‘일본 콘텐츠를 허락 없이 학습하지 말라’는 내용의 공개서한을 발표했습니다. 스튜디오 지브리가 소속된 단체로, 오픈AI의 동영상 생성AI 서비스 소라2가 다수의 일본 콘텐츠와 상당 부분 유사한 것이 명백한 저작권 침해에 해당한다고 주장했습니다. ‘지브리 프사’ 열풍 속에서도 공식 입장을 밝히지 않던 지브리 측이 간접적으로 견해를 밝힌 셈입니다.

덴마크 음악 저작권 단체(KODA)는 음악 생성AI 기업 Suno를 고소했습니다. 덴마크 음악을 창작자의 허락도, 대가 지급도 없이 AI 학습에 사용했다는 이유입니다. KODA는 AI가 “역사상 가장 큰 음악 도난 사건”을 벌이고 있다고 강하게 비판하며, Suno가 창작자들의 음악을 훔쳐 그들과 직접 경쟁할 수 있는 곡을 생성하는 불법적 사업 모델을 구축했다고 지적했습니다.

AI는 글, 그림, 음악을 가리지 않고 인간이 쌓아온 창작의 흔적을 데이터로 삼아, 끝없이 새로운 것을 생성하고 있습니다. 문제는 그 과정에서 인간 원저작자의 권리는 점점 희미해지고 있다는 점입니다. KODA는 책임감 있는 AI 사용을 위해서는 ‘원저작자가 정당한 대가를 받아야’ 한다고 말합니다.

그렇다면 그 ‘대가’는 얼마가 적절할까요? 누가, 어떤 기준으로, 어떻게 지불해야 할까요? 설령 정당한 대가를 지급한다 해도, 창작자들의 세계가 점점 AI 생성물에 잠식되어 가는 현실은 어떻게 다뤄야 할까요?

2. 안전을 위한 AI가 당신을 지켜본다

지난 레터에서 윤석열 정부의 경호처가 대통령 경호를 명분으로 군중 감시 AI 사업을 추진해 왔다는 사실을 전해드렸습니다. 안전을 명분으로 감시 목적을 가진 AI 비슷한 논란은 산업 현장에서도 벌어지고 있습니다.

현대제철은 공장 안전을 위해 일부 사업장에 로봇개를 이용해 공장 내부와 작업자들을 촬영한다고 합니다. 로봇개가 작업장을 순찰하며 작업자의 안전모나 장비 착용 여부를 실시간으로 확인하며 ‘안전 미준수자’를 탐지합니다.

사측은 이를 “안전 확보”와 “효율적인 관리”를 위한 조치라고 설명합니다. 그러나 노동조합은 이를 “안전을 명분으로 한 감시”라고 반박합니다. 실제로 사고 예방 효과는 미미하지만, 노동자의 행동을 감시하는 인프라로 악용될 소지가 크기 때문입니다.

무엇을 위해, 누구를 위해 기술을 쓸 것인지에 대한 분명한 기준이 없다면, 아무리 정교한 기술도 사람을 지키지 못합니다. 그러니 기술의 도입 과정에는 기술의 활용 대상이 되는 현장의 사람들의 목소리도 반드시 포함되어야 하겠습니다.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.