“아니에요, 엄밀히 말해 이 드라마에 기용된 건 헤이엑 씨의 디지털 닮은꼴이에요. 그 사람이 찍은 게 아니라 자기 이미지 사용을 허가했을 뿐이죠.”
— 찰리 브루커(작가), 앨리 팬키우(감독), <블랙 미러: 시즌 6 제1화 “존은 끔찍해”>

AI 윤리 뉴스 브리프

2025년 10월 넷째 주
by 🧑‍🎓민기

1. 소라 2와 혼란에 빠진 할리우드

• 저번주에 <AI 윤리 레터>는 오픈AI의 소라 2가 불러일으킨 저작권 침해 논란에 대해 전해드렸습니다. 미국영화협회(MPA)에 이어 유명 배우들이 다수 소속되어 있는 크리에이티브 아티스트 에이전시(CAA) 역시 “창작물 사용에 대한 통제, 사용 허가, 보상은 창작자의 근본적 권리이며 이를 침해하는 어떤 시도도 용납할 수 없다”라고 성명을 내어 비판했습니다.
• 반면 더 버지(The Verge)는 강경한 입장을 내지 못하고 혼란에 빠진 영화 업계의 반응을 전했습니다. 소라 2 발표 다음날 열린 블룸버그의 '스크린타임' 행사에서 수많은 연사가 “저작권을 중요하게 여긴다”라고 발언했지만, 직접적으로 오픈AI가 허가 없이 본인들의 지적재산을 학습했다고 비판한 사람은 없었다는 것입니다. 넷플릭스의 공동 CEO 그렉 피터스는 구체적인 답을 회피하며 영화 제작 과정의 대부분에 AI가 활용되는 방식에 대해 늘어놓았다고 하고요. 이 행사의 분위기를 전한 알렉스 히스(Alex Heath)는 “할리우드가 집단적 행동을 취하지 않는다면 AI 기업들은 계속해서 허락을 구하기보다 용서를 구하는 방식으로 빠져나가는 쪽으로 기울 것입니다”라고 경고했습니다.
• 소라 2가 수많은 논란을 일으키고 있지만, 오픈AI가 소라 2 공개를 철회하리라 기대하기는 어려워 보입니다. CEO 샘 올트먼은 논란을 잠재우기 위해 권리자들을 위한 수익 분배 모델을 제안하기도 했습니다. 오픈AI를 비롯한 AI 기업들이 저작권 이슈를 사실상 주도하고 있다는 지적이 나옵니다. 생산자인 배우, 작가, 감독과 소비자들의 공동대응이 필요한 시점이지 않을까 생각해 봅니다.

2. 오픈AI, 성적 콘텐츠 제공 선언에 빗발친 비판

• 또 다시 오픈AI 소식입니다. CEO 샘 올트먼은 챗GPT에 성인 인증을 도입하고 성적 대화 기능을 제공할 예정이라고 밝혔습니다. 올트먼은 “정신 건강 문제를 신중하게 다루기 위해 챗GPT에 상당한 제약을 두어 왔다”라며, “이제 우리는 심각한 정신 건강 문제를 완화할 수 있고, 새로운 도구도 생겼다”라는 이유로 제한을 완화하고자 한다고 말했습니다. 이 결정은 수많은 비판을 마주했습니다. 논란이 일자 올트먼은 “우리는 세계 도덕 경찰을 맡기 위해 선출된 이들이 아니다”라며, 영화 산업에서 성인물을 일부 허용하는 것과 별반 차이 없는 결정이라고 변호했습니다.
• 지난 7월, xAI의 그록에는 성적인 대화가 가능한 아바타가 추가되었고, 8월에는 성적 내용을 포함한 동영상 생성 기능이 추가된 적 있습니다. 기능을 공개하면서 유명인의 딥페이크 생성을 차단하지 않았다는 사실이 알려져 논란이 되기도 했습니다. 겨우 2개월 전만 해도, 올트먼은 이러한 xAI의 행보를 비판하며 “성적 대화형 아바타와 같은 기능의 유혹을 뿌리친 것을 자랑스럽게 생각한다”고 발언했다는 것이 발굴되어 또 한번 파장을 일으키고 있습니다.
• 올트먼이 말한 “성인 사용자는 성인답게 대한다”라는 규칙을 들으면 마치 이번 오픈AI의 결정이 문제가 없는 것처럼 느껴집니다. 그러나 그것은 사용자가 AI의 성적 콘텐츠에 준비되어 있을 때 가능한 주장일 것입니다. 과연 그런가요? 성적 영역 밖에서도 오픈AI는 각종 환각, 오정보, 안전에 대한 신뢰할만한 해결책을 제시하지 못하고 있습니다. 이러한 문제가 성적 영역에서 AI 분야의 성별 불평등 문제, 여성과 성소수자에 대한 혐오와 합쳐진다면 성차별과 성착취를 강화하고 혐오를 재생산하는 시스템이 만들어질 수 있습니다. 성인이라고 해서 그 누구도 이러한 문제에 대비를 갖추지는 않을 것입니다. “성인 사용자를 성인답게”라고 말하기 이전에, 우리 사회가 “여성을 인간답게” 대하고 있는지 물어야 하지 않나요?

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.