결국, 인공지능이 등장하는 공상과학 시나리오는 지배적인 사회경제적 시스템인 자본주의에 문제를 제기하기보다는 유지하는 데 도움을 주는 듯하다.
—마크 코켈버그, <인공지능은 왜 정치적일 수밖에 없는가> 206p.

AI 윤리 뉴스 브리프

2025년 7월 첫째 주
by 🧑‍🎓민기

1. 어디까지가 공정 이용? 앤트로픽, 도서 활용에 대한 소송에서 승소

• 24일, 앤트로픽(Anthropic)이 작가들의 책을 무단으로 학습에 활용한 것에 대해 미국 샌프란시스코 연방법원이 ‘공정 이용(fair use)’에 해당한다고 판결했습니다. 안드레아 바츠, 찰스 그레이버, 커크 월리스 존슨 이 세 사람의 저서를 LLM 클로드(Claude) 학습에 사용한 것에 대해 ‘공정 이용’, 즉 저작권자의 허가를 구하지 않고도 이용이 허용되는 범위에 속한다고 본 것입니다. 다만, 데이터 수집 과정에서 앤트로픽이 7백만 권 이상의 불법 복제 도서를 수집해 보관한 것은 공정 사용에 해당하지 않고, 손해배상 해야 한다고 판결했습니다.
• 로이터가 공개한 판결문에서 재판부는 클로드의 저작물 사용이 “매우 변형적”이라며, “작가가 되고자 하는 많은 다른 (인간)독자들과 같이, 앤트로픽의 LLM은 저작물들을 앞지르거나 복제·대체하기 위해서가 아니라 어려움을 넘어 새로운 것을 창조하기 위해 저작물을 학습했다”고 언급했습니다. 또한 LLM이 폭발적으로 작품 수를 늘려 경쟁이 늘어날 것이라는 저자들의 주장에 대해서는, 그 가능성은 인정했지만 “학생들에게 글쓰기를 가르치면 경쟁 작품이 폭발적으로 늘어날 것이라는 것과 다르지 않다” “저작권법의 목적은 독창적인 저작물을 발전시키는 것이지, 저작자를 경쟁으로부터 보호하는 것이 아니다”라며 매섭게 비판했습니다.
• 다만 이것이 AI 개발자들이 공개된 저작물을 완전히 자유롭게 학습에 이용할 수 있게 하는 것은 아닙니다. 지난 2월에는 AI 스타트업인 로스 인텔리전스와 톰슨 로이터 간의 공정 이용 소송에서 톰슨 로이터가 승소했습니다. 이번 재판부 역시 이 판례를 언급하면서, 지난 사건의 경우 새로운 내용을 작성하는 AI가 아니라 직접 경쟁하기 위해 동일한 목적의 플랫폼의 데이터를 사용해 학습시킨 AI였다는 점을 차이점으로 들었습니다. 이 부분이 앞으로의 AI의 저작권 관련 소송의 쟁점이 될 것으로 보입니다.
• 그러나 기존의 ‘공정 이용’에 대한 법리와 재판부의 거친 비유가 AI 시대에 변화한 저작권의 개념을 얼마나 반영하고 있는지 의문입니다. 이번 사건에서 드러난 앤트로픽의 대규모 불법 복제 도서 활용도 비난을 피하기는 어려워 보입니다. 재판부의 말처럼, 저작권법은 “독창적인 저작물의 발전”을 목적으로 합니다. 동시에 복사되기 쉬운 지식과 창작물을 소유의 대상으로 만들어 저작자의 이익을 보호하는 이중적 역할을 해 왔죠. 좁은 범위에서 보았을 때 이번 판례는 일견 저작권법의 목적에 어긋나지 않는다고 할 수도 있겠습니다. 하지만 넓은 시각에서 본다면, AI가 저작물 시장을 점령해서 인간이 저작물 시장에 더 이상 뛰어들지 않게 되었을 때, 그 결과도 ‘독창적인 저작물의 발전’이라고 할 수 있을까요? ‘몰락’으로까지 얘기되는 스택오버플로우의 사례를 본다면 그다지 불가능한 일은 아닐 것 같습니다. 사회 공동의 지식을 영리 목적으로 이용하는 것을 어디까지 허용할지, 새로운 고민이 필요해 보입니다.

2. “AGI”, 어디 있나 했더니 오픈AI와 마이크로소프트의 계약서 위에

• 최근 AI 윤리 레터에서 오픈AI가 공익회사로 전환한다는 소식에 대해서 다뤘었습니다. 그 전환에 브레이크를 잡고 있는 것이 마이크로소프트(MS)라고도 소개했고요. MS는 오픈AI의 최대 투자자로서, 30%에 이르는 상당한 지분과 오픈AI의 제품에 대한 독점 호스팅 권한을 요구하고 있다고 합니다. 이 상황에서 뜬금없이 협상카드로 떠오른 것이 바로 “AGI 달성 여부”입니다. 현재 계약상 오픈AI가 AGI에 도달하면, MS는 파트너십을 포기해야 하기 때문입니다. MS는 이 조항을 삭제해 달라고 요구했고, 오픈AI는 이를 거부했다고 합니다.
• 샘 알트먼 오픈AI CEO는 최근 “특이점이 가까워졌다” “AGI를 만드는 방법을 알고 있다”라고 거듭 주장해 왔습니다. 반면, 사티아 나델라 MS CEO는 지난 2월 특정 기술 벤치마크가 아닌 세계 경제가 10% 성장하는 것을 AGI의 벤치마크로 삼아야 한다고 주장했습니다. AGI가 무엇인지에 대해 보편적인 정의는 없지만, 2023년 이들이 체결한 계약에서 AGI 달성의 기준을 “최소 1000억 달러(약 136조 원)의 수익을 창출할 수 있는 AI 시스템 개발”로 정의했다는 것이 유출된 적 있습니다.
• 오픈AI는 특정 기업이 AGI라는 강력한 기술을 독점하는 것을 막고자 해당 조항과 AGI 기술을 지키려고 한다고 주장합니다. 그러나 오픈AI가 AGI에 대한 희망을 부풀릴수록 결국 강해지는 것은 그 오픈AI가 경계하는 기업들의 영향력과 독점의 야욕입니다. 영리법인으로 전환해 더 많은 이익을 내겠다는 오픈AI의 계획이 자신들의 주장과 충돌하는 것은 말할 것도 없습니다. AGI가 너무나 강력해서 어떤 기업에도 내어줄 수 없다면, 왜 오픈AI가 영리법인이 되어 그것을 가져야 할까요? AGI의 선구자이자 인류의 수호자를 자처하는 오픈AI와 “최소 1000억 달러의 수익”이라는 계약서 위의 AGI의 정의가 아이러니하게 느껴집니다.

3. 과학기술정보통신부 장관에 LG AI 연구원장

• 24일, 과학기술정보통신부 장관 후보자로 배경훈 LG AI 연구원장이 지명되었습니다. LG의 LLM 엑사원(EXAONE) 개발을 이끈 것으로 알려진 인물입니다. 과학기술부 장관으로서의 적임자 여부를 묻는 질문에 배경훈 후보자는 스스로를 “AI 전문가이기 이전에 과학기술인”이라며, 기초과학 분야와 AI를 접목하는 일의 중요성을 강조했습니다.
• 배경훈 후보자 지명은 네이버 클라우드 출신 하정우 AI미래기획수석, 그리고 전 네이버 대표이사인 한성숙 중소벤처기업부 장관 후보자까지 연이은 IT 기업 출신 인사입니다. 특히, 하정우 수석은 대통령실에서 AI 정책 뿐만 아니라 과학기술연구 정책, 인구정책, 기후환경에너지 정책도 총괄하게 되는데요. 과기정통부 장관 역시 AI정책의 주무부처 장관이기도 하지만 과학기술정책과 방송·통신 분야, 우편 사무까지 관장하는 자리입니다. 그런데 이번 정부에서는 기업 출신 AI 분야 인사가 나란히 이러한 분야들과 함께 과학 정책을 전담하게 된 것입니다. AI 업계에서는 “소버린 AI”를 이들의 공통 관심사로 뽑았습니다.
• 이번 인선에 대해서 기대와 더불어 여러 우려 역시 나오고 있습니다. 참여연대는 배경훈 후보자가 최근 개인정보 유출사태를 일으킨 SK텔레콤에 재직했던 사실과 한성숙 후보자가 대표 시절 네이버가 자사의 알고리즘 조작에 대한 공정위 처분에 대해 행정소송을 제기한 점을 지적했습니다. 기초과학에 대한 홀대 기조를 반복하는 것 아니냐는 비판도 뼈아플 것 같습니다. R&D 예산 삭감의 피해를 복원하기 위해 강력한 기획재정부와 협상해야 하는 상황에서, 공직자 경험이 없는 민간 출신 장관이 역할을 다할 수 있을지 우려도 있습니다. 특히, “AI 올인”이라는 평까지 받는 이번 인사에서 과연 AI의 사회적 영향에 대한 견제방안은 무엇인지 드러난 것이 없습니다. 26일, 시민사회 역시 AI 공공성에 대한 정책이 미비하다는 점을 지적했고요. 국회 인사청문회에서 이러한 문제가 균형있게 잘 다루어질 수 있을지 지켜보아야 하겠습니다.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.