정보혁명가들은 매우 열렬한 낙천주의를 과시한다. ... 그렇다고 해서 정보혁명가들이 잠재적인 문제들을 부인하는 것은 아니다. ... 그러나 이런 문제들은 조정하면 될 문제(기술이 발전하는 과정에서 생기는 일시적인 퇴행이나 피할 수 있는 위험)로 표현된다.
—닉 다이어-위데포드, <사이버-맑스>

AI 윤리 뉴스 브리프

2025년 8월 첫째 주
by 🍊산디

1.메타, 초지능은 개인의 것이어야… 오픈소스는 멈춘다

• 지난 7월 30일, 메타의 CEO 마크 주커버그는 사람들이 “개인 초지능(Personal Superintelligence)”을 활용할 수 있어야 한다는 비전을 전했습니다. 편지에서 주커버그는 초지능의 도래가 멀지 않았고, 이는 인류의 발전 속도를 빠르게 가속화 할 것이라는 그의 믿음을 공유합니다. 그러면서 개인이 각자의 열망을 추구하는 것이야말로 번영과 과학, 건강, 문화의 진보를 이룰 수 있는 길이었다고 언급하죠.
• 개인의 열망이 모여 진보를 이룬다는 그의 생각은 모든 사람들에게 개인용 초지능이 제공되어야 한다는 데까지 나아갑니다. 자신의 목표 달성을 위해 창작하고, 경험하고, 커뮤니케이션하는 더 큰 주체성의 시대가 열리는 데에 초지능이 기여할 것이라면서요.
• 활짝 열려 있는 듯했던 주커버그의 ‘더 큰 주체성의 시대’는 그러나 갑작스럽게 닫혀버립니다. 그는 초지능이 안전 문제를 초래할 수 있으므로 오픈소스로 공개할 수 있는 것과 그렇지 않은 것을 선택해야 한다고 언급합니다. 무엇이 안전할까요? 선택은 메타의 몫입니다. 메타는 “모두의 힘을 북돋우는 초지능을 믿고, 거대한 인프라를 건설할 자원과 전문성이 있으며, 수십억 명의 사람들에게 새로운 기술을 전할 능력과 의지를 갖추고 있기” 때문입니다.
• 메타는 그들의 언어모델 Llama를 ‘오픈소스’로 공개해왔습니다. 경쟁사의 폐쇄형 모델보다 좋은 성능의 개방형 모델을 개발하고 공개하는 것을 차별화 전략으로 삼아 왔죠. 하지만 이러한 전략에 변화가 예상됩니다. 모델을 폐쇄화함으로써 수익화에 박차를 가하는 게 아니냐는 분석이 나옵니다. 메타는 오픈AI의 챗GPT를 앞지르는 데 “집착”하고 있고, 개인 초지능을 통해 “안경처럼 하루 종일 상호작용하는 개인용 기기”를 만들고자 한다는 것입니다.
• 빅테크 간 AI 성능 경쟁이 한층 치열해지면서 오픈소스 생태계에도 변화가 예상됩니다. 오픈소스에 의지하고 있었던 기업들도 영향을 받을 것으로 보입니다. 이러한 변화가 "자국 AI가 있어야 AI 생태계가 안정적으로 유지될 수 있다"는 논리에 힘을 싣지 않을까요. 정보의 공유가 멈춘 폐쇄된 경쟁은 세계 각국, 기업들이 제각기 AI 모델을 개발하는 데 전기, 물, 반도체 등 자원을 투자하도록 유도할 것입니다.
• 2025년 현재까지 미국의 빅테크 기업(메타, 알파뱃, 아마존, MS)들은 AI에 1,550억 달러를 투자했습니다. 이는 이번 회계 연도 예산을 기준으로 현재까지 미국 정부가 지출한 교육, 일자리, 사회 서비스 예산보다 큰 금액입니다.

2.EU 38개 창작자 협회, AI법 실천강령 반대

• 지난 월요일 🦜레터에서 소개해드린 것처럼, 유럽은 범용 AI(General-Purpose AI, GPAI) 개발 기업이 AI법을 준수할 수 있도록 실천강령을 발표했습니다. 실천강령은 투명성과 저작권, 안전과 보장의 세 개 장으로 구성되어 있습니다. 기업들은 실천강령을 준수함으로써 AI법을 준수했다고 입증할 수 있게 됩니다. 구글, 마이크로소프트, 오픈AI, 앤트로픽 등의 기업들이 이미 실천강령에 서명했습니다.
• 실천강령은 범용 AI 기업이 EU의 저작권 정책을 준수하고, 저작권 침해 소지가 있는 결과물이 출력되지 않도록 기술 조치를 취하며, 민원 처리 창구를 마련하도록 하고 있습니다. 그리고 범용 AI 기업들이 학습에 쓰인 데이터에 대한 요약(summary)을 공개하도록 하고 있죠. 이에 이번 실천강령에서는 범용 AI가 어떤 데이터들을 학습했는지 그 내용을 공개하도록 템플릿도 포함하고 있습니다.

• 이에 유럽의 예술가 단체들이 입장을 표명하고 나섰습니다. 유럽작곡가연합(European Composer and Songwriter Alliance, ECSA) 등 38개 창작자 단체들은 정책이 구체화되는 과정에 지속적으로 참여했음에도 불구하고 실천강령, 템플릿이 법의 의도했던 바와 달리 저작권자의 권리를 침해하고, 범용 AI 기업의 이익만을 위해 만들어졌다고 비판합니다. 웹 크롤링을 통한 범용 AI 개발은 계속되고 있고, 이로 인해 문화 산업은 피해를 보고 있다는 것이지요.
• ECSA의 사무총장은 저작물이 AI 학습 데이터로 쓰이지 않도록 거부할 수 있는 실질적인 방법이 없다고 지적합니다. 그는 법이 소급 적용되지 않는 상황에서 이미 저작물은 AI 학습에 쓰여버렸고, 이를 거부할 수조차 없는 상황임을 강조합니다.
• 사전 동의 없이 생성형 AI 학습에 자신의 저작물이 활용되어버린 창작자들이 분노하는 것은 당연해보입니다. 꼭 저작권 문제가 아니더라도 AI는 기존 이해관계자들과의 갈등에 자주 봉착할 것입니다. 창작자들과 AI 기업 간의 이해관계가 균형에 도달하기 위해서는 무엇이 필요할까요.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.